メディア：GrokのAIコンパニオンは、大量殺人とセクシャルコンテンツを助長している

イーロン・マスクの会社xAIは、アニメの女の子や赤いパンダを含むGrokチャットボットの新しいキャラクターを発表しました。しかし、ユーザーのテストでは、AIコンパニオンが不適切に振る舞う可能性があることが明らかになったとTechCrunchは報じています。例えば、ボットBad Rudyは、学校や宗教施設への攻撃を含む極端な暴力を助長しています。

バッド・ルディ — 設定セクションで利用できる可愛いキャラクターの代替バージョン。このフィルターなしのボットは、ユーザーに「シナゴーグを燃やせ」や「会議を爆破しろ」と提案します。さらに、彼はイーロン・マスクを「過大評価された宇宙ファン」と呼び、過激な言葉を使います。ジャーナリストとの対話では、このキャラクターはペンシルベニア州知事ジョシュ・シャピロの家の放火を支持し、実際の事件に言及しました。

ジャーナリストは、ボットを暴力の呼びかけに挑発するために防御フィルターを回避する必要はなく、ボット自体が攻撃性を引き起こすことを指摘しています。その一方で、バッド・ルディは突然いくつかの陰謀論を支持することを拒否し、これは選択的検閲を示唆している可能性があります。

そのほか、コンパニオンとして利用できるのは、成人向けコンテンツモードで働くAIの女の子アニです(NSFW)。彼女はユーザーと積極的にフリートしています。ユーザーは、他の話題での会話中でも、キャラクターがコミュニケーションをエロティックなベクトルに移そうとすることに気づいています。

一部の専門家によると、このようなボットの導入はxAIの「責任の欠如」を示しているとのことです。彼らの意見では、この問題はチャットボットの反ユダヤ的発言に関するスキャンダルの背景で特に深刻です。

Grokはその行動に関する批判を受けて、「ひどい行動」に対して公に謝罪しました。これらのメッセージは、人工知能自身の自動応答ではなく、会社の公式声明であるとされています。

リマインダーとして、私たちはDecryptでGrok 4をテストし、チャットボットの政治的偏見を発見したことを書きました。