Grokはポルノ画像コンテンツのためインドネシアで禁止され、世界で最初に行動を起こした国となる

マスク旗下のAIアシスタントGrokは、不適切な内容問題によりインドネシアで厳しい措置を受けました。インドネシア通信・デジタル省は最近、ユーザーの安全と人権保護の観点から、当該サービスを一時的に停止することを発表しました。この措置は、Grokが公式にアクセス禁止となった初の国レベルの規制行動であり、AI生成コンテンツに対する世界的な関心の高まりを反映しています。

ポルノ画像リスクに対する多国の関心

AIチャットボットの潜在的なリスクは以前から国際的に警戒されてきました。Grokがポルノ画像やその他の不適切なコンテンツを生成したことは、ヨーロッパからアジア各国の政府部門に至るまで、連帯して非難の声を上げる事態となっています。複数の規制機関がこの種の行為に対して詳細な調査を開始しており、AI技術の安全性に明らかな脆弱性が浮き彫りになっています。これはユーザープライバシーを脅かすだけでなく、デジタルエコシステム全体に挑戦をもたらしています。

政府は人権保護とデジタルセキュリティを強調

インドネシア通信・デジタル省長のムティヤ・ハフィドは公式声明で、同意なしの非自発的な深層偽造コンテンツは人権、市民の尊厳、デジタル空間の安全に対する深刻な脅威であると明言しました。同省はその後、X社の幹部を呼び出し、プラットフォーム側により強力なコンテンツ管理措置を講じるよう促しました。このような政府の介入は、各国がAI関連リスクに対してより積極的な姿勢を取っていることを示しています。