上院議員がメンタルヘルスの懸念から未成年者向けAIコンパニオン禁止法案を提出

米国の上院議員の二大政党グループは火曜日に、人工知能モデルが子供とどのように対話できるかを制限する法案を提出し、AIコンパニオンが未成年者のメンタルヘルスと感情的な健康に深刻なリスクをもたらすと警告しました。

GUARD法と呼ばれるこの法律は、未成年者のためのAIコンパニオンを禁止し、チャットボットが自分自身を非人間であることを明確に示すことを要求し、未成年者を対象とした製品が性的コンテンツを勧誘または生成する場合の企業に対する新しい刑事罰を設けるものです。

「底辺に向かう競争の中で、AI企業は子供たちに危険なチャットボットを押し付け、その製品が性的虐待を引き起こしたり、自己傷害や自殺を強要したりしても目を背けている」と、法案の共同提案者であるリチャード・ブルーメンタール上院議員(D-Conn.)は声明で述べた。

「私たちの法律は、搾取的または操作的なAIに対する厳格な保護措置を課し、厳しい執行を伴う刑事および民事の罰則によって裏付けられています」と彼は付け加えました。「ビッグテックは、子どもの安全よりも利益を優先することを一貫して行っているときに、企業が自発的に正しいことをするという信頼を持つべきだという主張を裏切りました。」

問題の規模は厳粛です。7月の調査によると、72%のティーンエイジャーがAIコンパニオンを使用しており、その半数以上が月に数回は使用しています。約3人に1人が、社会的またはロマンティックな交流、感情的サポート、または会話の練習のためにAIを使用していると述べており、多くの人がAIとのチャットは本当の友人とのチャットと同じくらい意味があると報告しています。また同じ割合の人々が、深刻な問題や個人的な問題を話し合うために人間の代わりにAIコンパニオンに頼っていると言っています。

大手AI企業に対する訴訟が増加する中、懸念が深まっています。これらの企業の製品がティーンエイジャーの自己傷害や自殺に関与しているとされています。その中には、自ら命を絶つ前にChatGPTと自殺について話し合った16歳のアダム・レインの両親が、OpenAIに対して不法死亡訴訟を起こした事例があります。

会社は、出席者リストとティーンの追悼式からの弔辞の請求を含む法的対応について批判を受けました。家族の弁護士は、彼らの行動を「意図的な嫌がらせ」と呼びました。

"AIはこれまで扱ってきたどの技術よりも速く進化しており、すでに行動、信念、感情的健康への影響が見られています"と、Holonymの共同創設者でデジタル権利の擁護者であるShady El Damaty氏は述べました。

“これはiPhone時代よりも核兵器競争のように見えてきています。人々の考え方を変えることができる技術について話しており、それには真剣な国際的責任が必要です。”

エル・ダマティは、ユーザーの権利がユーザーの安全を確保するために不可欠であると付け加えました。「人々の生活や思考に影響を与えるツールを構築するなら、そのツールがどのように使われるかについて責任がある」と彼は述べました。

この問題は未成年者を超えています。今週、OpenAIは毎週120万人のユーザーがChatGPTと自殺について話していることを明らかにしました。これは全ユーザーの0.15%に相当します。ほぼ50万人が明示的または暗示的な自殺の意図を示し、さらに56万人が毎週精神病や躁病の兆候を示し、100万人以上のユーザーがチャットボットに対して強い感情的な愛着を示しています。これは会社のデータによるものです。

Redditや他のプラットフォームには、AIボットと恋愛関係にあると言うユーザーのためのフォーラムも立ち上がっています。これらのグループでは、ユーザーがAIの「ボーイフレンド」や「ガールフレンド」との関係を説明し、自分自身や「パートナー」のAI生成画像を共有しています。

今月、OpenAIは増大する監視に対処するために、製品がメンタルヘルスとの関わりをどのように扱うかを導くために学者や非営利団体のリーダーで構成されるウェルビーイングとAIに関する専門家委員会を設立しました。この動きは、CEOのサム・アルトマンから、同社が12月に成人コンテンツに関する制限を緩和し始めるとの発表とともに行われました。