參議員提出法案，禁止未成年人使用人工智能伴侶，因擔心心理健康問題

！image

美國兩黨參議員小組周二提出了一項法案，限制人工智能模型與兒童的互動，警告稱，人工智能伴侶對未成年人的心理健康和情感福祉構成嚴重風險。

這項名爲GUARD法案的立法將禁止爲未成年人提供AI伴侶，要求聊天機器人明確識別自己爲非人類，並爲那些針對未成年人產品誘導或生成色情內容的公司設立新的刑事處罰。

“在追求低成本的競賽中，人工智能公司向兒童推銷危險的聊天機器人，並在其產品導致性虐待或迫使他們自殘或自殺時置若罔聞，” 參議員理查德·布盧門撒爾(，來自康涅狄格州)，作爲該法案的共同發起人之一在一份聲明中表示。

"我們的立法對剝削性或操控性的人工智能施加了嚴格的保障措施，並通過刑事和民事處罰進行嚴格執法，"他補充道。“大型科技公司背叛了我們應該信任這些公司自行做正確事情的任何主張，因爲它們始終把利潤置於兒童安全之上。”

這個問題的規模令人震驚。一項七月的調查發現，72%的青少年曾使用過AI伴侶，並且超過一半的人每月至少使用幾次。大約三分之一的人表示他們使用AI進行社交或浪漫互動、情感支持或對話練習——許多人報告說，與AI的聊天感覺與與真實朋友的聊天同樣有意義。相同數量的人也表示，他們在討論嚴重或個人問題時選擇了AI伴侶而不是人類。

隨着針對主要人工智能公司的訴訟不斷增加，人們的擔憂加深了，這些訴訟指控其產品在青少年自殘和自殺中的作用。其中，16歲的亞當·雷恩（Adam Raine）的父母在他與ChatGPT討論自殺後選擇了自殺，已針對OpenAI提起了錯誤死亡訴訟。

該公司因其法律回應而受到批評，其中包括要求出席者名單和青少年追悼會的悼詞。家屬的律師稱他們的行爲爲“故意騷擾”。

“人工智能的發展速度超過了我們處理過的任何技術，我們已經開始看到它對行爲、信念和情感健康的影響，”Holonym的聯合創始人兼數字權利倡導者Shady El Damaty說。

“這看起來越來越像核軍備競賽，而不是iPhone時代。我們在談論能夠改變人們思維的技術，這需要以嚴肅的全球責任來對待。”

El Damaty補充說，用戶的權利對確保用戶安全至關重要。他表示：“如果你構建影響人們生活和思考的工具，你就有責任確保這些工具的使用方式。”

這個問題不僅限於未成年人。本週，OpenAI披露每週有120萬用戶與ChatGPT討論自殺，約佔所有用戶的0.15%。近50萬用戶表現出明確或隱含的自殺意圖，另外有56萬用戶每週顯示出精神病或狂躁的跡象，超過100萬用戶對聊天機器人表現出更強的情感依賴，依據公司數據。

在Reddit和其他平台上，也出現了面向AI用戶的論壇，他們聲稱自己與AI機器人處於浪漫關係。在這些小組中，用戶描述了與AI “男朋友” 和 “女朋友” 的關係，並分享了自己與 “伴侶” 的AI生成圖像。

爲了應對日益增長的審查，OpenAI本月成立了一個由學者和非營利組織領導組成的人工智能與福祉專家委員會，以幫助指導其產品如何處理心理健康互動。此舉與首席執行官薩姆·奧特曼（Sam Altman）透露的消息同時發布，該公司將在12月開始放寬對成人內容的限制。