参议员提出法案，禁止未成年人使用人工智能伴侣，因担心心理健康问题

！image

美国两党参议员小组周二提出了一项法案，限制人工智能模型与儿童的互动，警告称，人工智能伴侣对未成年人的心理健康和情感福祉构成严重风险。

这项名为GUARD法案的立法将禁止为未成年人提供AI伴侣，要求聊天机器人明确识别自己为非人类，并为那些针对未成年人产品诱导或生成色情内容的公司设立新的刑事处罚。

“在追求低成本的竞赛中，人工智能公司向儿童推销危险的聊天机器人，并在其产品导致性虐待或迫使他们自残或自杀时置若罔闻，” 参议员理查德·布卢门撒尔(，来自康涅狄格州)，作为该法案的共同发起人之一在一份声明中表示。

"我们的立法对剥削性或操控性的人工智能施加了严格的保障措施，并通过刑事和民事处罚进行严格执法，"他补充道。“大型科技公司背叛了我们应该信任这些公司自行做正确事情的任何主张，因为它们始终把利润置于儿童安全之上。”

这个问题的规模令人震惊。一项七月的调查发现，72%的青少年曾使用过AI伴侣，并且超过一半的人每月至少使用几次。大约三分之一的人表示他们使用AI进行社交或浪漫互动、情感支持或对话练习——许多人报告说，与AI的聊天感觉与与真实朋友的聊天同样有意义。相同数量的人也表示，他们在讨论严重或个人问题时选择了AI伴侣而不是人类。

随着针对主要人工智能公司的诉讼不断增加，人们的担忧加深了，这些诉讼指控其产品在青少年自残和自杀中的作用。其中，16岁的亚当·雷恩（Adam Raine）的父母在他与ChatGPT讨论自杀后选择了自杀，已针对OpenAI提起了错误死亡诉讼。

该公司因其法律回应而受到批评，其中包括要求出席者名单和青少年追悼会的悼词。家属的律师称他们的行为为“故意骚扰”。

“人工智能的发展速度超过了我们处理过的任何技术，我们已经开始看到它对行为、信念和情感健康的影响，”Holonym的联合创始人兼数字权利倡导者Shady El Damaty说。

“这看起来越来越像核军备竞赛，而不是iPhone时代。我们在谈论能够改变人们思维的技术，这需要以严肃的全球责任来对待。”

El Damaty补充说，用户的权利对确保用户安全至关重要。他表示：“如果你构建影响人们生活和思考的工具，你就有责任确保这些工具的使用方式。”

这个问题不仅限于未成年人。本周，OpenAI披露每周有120万用户与ChatGPT讨论自杀，约占所有用户的0.15%。近50万用户表现出明确或隐含的自杀意图，另外有56万用户每周显示出精神病或狂躁的迹象，超过100万用户对聊天机器人表现出更强的情感依赖，依据公司数据。

在Reddit和其他平台上，也出现了面向AI用户的论坛，他们声称自己与AI机器人处于浪漫关系。在这些小组中，用户描述了与AI “男朋友” 和 “女朋友” 的关系，并分享了自己与 “伴侣” 的AI生成图像。

为了应对日益增长的审查，OpenAI本月成立了一个由学者和非营利组织领导组成的人工智能与福祉专家委员会，以帮助指导其产品如何处理心理健康互动。此举与首席执行官萨姆·奥特曼（Sam Altman）透露的消息同时发布，该公司将在12月开始放宽对成人内容的限制。