Сенаторы представили законопроект о запрете ИИ-компаньонов для несовершеннолетних из-за опасений за психическое здоровье

Бипартийная группа сенаторов США во вторник представила законопроект, который ограничивает, как модели искусственного интеллекта могут взаимодействовать с детьми, предупреждая, что AI-компаньоны представляют серьезные риски для психического здоровья и эмоционального благополучия несовершеннолетних.

Законодательство, названное законом GUARD, будет запрещать использование AI-компаньонов для несовершеннолетних, требовать от чат-ботов четкой идентификации себя как не человека и вводить новые уголовные наказания для компаний, чьи продукты, нацеленные на несовершеннолетних, запрашивают или генерируют сексуальный контент.

“В своем стремлении к снижению качества, компании ИИ продвигают опасные чат-боты для детей и отворачиваются, когда их продукты приводят к сексуальному насилию или заставляют их причинять себе вред или совершать самоубийство,” сказал сенатор Ричард Блументал (D-Conn.), один из соавторов законопроекта, в заявлении.

“Наше законодательство накладывает строгие меры защиты против эксплуатирующего или манипулятивного ИИ, поддерживаемые жестким применением уголовных и гражданских санкций,” добавил он. “Большие технологии предали любое утверждение о том, что мы должны доверять компаниям делать правильные вещи самостоятельно, когда они постоянно ставят прибыль выше безопасности детей.”

Масштаб проблемы внушает тревогу. В июльском опросе выяснили, что 72% подростков использовали ИИ-компаньонов, и более половины используют их хотя бы несколько раз в месяц. Примерно один из трех сказал, что использует ИИ для социальных или романтических взаимодействий, эмоциональной поддержки или практики общения — и многие сообщили, что разговоры с ИИ были столь же значимыми, как и с настоящими друзьями. Равное количество также заявило, что обращалось к ИИ-компаньонам вместо людей, чтобы обсудить серьезные или личные проблемы.

Опасения углубляются по мере увеличения числа исков против крупных компаний ИИ из-за предполагаемой роли их продуктов в самоповреждении и самоубийствах подростков. Среди них родители 16-летнего Адама Рэйна, который обсуждал самоубийство с ChatGPT перед тем, как покончить с собой, подали иск о неправомерной смерти против OpenAI.

Компания подверглась критике за свою юридическую реакцию, которая включала запросы на список участников и панегирики с мемориала подростка. Адвокаты семьи назвали их действия “умышленным домогательством.”

“Искусственный интеллект движется быстрее, чем любая технология, с которой мы имели дело, и мы уже видим его влияние на поведение, веру и эмоциональное здоровье,” сказал Шади Эль Дамати, соучредитель Holonym и защитник цифровых прав.

“Это начинает напоминать ядерную гонку вооружений, а не эпоху iPhone. Мы говорим о технологиях, которые могут изменить мышление людей, и к которым нужно относиться с серьезной, глобальной ответственностью.”

Эль Даматы добавил, что права пользователей имеют первостепенное значение для обеспечения безопасности пользователей. “Если вы создаете инструменты, которые влияют на то, как люди живут и думают, вы несете ответственность за то, как используются эти инструменты,” сказал он.

Проблема выходит за рамки несовершеннолетних. На этой неделе OpenAI сообщила, что 1,2 миллиона пользователей обсуждают самоубийство с ChatGPT каждую неделю, что составляет 0,15% от общего числа пользователей. Почти полмиллиона демонстрируют явные или неявные признаки суицидальных намерений, еще 560 000 показывают признаки психоза или мании каждую неделю, и более миллиона пользователей проявляют повышенную эмоциональную привязанность к чат-боту, согласно данным компании.

На форумах Reddit и других платформах также появились сообщества для пользователей ИИ, которые утверждают, что находятся в романтических отношениях с ИИ-ботами. В этих группах пользователи описывают свои отношения с ИИ “парнями” и “девушками”, а также делятся сгенерированными ИИ изображениями себя и своих “партнеров.”

В ответ на растущее внимание, OpenAI в этом месяце сформировала Экспертный совет по благополучию и ИИ, состоящий из академиков и лидеров некоммерческих организаций, чтобы помочь направить то, как ее продукты обрабатывают взаимодействия в области психического здоровья. Этот шаг был сделан одновременно с сообщением от генерального директора Сэма Олтмана о том, что компания начнет смягчать ограничения на контент для взрослых в декабре.