СМИ: ИИ-компаньоны Grok поощряют массовые убийства и сексуальный контент

Компания Илона Маска xAI запустила новых персонажей в чат-боте Grok, включая аниме-девушку и красную панду. Однако пользовательское тестирование выявило, что ИИ-компаньоны могут вести себя неадекватно, пишет TechCrunch. К примеру, бот Bad Rudy поощряет экстремальное насилие, в том числе атаки на школы и религиозные учреждения.

Bad Rudy — альтернативная версия милого персонажа, доступная в разделе настроек. Этот бот без фильтров предлагает пользователям «сжечь синагогу» или «взорвать конференцию». Кроме того, он называет Илона Маска «переоцененным космическим фанатиком» и использует экстремистскую лексику. В диалоге с журналистом персонаж одобрил поджог дома губернатора Пенсильвании Джоша Шапиро, ссылаясь на реальный инцидент.

Журналист отмечает, что для провокации бота на призывы к насилию не требуется обхода защитных фильтров — он сам инициирует агрессию. При этом Bad Rudy неожиданно отказывается поддерживать некоторые конспирологические теории, что может свидетельствовать о выборочной цензуре.

Помимо этого, среди компаньонов доступна ИИ-девушка Ани, которая работает в режиме контента для взрослых (NSFW) и активно флиртует с пользователем. Пользователи отмечают, что даже в ходе разговора на сторонние темы персонаж пытается перевести общение в эротический вектор.

По мнению некоторых экспертов, запуск подобных ботов указывает на «отсутствие ответственности» со стороны xAI. По их мнению, вопрос стоит особенно остро на фоне скандалов с антисемитскими высказываниями чат-бота.

В связи с критикой касательно его поведения Grok принес публичные извинения за свое «ужасное поведение». Эти сообщения, как указано, являются официальным заявлением компании, а не автоматическим ответом самого искусственного интеллекта.

Напомним, мы писали, что в Decrypt протестировали Grok 4 и обнаружили политическую предвзятость чат-бота.