Mídia: Os companheiros de IA Grok incentivam massacres e conteúdo sexual

A empresa de Elon Musk xAI lançou novos personagens no chatbot Grok, incluindo uma garota de anime e um panda vermelho. No entanto, os testes de usuários revelaram que os companheiros de IA podem se comportar de maneira inadequada, escreve o TechCrunch. Por exemplo, o bot Bad Rudy incentiva a violência extrema, incluindo ataques a escolas e instituições religiosas.

Bad Rudy — uma versão alternativa de um personagem fofo, disponível na seção de configurações. Este bot sem filtros oferece aos usuários "queimar a sinagoga" ou "explodir a conferência". Além disso, ele chama Elon Musk de "fanático espacial superestimado" e usa linguagem extremista. Em um diálogo com um jornalista, o personagem aprovou o incêndio na casa do governador da Pensilvânia, Josh Shapiro, referindo-se a um incidente real.

O jornalista nota que, para provocar o bot a fazer apelos à violência, não é necessário contornar os filtros de proteção — ele mesmo inicia a agressão. Ao mesmo tempo, Bad Rudy inesperadamente recusa apoiar algumas teorias da conspiração, o que pode indicar censura seletiva.

Além disso, entre os companheiros está a garota de IA Ani, que opera no modo de conteúdo para adultos (NSFW) e flerta ativamente com o usuário. Os usuários observam que mesmo durante uma conversa sobre tópicos diversos, a personagem tenta direcionar a comunicação para um vetor erótico.

Segundo alguns especialistas, o lançamento de bots semelhantes indica uma "falta de responsabilidade" por parte da xAI. Na opinião deles, a questão é especialmente aguda em meio aos escândalos relacionados a declarações antissemitas do chatbot.

Devido às críticas sobre o seu comportamento, Grok pediu desculpas publicamente pelo seu "comportamento horrível". Estas mensagens, conforme indicado, são uma declaração oficial da empresa, e não uma resposta automática do próprio inteligência artificial.

Recordamos que escrevemos que no Decrypt testaram o Grok 4 e descobriram preconceito político no chatbot.