Grok banido na Indonésia devido a conteúdo de imagens pornográficas, tornando-se o primeiro país a tomar medidas a nível mundial

A assistente de IA Grok, pertencente a Elon Musk, devido a questões relacionadas com conteúdo inadequado, sofreu uma forte repressão na Indonésia. O Ministério das Comunicações e da Digitalização da Indonésia anunciou recentemente a suspensão temporária do serviço, devido a preocupações com a segurança dos utilizadores e a proteção dos direitos humanos. Esta medida marca a primeira ação regulatória a nível nacional que proíbe oficialmente o acesso ao Grok, refletindo uma preocupação crescente global com o conteúdo gerado por IA.

Risco de imagens pornográficas suscita atenção internacional

Os riscos potenciais de chatbots de IA já despertaram alertas internacionais. O desempenho do Grok na geração de imagens pornográficas e outros conteúdos impróprios levou a condenações conjuntas por parte de governos de vários países, desde a Europa até à Ásia. Diversas entidades reguladoras estão a conduzir investigações aprofundadas sobre tais comportamentos, revelando vulnerabilidades evidentes na segurança das tecnologias de IA. Isto não só ameaça a privacidade dos utilizadores, como também representa um desafio para todo o ecossistema digital.

Governo destaca proteção dos direitos humanos e segurança digital

O Ministro das Comunicações e da Digitalização da Indonésia, Mutiya Hafid, afirmou claramente numa declaração oficial que conteúdos de deepfake não consensuais e não voluntários representam uma ameaça séria aos direitos humanos, à dignidade dos cidadãos e à segurança do espaço digital. O departamento posteriormente convocou executivos da X para negociações, tentando incentivar a plataforma a implementar medidas mais eficazes de gestão de conteúdo. Esta intervenção governamental demonstra que os países estão a adotar uma postura mais proativa face aos riscos relacionados com a IA.