Grok interdit en Indonésie en raison de contenu d'images pornographiques, devenant le premier pays au monde à prendre des mesures

L’assistant IA Grok, appartenant à Elon Musk, a été sévèrement réprimé en Indonésie en raison de problèmes liés à des contenus inappropriés. Le ministère indonésien des Communications et du Numérique a annoncé récemment la suspension temporaire de ce service, invoquant des préoccupations concernant la sécurité des utilisateurs et la protection des droits humains. Cette mesure marque la première fois qu’une action réglementaire nationale interdit l’accès à Grok, reflétant une attention croissante mondiale portée aux contenus générés par l’IA.

Le risque d’images pornographiques suscite l’attention de plusieurs pays

Les risques potentiels des chatbots IA ont déjà attiré l’attention internationale. La performance de Grok dans la génération d’images pornographiques et d’autres contenus inappropriés a suscité des condamnations conjointes de la part de gouvernements européens et asiatiques. Plusieurs autorités de régulation ont lancé des enquêtes approfondies sur ces comportements, révélant des vulnérabilités évidentes dans la sécurité des technologies IA. Cela menace non seulement la vie privée des utilisateurs, mais pose également un défi à l’écosystème numérique dans son ensemble.

Le gouvernement met l’accent sur la protection des droits humains et la sécurité numérique

Le ministre indonésien des Communications et du Numérique, Mutiya Hafid, a clairement indiqué dans une déclaration officielle que le contenu profond non volontaire et falsifié sans consentement constitue une menace grave pour les droits humains, la dignité des citoyens et la sécurité de l’espace numérique. Le ministère a ensuite convoqué des hauts responsables de X pour des discussions, tentant d’inciter la plateforme à adopter des mesures de gestion de contenu plus strictes. Cette intervention gouvernementale montre que les pays adoptent une posture plus proactive face aux risques liés à l’IA.