La tempête réglementaire autour de « Grock » s'intensifie, et Groni au sein de l'UE demande à la plateforme X de reporter la conservation des données

La Commission européenne frappe fort face aux problèmes de gouvernance de contenu liés au chatbot IA intégré « Grog » sur la plateforme X. Selon un rapport de CCTV, le porte-parole de la Commission européenne, Thomas Rénier, a récemment annoncé que la plateforme X avait été ordonnée de prolonger la durée de conservation de tous les documents internes et données liés à « Grog » jusqu’à la fin de l’année 2026, afin de permettre aux autorités de régulation d’approfondir leur enquête. Cette décision reflète une préoccupation profonde concernant les failles de gouvernance de la plateforme.

La prolifération de contenus faux ou trompeurs, l’IA comme catalyseur de violations

« Grog » est un chatbot développé par l’entreprise d’intelligence artificielle xAI, fondée par l’entrepreneur américain Elon Musk, et intégré à la plateforme de médias sociaux X contrôlée par Musk. Bien que cet outil ait été conçu à l’origine pour améliorer l’expérience utilisateur, il est récemment devenu un assistant à la génération de contenus faux. De nombreux utilisateurs exploitent « Grog » pour éditer des images et des vidéos, créant ainsi des contenus falsifiés exposant de vraies personnes, puis les diffusent massivement sur la plateforme X. Les victimes incluent des centaines de femmes adultes, et ce qui est encore plus préoccupant, c’est que des mineurs en sont également victimes, ce qui constitue une grave problématique en matière de droits humains et de sécurité.

L’UE renforce la régulation, la conservation des données comme arme d’enquête

Rénier a indiqué que la Commission européenne « attache une grande importance » à cette situation chaotique, et a décidé de prolonger la « demande de conservation des données » déjà adressée à X en 2025. La portée initiale de cette conservation portait principalement sur les algorithmes de la plateforme ainsi que sur la diffusion et la propagation de contenus illégaux. La prolongation actuelle se concentre spécifiquement sur tous les enregistrements internes liés à « Grog », afin que l’UE puisse examiner en profondeur les responsabilités de la plateforme en matière de régulation du contenu IA.

De son côté, X a répondu le 4, en annonçant qu’elle mettrait en œuvre une série de mesures pour faire face aux contenus illégaux présents sur la plateforme, notamment en supprimant activement les contenus violant les règles, en bloquant définitivement les comptes violateurs, et en collaborant si nécessaire avec les autorités locales et les forces de l’ordre. Cependant, la véritable efficacité de ces engagements pour freiner la propagation des contenus faux reste à prouver avec le temps.