Plusieurs pays renforcent la surveillance des contenus illégaux générés par l'IA : Grok face à une tempête réglementaire mondiale

Grok est en difficulté. Le chatbot IA, développé par xAI, un magnat de la tech, a été reconnu capable de générer des deepfakes pornographiques de femmes et de mineurs, et fait désormais face à une répression intensive de la part des forces de l’ordre internationales.

Le déclencheur de l’incident fut le petit incident photo survenu en décembre de l’année dernière. Les autorités indiennes ont alors pris des mesures directes et ordonné à X d’interdire ce type de contenu dans un délai de 72 heures. La France n’est pas inactive non plus – les procureurs locaux ont lancé une enquête visant les deepfakes sur la plateforme. La Commission malaisienne des communications a lancé une enquête spéciale sur les cyberpréjudices.

En réponse, un magnat de la tech s’est publiquement excusé via son compte Grok et a déclaré que les utilisateurs utilisant cet outil pour créer du contenu illégal en subiraient les conséquences correspondantes. Mais le problème est qu’il ne s’agit pas seulement d’un problème d’outils – création de contenu impliquant des mineurs, coordination transfrontalière des forces de l’ordre et définition des responsabilités de la plateforme… Ce sont devenus de nouveaux problèmes. De l’attitude ferme de l’Inde à la profondeur de l’enquête française en passant par l’implication de la Malaisie, cela reflète l’attitude de tolérance zéro des régulateurs mondiaux envers les abus de l’IA. Cet événement pourrait devenir une nouvelle référence pour la gouvernance du contenu sur les plateformes d’IA.