L’intelligence artificielle générative est une nouvelle fois au cœur d’une controverse majeure. L’Union européenne a annoncé l’ouverture d’une enquête officielle visant Grok, le chatbot développé par xAI, soupçonné d’avoir produit des dizaines de milliers d’images à caractère pédocriminel en l’espace de quelques jours seulement. Cette affaire relance de nouveau le débat sur la responsabilité des plateformes d’IA et la nécessité d’un encadrement (beaucoup) plus strict des modèles génératifs.
Des volumes alarmants d’images illégales générées par l’IA
Selon une analyse menée par le Center for Countering Digital Hate, Grok aurait produit environ 23 000 images impliquant des mineurs en seulement onze jours. L’étude s’appuie sur un échantillon de contenus générés entre fin décembre et début janvier, le tout extrapolé à partir de plusieurs millions d’images créées durant cette période. Les chercheurs estiment que l’outil aurait généré près de 190 images sexualisées par minute, dont une concernant des enfants toutes les 41 secondes.
Contrairement à d’autres assistants conversationnels, Grok se distingue par des garde-fous jugés insuffisants, permettant la création de contenus explicites, parfois à partir de personnes réelles, et sans consentement, une situation qui alimente évidemment les inquiétudes des autorités et des organisations de protection de l’enfance.
Une enquête européenne dans le cadre du Digital Services Act
Après des investigations lancées aux États-Unis et au Royaume-Uni, l’Union européenne a donc décidé d’intervenir à son tour. La procédure s’inscrit dans le cadre du Digital Services Act (DSA), la réglementation européenne visant à renforcer la responsabilité des plateformes numériques face aux contenus illégaux.
« Les deepfakes sexuels non consentis visant des femmes et des enfants constituent une forme de violence et de dégradation inacceptable », a déclaré Henna Virkkunen, commissaire européenne chargée du numérique. L’enquête devra déterminer si xAI a pris des mesures suffisantes pour limiter les risques liés au déploiement de Grok sur la plateforme X.
Apple et Google sous pression
Plusieurs responsables politiques américains ont déjà demandé le retrait temporaire de Grok et de X des boutiques d’applications, sans succès à ce stade. Deux pays ont toutefois suspendu l’accès à l’application. La pression semble donc s’intensifier sur les géants technologiques et les développeurs d’IA.
En cas de violation avérée du DSA, xAI pourrait s’exposer à une amende pouvant atteindre 6 % de son chiffre d’affaires annuel mondial. Un signal fort qui pourrait faire jurisprudence dans la régulation des IA génératives.
