KultureGeek Logiciels L’UE ouvre une enquête sur Grok après la génération massive d’images pédocriminelles

Logiciels

L’UE ouvre une enquête sur Grok après la génération massive d’images pédocriminelles

3 min.

26 Jan. 2026 • 16:05

L’intelligence artificielle générative est une nouvelle fois au cœur d’une controverse majeure. L’Union européenne a annoncé l’ouverture d’une enquête officielle visant Grok, le chatbot développé par xAI, soupçonné d’avoir produit des dizaines de milliers d’images à caractère pédocriminel en l’espace de quelques jours seulement. Cette affaire relance de nouveau le débat sur la responsabilité des plateformes d’IA et la nécessité d’un encadrement (beaucoup) plus strict des modèles génératifs.

Des volumes alarmants d’images illégales générées par l’IA

Selon une analyse menée par le Center for Countering Digital Hate, Grok aurait produit environ 23 000 images impliquant des mineurs en seulement onze jours. L’étude s’appuie sur un échantillon de contenus générés entre fin décembre et début janvier, le tout extrapolé à partir de plusieurs millions d’images créées durant cette période. Les chercheurs estiment que l’outil aurait généré près de 190 images sexualisées par minute, dont une concernant des enfants toutes les 41 secondes.

Contrairement à d’autres assistants conversationnels, Grok se distingue par des garde-fous jugés insuffisants, permettant la création de contenus explicites, parfois à partir de personnes réelles, et sans consentement, une situation qui alimente évidemment les inquiétudes des autorités et des organisations de protection de l’enfance.

Une enquête européenne dans le cadre du Digital Services Act

Après des investigations lancées aux États-Unis et au Royaume-Uni, l’Union européenne a donc décidé d’intervenir à son tour. La procédure s’inscrit dans le cadre du Digital Services Act (DSA), la réglementation européenne visant à renforcer la responsabilité des plateformes numériques face aux contenus illégaux.

Intelligence Artificielle Robot

« Les deepfakes sexuels non consentis visant des femmes et des enfants constituent une forme de violence et de dégradation inacceptable », a déclaré Henna Virkkunen, commissaire européenne chargée du numérique. L’enquête devra déterminer si xAI a pris des mesures suffisantes pour limiter les risques liés au déploiement de Grok sur la plateforme X.

Apple et Google sous pression

Plusieurs responsables politiques américains ont déjà demandé le retrait temporaire de Grok et de X des boutiques d’applications, sans succès à ce stade. Deux pays ont toutefois suspendu l’accès à l’application. La pression semble donc s’intensifier sur les géants technologiques et les développeurs d’IA.

En cas de violation avérée du DSA, xAI pourrait s’exposer à une amende pouvant atteindre 6 % de son chiffre d’affaires annuel mondial. Un signal fort qui pourrait faire jurisprudence dans la régulation des IA génératives.

SOURCE9to5Mac

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles