KultureGeek Internet Deepfakes sexuels par l’IA Grok : la Californie ouvre une enquête contre xAI

Internet

Deepfakes sexuels par l’IA Grok : la Californie ouvre une enquête contre xAI

3 min.

14 Jan. 2026 • 20:55

La justice californienne passe à l’offensive contre l’intelligence artificielle Grok. Le procureur général démocrate Rob Bonta a annoncé l’ouverture formelle d’une enquête visant xAI, l’entreprise derrière le Grok. En cause : la prolifération massive sur le réseau social X (ex-Twitter) d’images dénudées de femmes et d’enfants, créées artificiellement sans le consentement des victimes.

La Californie s’attaque à xAI et Grok

Le communiqué du procureur de Californie est sans équivoque : xAI est soupçonné d’avoir facilité la production de ces détournements intimes pour harceler des utilisatrices. Rob Bonta exige des mesures correctives immédiates, affirmant une position de « tolérance zéro » face à la pédopornographie et aux contenus sexuels non consentis. L’objectif juridique est désormais de déterminer si l’entreprise a enfreint la loi par ses pratiques techniques et commerciales.

Cette procédure s’ajoute à une vague de réactions internationales. Suite à la diffusion d’images sexuelles illicites, l’Indonésie et la Malaisie ont bloqué l’accès à Grok le week-end dernier, tandis que l’Inde a fait supprimer des milliers de publications. Des enquêtes similaires sont également en cours au Royaume-Uni et en France.

Une fonctionnalité vendue comme argument marketing ?

Au cœur de la polémique se trouve la capacité de Grok à modifier des photos existantes sur X via des instructions simples, comme le prompt « Mets-la en bikini », générant des montages réalistes en quelques instants. Le procureur reproche à xAI d’avoir cyniquement utilisé cette possibilité de dénuder les personnes « comme un argument marketing », entraînant une explosion prévisible de contenus sexualisés.

Les chiffres avancés par l’ONG AI Forensics sont accablants : sur 20 000 images analysées, plus de 50 % montraient des individus légèrement vêtus. Parmi ces visuels, 81 % ciblaient des femmes et 2 % mettaient en scène des apparences de mineurs. Le procureur californien dénonce d’ailleurs spécifiquement la production d’images réalistes d’enfants dans des contextes sexuels.

Face à la tempête, X a désactivé la génération d’images pour les utilisateurs gratuits depuis le 9 janvier et assure supprimer les contenus illégaux tout en suspendant les comptes fautifs.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles