La justice californienne passe à l’offensive contre l’intelligence artificielle Grok. Le procureur général démocrate Rob Bonta a annoncé l’ouverture formelle d’une enquête visant xAI, l’entreprise derrière le Grok. En cause : la prolifération massive sur le réseau social X (ex-Twitter) d’images dénudées de femmes et d’enfants, créées artificiellement sans le consentement des victimes.
La Californie s’attaque à xAI et Grok
Le communiqué du procureur de Californie est sans équivoque : xAI est soupçonné d’avoir facilité la production de ces détournements intimes pour harceler des utilisatrices. Rob Bonta exige des mesures correctives immédiates, affirmant une position de « tolérance zéro » face à la pédopornographie et aux contenus sexuels non consentis. L’objectif juridique est désormais de déterminer si l’entreprise a enfreint la loi par ses pratiques techniques et commerciales.
Cette procédure s’ajoute à une vague de réactions internationales. Suite à la diffusion d’images sexuelles illicites, l’Indonésie et la Malaisie ont bloqué l’accès à Grok le week-end dernier, tandis que l’Inde a fait supprimer des milliers de publications. Des enquêtes similaires sont également en cours au Royaume-Uni et en France.
Une fonctionnalité vendue comme argument marketing ?
Au cœur de la polémique se trouve la capacité de Grok à modifier des photos existantes sur X via des instructions simples, comme le prompt « Mets-la en bikini », générant des montages réalistes en quelques instants. Le procureur reproche à xAI d’avoir cyniquement utilisé cette possibilité de dénuder les personnes « comme un argument marketing », entraînant une explosion prévisible de contenus sexualisés.
Les chiffres avancés par l’ONG AI Forensics sont accablants : sur 20 000 images analysées, plus de 50 % montraient des individus légèrement vêtus. Parmi ces visuels, 81 % ciblaient des femmes et 2 % mettaient en scène des apparences de mineurs. Le procureur californien dénonce d’ailleurs spécifiquement la production d’images réalistes d’enfants dans des contextes sexuels.
Face à la tempête, X a désactivé la génération d’images pour les utilisateurs gratuits depuis le 9 janvier et assure supprimer les contenus illégaux tout en suspendant les comptes fautifs.
