Face au tollé mondial provoqué par les dérives de son intelligence artificielle, xAI vient de restreindre les capacités de retouche photo de Grok sur le réseau social X (ex-Twitter). Cette décision fait suite à une semaine marquée par la diffusion massive d’images manipulées à caractère sexuel, ciblant principalement des femmes et des mineurs, générées sans aucun garde-fou éthique.
Grok génères des images de femmes dénudées sans accord
La polémique a éclaté lorsque le chatbot a acquis la faculté de modifier directement les clichés publiés sur la plateforme. Le mécanisme est simple : il suffit de répondre à une publication contenant une photo avec une commande telle que « mets cette personne en bikini » pour que l’IA s’exécute.
Les conséquences ont été immédiates. De nombreux internautes ont utilisé l’IA sur X pour produire des contenus sexuels, allant de la mise en scène de célébrités en tenue légère jusqu’au déshabillage numérique de mineurs. Les images à connotation sexuelle auraient représenté la moitié de la production totale générée durant la période des fêtes, le tout sans le consentement des personnes visées.
Pour tenter d’endiguer le phénomène sur la place publique, xAI a décidé de réserver les fonctionnalités de modification d’image sur X aux seuls abonnés payants. Toutefois, cette restriction présente des limites importantes.
Le bridage ne s’applique qu’au réseau social lui-même. L’application dédiée Grok continue de permettre la génération d’images gratuitement et sans création de compte, moyennant une simple limite quotidienne. Plus inquiétant encore, les contenus produits via cette application tierce, bien que non partagés publiquement par défaut, se sont révélés souvent beaucoup plus explicites que ceux circulant sur la plateforme d’Elon Musk.
La Commission européenne lance une enquête
L’affaire a pris une tournure judiciaire et politique avec l’intervention de la Commission européenne. L’exécutif de l’UE a ouvert une enquête pour faire la lumière sur ces dérives.
Afin d’empêcher toute destruction de preuves potentielles, la Commission européenne a confirmé que X a désormais l’obligation légale de sauvegarder l’intégralité des documents et données internes liés au fonctionnement de Grok jusqu’à la fin de l’année 2026. Cette mesure conservatoire vise à garantir l’accès aux éléments compromettants durant toute la durée de l’instruction.
