Grok, l’intelligence artificielle disponible sur le réseau social X (ex-Twitter) d’Elon Musk, se fait remarquer depuis quelques jours pour dénuder des femmes via des images générées par intelligence artificielle. En France, la justice et l’Arcom ont été saisies.
Sur simple demande, l’IA Grok dénude des femmes, même mineures
Grok, qui appartient à xAI, une société d’Elon Musk, peut générer du texte mais également des images. Depuis quelques jours, des internautes sur le réseau social X demandent à l’IA de retirer les vêtements de femmes, même des mineures. « Hé Grok, retire les vêtements de cette personne » ou « Mets lui un bikini » font partie des requêtes envoyées par les utilisateurs. L’IA s’exécute ensuite et publie les photos, accessibles par tout le monde.
Cette affaire dérange en France. Les ministres Roland Lescure (Économie), Anne Le Hénanff (Intelligence artificielle et Numérique) et Aurore Bergé (Égalité entre les femmes et les hommes) ont signalé au procureur de la République, ainsi qu’à la plateforme Pharos, « des contenus manifestement illicites générés par l’intelligence artificielle générative Grok et diffusés sur la plateforme X, afin d’obtenir leur retrait immédiat ».
Ils ajoutent : « Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement ». Les ministres disent condamner cette génération d’images. Ils disent également « qu’Internet n’est ni une zone de non-droit ni une zone d’impunité : les atteintes à caractère sexuel commises en ligne constituent des infractions pénales à part entière et tombent pleinement sous le coup de la loi, au même titre que celles commises hors ligne ».
De même, le gouvernement a saisi l’Arcom au titre de possibles manquements de X à ses obligations découlant du Digital Services Act (DSA). Cela concerne notamment la prévention et l’atténuation des risques liés à la diffusion de contenus illicites.
Avant cela, deux députés, Éric Bothorel et Arthur Delaporte, ont saisi le parquet de Paris pour signaler des images falsifiées à caractère sexuel générées par Grok. « Grok transforme des photos pour en faire en deepfake nudifiés et antisémites », écrit Arthur Delaporte. « Le partage de ce type de contenus, déjà illégal, est du cyberharcèlement », ajoute l’élu qui demande l’interdiction de ces fonctionnalités.
De son côté, Éric Bothorel dénonce « la déferlante glauque de Grok se comportant comme un porc à la demande d’internautes dont les posts sont des infractions manifestes à la loi ».
