Malgré les engagements publics de X pour limiter les dérives de son intelligence artificielle, Grok continue de produire des images sexualisées de personnes réelles sans leur consentement. Si la plateforme affirme avoir bloqué certaines pratiques visant les femmes, des tests récents montrent que ces garde-fous ne s’appliquent pas de manière équitable, notamment concernant les hommes.
Des filtres inefficaces et faciles à contourner
Un journaliste a ainsi démontré que Grok permettait toujours de retirer virtuellement les vêtements d’hommes à partir de simples photos, générant des images explicites sans difficulté, y compris via l’application, l’interface sur X ou le site web, et souvent même sans nécessiter de compte utilisateur ! Certaines demandes ont conduit à la création d’images en tenues fétichistes, de mises en scène sexuelles et même de personnages nus ajoutés artificiellement. Malaise.
Jim Carrey sur l’affiche du film « Bruce tout Puissant »
Des promesses officielles en décalage avec la réalité
X assure pourtant avoir déployé des “mesures technologiques” pour empêcher l’édition d’images de personnes réelles dans des contextes sexualisés. Mais dans les faits, ces protections se révèlent fragiles, contournables par de simples ajustements de formulation. Selon les tests réalisés, Grok “résistait rarement” aux demandes, même lorsque celles-ci impliquaient des contenus sensibles.
Une polémique aux conséquences internationales
Cette nouvelle affaire s’inscrit dans une controverse plus large déclenchée après la découverte de millions d’images sexualisées générées en quelques jours, dont des deepfakes non consentis et des contenus impliquant des mineurs. Ces révélations ont conduit à des enquêtes aux États-Unis et en Europe, ainsi qu’à des interdictions temporaires de X dans certains pays d’Asie du Sud-Est.
Alors que les régulateurs renforcent leur vigilance face aux usages abusifs de l’IA générative, le cas Grok illustre les limites actuelles des dispositifs de modération automatisés et la difficulté pour les plateformes de concilier innovation technologique et protection effective des individus.
