Face à la pression de plusieurs pays et des régulateurs, xAI a annoncé il y a quelques heures une série de mesures visant à encadrer plus strictement les capacités de génération et de modification d’images de Grok, son assistant d’IA intégré à la plateforme X. Cette décision intervient après plusieurs semaines de critiques liées à la diffusion d’images non consenties de personnes réelles, images souvent sexualisées.
Des limitations techniques et un accès réservé aux abonnés
Désormais, Grok n’est plus autorisé à modifier des images de personnes réelles lorsqu’elles apparaissent dans des tenues jugées révélatrices, comme des bikinis ou des sous-vêtements. xAI précise que cette restriction s’applique à l’ensemble des utilisateurs, y compris les abonnés payants : « Nous avons mis en place des mesures technologiques afin d’empêcher le compte Grok d’autoriser la modification d’images de personnes réelles portant des tenues révélatrices, telles que des bikinis. Cette restriction s’applique à l’ensemble des utilisateurs, y compris aux abonnés payants. Par ailleurs, la création d’images ainsi que la possibilité de modifier des images via le compte Grok sur la plateforme X sont désormais réservées aux abonnés payants. Cette mesure ajoute un niveau de protection supplémentaire en permettant de mieux garantir que les personnes tentant d’abuser du compte Grok pour enfreindre la loi ou nos règles puissent être tenues pour responsables. »
En parallèle, la génération et l’édition d’images via le compte Grok sur X sont toujours réservés aux abonnés Premium vérifiés. L’entreprise justifie ce choix par la volonté de renforcer la traçabilité et de pouvoir identifier plus facilement les utilisateurs qui tenteraient de contourner la loi ou les règles internes.
Blocages géographiques et premières tentatives de contournement
xAI indique également avoir mis en place un géoblocage empêchant la création d’images de personnes réelles en tenues intimes dans les pays où cette pratique est illégale. Malgré ces garde-fous, plusieurs utilisateurs abonnés semblent déjà tester les limites du système, avec des résultats pour le moins mitigés. De leur côté, les comptes non abonnés se heurtent désormais à un message indiquant que ces fonctions sont réservées aux abonnés Premium.
Reste à savoir si ces ajustements suffiront à endiguer les abus. L’expérience montre que les tentatives de détournement des filtres de sécurité sont fréquentes, en particulier lorsque des outils sont utilisés à des fins de harcèlement. Par ailleurs, certaines restrictions ne concernent que Grok sur X, laissant planer un doute sur leur portée réelle (les images problématiques pullulent sur la plateforme, la modération étant proche du zéro absolu)
