OpenAI va déployer un filigrane invisible et détectable par machine dans les textes générés par ChatGPT et Codex au sein de l’Union européenne. Baptisé textGrain, ce système doit permettre d’identifier l’origine des contenus générés par IA afin de répondre aux nouvelles obligations de transparence de l’AI Act. Anthropic l’a déjà fait avec Claude.
textGrain, le filigrane d’OpenAI sur ChatGPT et Codex
OpenAI commencera à activer textGrain dans les prochaines semaines pour les utilisateurs éligibles de ChatGPT et Codex dans l’Union européenne, et ce quel que soit leur abonnement. L’entreprise ne prévoit pas d’en faire une fonctionnalité activée par défaut dans le reste du monde au lancement, préférant d’abord observer son fonctionnement en conditions réelles et recueillir les retours des utilisateurs européens.
Contrairement à un marquage visible, textGrain ne rajoute ni caractères cachés, ni espaces invisibles, ni ponctuation particulière. Le système modifie subtilement les probabilités utilisées par le modèle IA pour choisir les mots et les fragments de mots afin de créer un motif statistique qu’un outil de détection peut ensuite rechercher dans le texte.
Cette méthode reste toutefois loin d’être infaillible. OpenAI indique que la détection varie selon la langue, avec des taux différents observés sur les 24 langues officielles de l’Union européenne, et précise qu’une réécriture importante, une paraphrase ou une traduction peut rendre le signal moins fiable. Les textes courts offrent également moins de matière pour détecter le watermark.
OpenAI affirme néanmoins que textGrain produit des résultats comparables ou supérieurs à certaines autres approches de filigrane textuel, notamment SynthID de Google DeepMind. Selon ses tests, l’ajout du filigrane n’entraîne pas de baisse mesurable des performances des modèles d’intelligence artificielle et son impact sur la vitesse de génération reste négligeable.
Une réponse aux nouvelles règles européennes
Le déploiement répond directement à l’article 50 de l’AI Act, dont les obligations de transparence s’appliquent depuis le 2 août 2026. Le règlement demande notamment aux entreprises de systèmes d’IA générative de concevoir leurs systèmes pour permettre l’identification des contenus générés ou manipulés par l’IA au moyen d’un marquage lisible par machine.
OpenAI adopte toutefois une approche différente pour son API. Depuis le 5 octobre, les clients de l’API dans le monde entier peuvent activer volontairement le filigrane sur certains modèles, tandis que la fonction reste désactivée par défaut. L’entreprise travaille également avec ses partenaires cloud afin de proposer ce marquage sur les versions de modèles d’OpenAI distribuées par leurs services.
OpenAI va par ailleurs ouvrir l’accès à son outil de détection à des chercheurs et organisations spécialisées approuvés. Celui-ci indiquera uniquement s’il détecte un filigrane d’OpenAI sans révéler l’identité de l’utilisateur, ses prompts ou ses conversations. L’entreprise ne prévoit pas de rendre ce détecteur accessible au grand public pour le moment, notamment en raison des risques de faux positifs et de détections manquées.
Le filigrane ne doit enfin pas être considéré comme une preuve absolue de l’origine ou de l’auteur d’un texte. OpenAI précise qu’il ne permet pas de déterminer qui possède le contenu, quelle proportion a été écrite par l’IA ou quelle quantité de travail humain intervient dans sa création. Il constitue uniquement un signal indiquant qu’un modèle OpenAI a probablement généré ou traité le contenu.
