C’était annoncé et c’est désormais effectif : OpenAI vient d’introduire de nouvelles métadonnées pour les images générées via ChatGPT par DALL-E 3, métadonnées qu préciseront la nature artificielle de ces images.? L’objectif est bien sûr d’éviter que les images générées par DALL-E puissent être utilisées pour tromper les utilisateurs ou dans des campagnes de désinformation massives. La société dirigée par Sam Altman annonce aussi qu’elle étendra cette nouvelle fonctionnalité aux versions mobiles de ChatGPT d’ici le 12 février.
Portrait généré par DALL-E. Dans ChatGPT, la version de DALL-E ne permet pas d’obtenir des images aussi photo-réalistes, afin de justement limiter les risques de désinformation
Cette initiative d’OpenAI s’appuie sur la norme ouverte C2PA (Coalition for Content Provenance and Authenticity), qui permet aux utilisateurs de contrôler l’origine des images via l’outil Content Credentials Verify. Cela signifie que les images créées via ChatGPT incluent désormais des métadonnées qui révéleront leur origine artificielle via l’outil Content Credentials Verify. OpenAI reconnaît cependant sur sa page FAQ que cette approche ne constitue pas une solution parfaite au grave problème de la désinformation en ligne, et que l’objectif est de promouvoir l’engagement actif des utilisateurs dans la vérification des sources de contenu.
OpenAI n’est pas la seule entreprise du secteur à privilégier des métadonnées pour la vérification de l’origine des images : DeepMind de Google a développé SynthID, qui ajoute des filigranes numériques aux images et à l’audio créés par l’IA, une solution envisagée aussi par Meta, en sus de la vérification des images publiées sur Instagram, Facebook et WhatsApp.
