KultureGeek Logiciels OpenAI présente un outil pour détecter les images générées par IA

Logiciels

OpenAI présente un outil pour détecter les images générées par IA

8 Mai. 2024 • 9:42

OpenAI, créateur de ChatGPT, a ajouté un nouvel outil pour détecter si une image a été créée avec son générateur d’images DALL-E, ainsi que de nouvelles méthodes de filigrane pour signaler plus clairement le contenu qu’il génère grâce à l’intelligence artificielle.

DALL-E 3

Un outil pour détecter les images générées par IA

L’authentification des contenus en ligne est devenue une préoccupation majeure avec l’explosion de l’IA générative, qui permet de produire toutes sortes de contenus sur simple requête — y compris de fausses photographies de personnes ou de faux enregistrements audio à des fins de fraude, par exemple.

Selon des tests en interne d’OpenAI sur une version antérieure de l’outil, « il identifie correctement environ 98% des images de DALL-E 3. Moins de 0,5% des images non générées par de l’IA ont été incorrectement attribuées à DALL-E 3 », a indiqué l’entreprise.

OpenAI Outil Detection Image Generee Par IA

La société a toutefois précisé que son programme était moins performant quand des images créées avec DALL-E 3 ont ensuite été retouchées ou quand elles ont été générées par d’autres modèles, comme Midjourney.

OpenAI a par ailleurs annoncé qu’il ajouterait désormais des marques en filigrane aux images d’IA, afin de respecter les normes de la Coalition for Content Provenance and Authenticity (C2PA). La C2PA est une initiative de l’industrie technologique qui établit des normes techniques pour déterminer la provenance et l’authenticité des contenus numériques.

Le mois dernier, Meta (Facebook, Instagram) a déclaré qu’il commencerait à étiqueter les contenus générés par l’IA à partir du mois de mai en utilisant la norme C2PA. Google a également rejoint l’initiative.

Outre l’image, il y a les sons générés par IA. OpenAI a récemment dévoilé son système Voice Engine.

Le détecteur d’images et le signal de filigrane audio sont encore en cours d’affinement. OpenAI indique qu’il a besoin d’un retour d’information de la part des utilisateurs pour tester son efficacité. Les chercheurs et les groupes journalistiques à but non lucratif peuvent tester la détection d’images en l’appliquant à la plateforme d’accès à la recherche d’OpenAI.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles