OpenAI, créateur de ChatGPT, a ajouté un nouvel outil pour détecter si une image a été créée avec son générateur d’images DALL-E, ainsi que de nouvelles méthodes de filigrane pour signaler plus clairement le contenu qu’il génère grâce à l’intelligence artificielle.
Un outil pour détecter les images générées par IA
L’authentification des contenus en ligne est devenue une préoccupation majeure avec l’explosion de l’IA générative, qui permet de produire toutes sortes de contenus sur simple requête — y compris de fausses photographies de personnes ou de faux enregistrements audio à des fins de fraude, par exemple.
Selon des tests en interne d’OpenAI sur une version antérieure de l’outil, « il identifie correctement environ 98% des images de DALL-E 3. Moins de 0,5% des images non générées par de l’IA ont été incorrectement attribuées à DALL-E 3 », a indiqué l’entreprise.
La société a toutefois précisé que son programme était moins performant quand des images créées avec DALL-E 3 ont ensuite été retouchées ou quand elles ont été générées par d’autres modèles, comme Midjourney.
OpenAI a par ailleurs annoncé qu’il ajouterait désormais des marques en filigrane aux images d’IA, afin de respecter les normes de la Coalition for Content Provenance and Authenticity (C2PA). La C2PA est une initiative de l’industrie technologique qui établit des normes techniques pour déterminer la provenance et l’authenticité des contenus numériques.
Le mois dernier, Meta (Facebook, Instagram) a déclaré qu’il commencerait à étiqueter les contenus générés par l’IA à partir du mois de mai en utilisant la norme C2PA. Google a également rejoint l’initiative.
Outre l’image, il y a les sons générés par IA. OpenAI a récemment dévoilé son système Voice Engine.
Le détecteur d’images et le signal de filigrane audio sont encore en cours d’affinement. OpenAI indique qu’il a besoin d’un retour d’information de la part des utilisateurs pour tester son efficacité. Les chercheurs et les groupes journalistiques à but non lucratif peuvent tester la détection d’images en l’appliquant à la plateforme d’accès à la recherche d’OpenAI.
Lisez aussi ces autres articles !
Pas d'articles en relation.
![image produit Panasonic KX-TG6822 Téléphones Sans fil Répondeur Ecran [Version Française]](https://kulturegeek.fr/comparateur/img_products/3410/panasonic-kx-tg6822-duo-telephones-sans-fil-repondeur-noir-gris-18002_thumb.jpg)
