C’est sans doute l’une des meilleures initiatives de Meta depuis… longtemps. La firme dirigée par Mark Zuckerberg annonce qu’elle va bientôt rajouter un « watermark » (une signature électronique) sur l’ensemble des images générées par IA qui seront diffusées sur Facebook, Instagram et Threads. Meta précise aussi qu’il sévira contre les utilisateurs qui ne signaleront pas que leurs images/vidéos/audios sont générés par l’IA. Meta dispose déjà d’un watermark de signalement de l’origine artificielle des images, « Imagined with AI”, mais ce dernier n’est pour l’instant utilisables qu’avec les seuls contenus générés par Imagine AI, le générateur d’images de Meta. bientôt donc, les utilisateurs pourront utiliser ce watermark pour l’ensemble des images/vidéos/audios générés avec Bard/Gemini, ChatGPT/Dall-E, Firefly d’Adobe, Midjourney, et bien d’autres encore…
Image générée par Midjourney
Pour Nick Clegg, « president of global affairs » chez Meta, ce nouvel outil est une étape majeure dans l’acceptation des IA au niveau social, et devrait rassurer toux ceux qui anticipent déjà de possibles dérives : « Pour ceux qui s’inquiètent du fait que le contenu vidéo et audio soit conçu pour tromper matériellement le public sur une question politiquement importante à l’approche des élections, nous allons être assez vigilants », a ainsi déclaré le dirigeant. L’initiative de Meta n’est pas un cas isolé : Adobe a récemment dévoilé le système Content Credentials qui indique l’origine artificielle des images dans les métadonnées tandis que Google a étendu son filigrane SynthID aux fichiers audio après l’avoir publié en version bêta pour les images.
Les « contrevenants » qui refuseront ou oublieront d’indiquer l' »origine IA » des contenus publiés sur Instagram,Threads ou Facebook recevront d’abord un message d’avertissement, et si rien n’est fait, le message incriminé sera supprimé par Meta. A quelques encablures des élections présidentielles américaines, l’objectif serait principalement d’empêcher que se répandent des images virales générées par l’IA (ciblant par exemple tel ou tel candidat).
