Après avoir proposé la détection d’images générée par intelligence artificielle, Google franchit une nouvelle étape dans la lutte contre la désinformation. Gemini permet désormais d’analyser des fichiers vidéo pour déterminer s’ils ont été créés ou modifiés par l’IA de Google. Cette fonctionnalité, promise lors du lancement de Nano Banana Pro, est disponible dès maintenant dans tous les pays et langues supportés par l’application.
Une analyse précise via le filigrane SynthID
Le processus de vérification repose sur la technologie SynthID, un filigrane numérique imperceptible intégré aux outils de Google. Pour l’utiliser, il suffit d’envoyer une vidéo à Gemini et de poser une question directe, telle que : « Cela a-t-il été généré à l’aide de l’IA de Google ? ».
L’outil scanne alors les pistes visuelles et sonores à la recherche de cette signature numérique. La réponse fournie est détaillée et temporelle. Gemini peut par exemple indiquer : « SynthID détecté dans l’audio entre 10 et 20 secondes. Aucun SynthID détecté dans les visuels ».
Les utilisateurs doivent toutefois respecter certaines contraintes techniques. La taille maximale du fichier est de 100 Mo, ce qui n’est pas bien lourd. Aussi, la durée maximale est de 90 secondes.
Les limites d’un système fragmenté
Si cette nouveauté est sympathique, elle se heurte à un problème structurel majeur : l’absence de standardisation. La détection fonctionne uniquement si le contenu porte le filigrane SynthID. Or, bien que Google et des partenaires comme Nvidia ou Hugging Face l’utilisent, le reste de l’écosystème IA ne l’a pas adopté. Par conséquent, Gemini reste aveugle face aux photos et vidéos générés par des outils concurrents qui ne sont pas partenaires.
La robustesse de ces marquages pose également question. OpenAI en a fait l’expérience avec son application Sora, où les filigranes se sont avérés faciles à supprimer. Google assure que son propre marqueur est imperceptible, mais sa résistance aux manipulations reste à prouver. De plus, bien que le modèle de génération d’images Nano Banano intègre les métadonnées C2PA, le manque de coordination entre les réseaux sociaux pour étiqueter systématiquement les contenus générés par IA laisse encore le champ libre à la circulation de nombreux deepfakes non détectés.
