Générer des images réalistes de personnes avec des outils IA est devenu presque trivial, ce qui soulève de nombreuses inquiétudes concernant la capacité de détection de ces images artificielles. Des chercheurs de l’Université de Hull ont développé une nouvelle méthode pour détecter les images deepfake générées par l’IA, en analysant les reflets dans les yeux humains. Cette technique, présentée lors du congrès de la Royal Astronomical Society, adapte les outils utilisés par les astronomes pour étudier les galaxies afin d’examiner la cohérence des réflexions lumineuses dans les globes oculaires. La méthode est basée sur le principe selon lequel les reflets dans les deux yeux doivent être similaires (voire quasi identiques) lorsqu’ils sont éclairés par la même source de lumière, un détail très souvent négligé dans les images générées par l’IA.
A gauche, une vraie photo et des réflexions lumineuses identiques sur chaque oeil ; à droite, une image générée par IA
De l’étude des Galaxies à l’analyse des reflets dans l’oeil
Sous la direction du Dr Kevin Pimbblet, Adejumoke Owolabi, un étudiant-chercheur, a développé une technique de détection automatisée qui analyse les reflets dans les globes oculaires. Les chercheurs ont utilisé le coefficient de Gini, une mesure généralement utilisée pour la distribution de la lumière dans les images de galaxies, pour évaluer l’uniformité des réflexions. Leurs résultats ont montré que les deepfakes présentent presque systématiquement des différences entre les reflets de chaque œil, ce qui fournit une méthode quantifiable pour détecter les incohérences.
Un groupe d’images générées par IA. Les réflexions dans les yeux ne sont pas cohérentes
Malgré les résultats, un outil parmi d’autres
Si les atouts de cette technique d’analyse de réflexion oculaire semblent plus que probants, les modèles d’IA pourraient finir par produire des réflexions oculaires nettement plus crédibles. De plus, la méthode nécessite des vues claires et rapprochées des globes oculaires et peut produire des faux positifs en raison de conditions d’éclairage variées ou du post-traitement de photos authentiques. Néanmoins, cette technique pour le moins originale pourrait être un ajout précieux à un ensemble complet d’outils de détection des deepfakes, en tenant compte d’autres facteurs tels que la texture des cheveux, l’anatomie et la cohérence de l’arrière-plan.
