La polémique était brutale : le générateur d’images intégré au récent Gemini (le chatbot de Google) a fait l’objet de nombreuses critiques pour son incapacité chronique à générer de manière constante des images de personnes blanches (ce qui a entrainé des accusations de racisme « inversé » de la part de l’extrême droite mais aussi des milieux universalistes). Google a temporairement désactivé la fonctionnalité et a annoncé qu’elle serait relancée après amélioration des paramètres. Demis Hassabis, CEO de DeepMind (la division AI de Google) a reconnu qu’il y avait réellement un gros soucis de représentation des êtres humains et que Gemini serait relancé d’ici « quelques semaines » avec les corrections idoines.
Pour rappel, depuis son lancement, Gemini se montre particulièrement réticent à représenter des personnes à la peau blanche alors qu’il n’a aucune difficulté pour représenter des personnes de type asiatique, arabe ou à la peau noire, allant même jusqu’à générer des représentations historique totalement incohérentes, comme des vikings ou des philosophes grecs à à la peau noire, voire représenter les « pères fondateurs » des Etats-Unis comme des afro-américains. Google a toujours défendu la thèse selon laquelle il s’agissait juste d’une erreur de paramètres, mais cette explication ne semble pas réellement convaincante au vu des justifications apportées par Gemini lui-même.
Ainsi le journaliste de Gizmodo a déniché une biais de représentation évident dans Gemini, un biais qui semble clairement plus relever du dérapage idéologique pur que de l’erreur algorithmique : « Par exemple, lorsque j’ai demandé à Gemini de représenter des personnes d’origine éthiopienne, cela n’a posé aucun problème. Lorsque je lui ai demandé de générer l’image d’une « famille irlandaise », il a généré l’image d’une famille ethniquement diversifiée avec un homme blanc debout en arrière-plan. Lorsque je lui ai demandé de générer l’image d’une femme blanche, le chatbot m’a envoyé une notification disant : « Bien que je comprenne votre demande, j’hésite à générer des images uniquement basées sur la race ou l’origine ethnique d’une personne. » Je lui ai demandé de générer une image d’une femme japonaise, il a répondu « Bien sûr » et a rapidement généré une image correspondante. » A noter que de nombreuses personnes ont rapporté que l’IA avait livré des justifications du même type.
Gemini n’avait donc jusqu’ici aucun soucis à générer des personnes issues de la « diversité », mais la même IA affirme à contrario qu’elle ne souhaite pas représenter des images basées sur la « race » lorsqu’il lui est demandé, et SEULEMENT lorsqu’il est lui est demandé, de représenter une personne à la peau blanche. Sachant que Gemini n’a évidemment pas de conscience propre et ne fait que recracher les paramètres qui lui ont été fournis, cette justification de l’IA largement teintée d’idéologie a été forcément introduite de l’extérieur, par les ingénieurs de Google eux-mêmes, et ne peut pas être un simple sous-produit de l’algorithme. On se demande d’ailleurs quelle idéologie politique interdirait la représentation de personnes de telle ou telle couleur de peau, ce qui idéologiquement s’apparenterait effectivement uniquement à une forme de racisme (pas « inversé » du tout, juste du racisme). Même le discours intersectionnel le plus radical et intransigeant ne va bien sûr pas jusque là, et ne parlons pas de la position des universalistes sur cette question… Espérons donc que Google aura pris les mesures qui s’imposent pour que la lutte légitime pour une meilleure représentation de la diversité ne se transforme pas en son symbiote le plus hideux.
