Décidément, les Etats-Unis sont réellement obsédés par la question « raciale » – pour rappel, au plan scientifique, il n’existe pas de « races » dans l’espèce humaine -, une obsession qui transparaît de plus en plus lourdement dans les productions culturelles US et aussi … dans les intelligences artificielles produites par des entreprises américaines ! Après l’epic fail du Gemini de Google, quasi incapable de produire des images de personnes à la peau blanche et « racisant » tout et n’importe quoi sans la moindre cohérence, c’est au tour de l’IA de Meta de se planter dans les grandes largeurs. Il apparaît en effet que l’IA de Meta ne parvient pas, ou très difficilement, à générer des images de couples mixtes, composés de personnes à la couleur de peau et aux origines différentes.
Des biais culturels… mais pas seulement
Même lorsque les prompts ne prêtent aucunement à confusion – comme « un homme asiatique et une femme caucasienne », « une femme asiatique et un homme blanc », etc. – l’IA produit quasi systématiquement des couples composés de personnes de la même origine, sachant que ce sont souvent les personnes à la peau blanche qui sont évacuées de l’équation (pas toujours néanmoins). Ou comment alimenter les absurdités « anti-wokes » de l’ultra droite complotiste américaine… Le site The Verge note aussi des biais de génération étranges concernant l’âge : ainsi, lorsqu’on lui demande de générer l’image d’un homme et d’une femme asiatiques, l’IA représente l’homme nettement plus âgé que la femme, ce qui pourrait indiquer que l’IA subit aussi de gros biais culturels. D’autres résultats laissent toutefois comprendre qu’à l’instar de l’IA de Google, des paramètres ont probablement été mis en place avec sans doute un niveau de réglage mal ajusté, en espérant que ce mauvais ajustage ne soit pas lui même le fruit de biais idéologiques trop prononcés.
Meta n’a pas encore réagi aux premiers retours concernant ces soucis de représentation de la diversité et de la mixité.
Lisez aussi ces autres articles !
Pas d'articles en relation.
Ces fameux biais sont possiblement seulement la dure réalité que les gens ne veulent pas admettre.
⇾ les ethnies se marient entre elle, c’est la grande majorité. Les couples mixtes existent, mais sont une (ultra) minorité, et quand on trifouille dans l’IA pour la forcer à faire passer les minorités pour la majorité, on finit avec une IA qui ne sait plus faire des hommes mâles blancs.