KultureGeek Internet Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

3 min.
23 Fév. 2024 • 20:30
1

Google a décidé de prendre la parole aujourd’hui concernant son intelligence artificielle Gemini, après que celle-ci a généré des images de personnes en misant sur la diversité, alors que la période historique et le lieu ne correspondaient pas.

Google Gemini Erreur Generation Images Personnes 2

Des soldats allemands en 1943 selon Gemini

Les excuses de Google

Au vu des nombreuses réactions négatives sur les réseaux sociaux, Google a stoppé la génération d’images de personnes, le temps de faire le point. Aujourd’hui le groupe indique :

Il est clair que cette fonction n’a pas atteint son but. Certaines des images générées sont inexactes, voire choquantes. Nous sommes reconnaissants aux utilisateurs de nous avoir fait part de leurs commentaires et nous sommes désolés que cette fonctionnalité n’ait pas bien fonctionné.

Il y avait d’un côté des problèmes avec des images générées montrant des personnes de couleur à des périodes historiques et des lieux précis qui ne correspondaient pas. Et il y avait le cas où Gemini mettait systématiquement des personnes de couleur pour des images basiques, comme « homme qui promène son chien ». En d’autres termes, les internautes ont remarqué que Gemini ne générait (presque) jamais des personnes blanches.

Google Gemini Erreur Generation Images Personnes

Des images d’un pape selon Gemini

« Si vous demandez une photo de joueurs de football ou d’une personne promenant son chien, vous voudrez peut-être recevoir un éventail de personnes. Vous ne souhaitez probablement pas recevoir uniquement des images de personnes d’un seul type d’ethnie (ou de toute autre caractéristique) », indique Google. Dans le même temps, la société souligne qu’une personne qui fait la requête « un vétérinaire blanc avec un chien » doit se voir proposer un homme blanc vétérinaire et non une personne de couleur.

Deux problèmes évoqués

Quels ont été les problèmes ? Google en évoque deux :

  • nos réglages visant à garantir que Gemini présente un éventail de personnes n’ont pas tenu compte des cas qui ne devraient manifestement pas présenter d’éventail.
  • avec le temps, le modèle est devenu beaucoup plus prudent que nous ne l’avions prévu et a refusé de répondre à certaines questions, interprétant à tort des questions très anodines comme étant sensibles.

« Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop prudent dans d’autres, ce qui a donné lieu à des images embarrassantes et erronées », reconnaît Google.

Que va-t-il se passer maintenant ? Google promet d’améliorer son système. « Ce processus comprendra des tests approfondis », assure le groupe. Il n’est cependant pas précisé quand la génération d’images de personnes sera de retour avec Gemini.

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

  • Nono28
    C’est marrant le fameux éventail de personnes représentées n’a été le cas que lorsque les requêtes représentaient potentiellement des personnes blanches. Par contre quand on requête un samouraï ou une personne africaine aucun éventail 🫠

Les derniers articles

Jensen Huang Nvidia

Jensen Huang envisage un retour chez Nvidia

16 Nov. 2026 • 9:35
0 Business

À peine quelques jours après sa démission, Jensen Huang pourrait déjà retrouver son fauteuil de PDG de Nvidia. Selon le Financial Times,...

Le récap tech de la semaine : Nvidia change de patron, Starship revient à la tour

15 Nov. 2026 • 22:25
0
Meta Insgram WhatsApp Logo

Facebook : Meta écope de 805 millions d’euros d’amende en Italie pour l’accès aux photos

15 Nov. 2026 • 21:12
0 Internet

L’autorité italienne de protection des données inflige 805 millions d’euros d’amende à Meta pour l’accès de Facebook aux...

Analyse : le départ de Jensen Huang oblige Nvidia à devenir une institution

15 Nov. 2026 • 20:50
1
La Poste Logo

Le piratage d’une filiale de La Poste entraîne le vol de données de 22 millions de personnes

15 Nov. 2026 • 19:20
6 Internet

Maileva, une filiale de Docaposte appartenant au groupe La Poste, a été victime d’une cyberattaque ayant entraîné le vol des données...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site