KultureGeek Internet Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

23 Fév. 2024 • 20:30
1

Google a décidé de prendre la parole aujourd’hui concernant son intelligence artificielle Gemini, après que celle-ci a généré des images de personnes en misant sur la diversité, alors que la période historique et le lieu ne correspondaient pas.

Google Gemini Erreur Generation Images Personnes 2

Des soldats allemands en 1943 selon Gemini

Les excuses de Google

Au vu des nombreuses réactions négatives sur les réseaux sociaux, Google a stoppé la génération d’images de personnes, le temps de faire le point. Aujourd’hui le groupe indique :

Il est clair que cette fonction n’a pas atteint son but. Certaines des images générées sont inexactes, voire choquantes. Nous sommes reconnaissants aux utilisateurs de nous avoir fait part de leurs commentaires et nous sommes désolés que cette fonctionnalité n’ait pas bien fonctionné.

Il y avait d’un côté des problèmes avec des images générées montrant des personnes de couleur à des périodes historiques et des lieux précis qui ne correspondaient pas. Et il y avait le cas où Gemini mettait systématiquement des personnes de couleur pour des images basiques, comme « homme qui promène son chien ». En d’autres termes, les internautes ont remarqué que Gemini ne générait (presque) jamais des personnes blanches.

Google Gemini Erreur Generation Images Personnes

Des images d’un pape selon Gemini

« Si vous demandez une photo de joueurs de football ou d’une personne promenant son chien, vous voudrez peut-être recevoir un éventail de personnes. Vous ne souhaitez probablement pas recevoir uniquement des images de personnes d’un seul type d’ethnie (ou de toute autre caractéristique) », indique Google. Dans le même temps, la société souligne qu’une personne qui fait la requête « un vétérinaire blanc avec un chien » doit se voir proposer un homme blanc vétérinaire et non une personne de couleur.

Deux problèmes évoqués

Quels ont été les problèmes ? Google en évoque deux :

  • nos réglages visant à garantir que Gemini présente un éventail de personnes n’ont pas tenu compte des cas qui ne devraient manifestement pas présenter d’éventail.
  • avec le temps, le modèle est devenu beaucoup plus prudent que nous ne l’avions prévu et a refusé de répondre à certaines questions, interprétant à tort des questions très anodines comme étant sensibles.

« Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop prudent dans d’autres, ce qui a donné lieu à des images embarrassantes et erronées », reconnaît Google.

Que va-t-il se passer maintenant ? Google promet d’améliorer son système. « Ce processus comprendra des tests approfondis », assure le groupe. Il n’est cependant pas précisé quand la génération d’images de personnes sera de retour avec Gemini.

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

  • Nono28(via l'app )
    C’est marrant le fameux éventail de personnes représentées n’a été le cas que lorsque les requêtes représentaient potentiellement des personnes blanches. Par contre quand on requête un samouraï ou une personne africaine aucun éventail 🫠

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

french-days

🔥 [#FrenchDays] Les promos high-tech du 30 avril

30 Avr. 2025 • 21:12
0 Promos

Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...

Recherche Google Logo

Google estime que la justice américaine pourrait tuer son moteur de recherche

30 Avr. 2025 • 20:41
0 Internet

Google et le département de la Justice des États-Unis (DOJ) se retrouvent une nouvelle fois devant les tribunaux pour discuter des mesures...

Bbox WiFi 7 Bouygues Telecom

B&You Pure Fibre : les débits de 8 Gb/s sont de retour après un problème

30 Avr. 2025 • 20:04
0 Internet

L’offre B&You Pure Fibre de Bouygues Telecom a connu une perturbation cette semaine avec l’impossibilité de profiter des...

PlayStation Plus Logo

PlayStation Plus mai 2025 : les jeux PS4 et PS5 offerts

30 Avr. 2025 • 18:24
1 Jeux vidéo

Sony présente la liste des jeux PS4 et PS5 qui vont être offerts en mai avec l’abonnement PlayStation Plus Essential. On retrouve trois...

Waymo toyota

Waymo et Toyota signent un accord… en vue de la voiture autonome « pour tous » ?

30 Avr. 2025 • 17:40
0 Hors-Sujet

Il y a encore beaucoup de conditionnel : Waymo et Toyota viennent de signer un accord préliminaire avant un possible partenariat qui pourrait mener...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site