KultureGeek Internet Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

23 Fév. 2024 • 20:30
1

Google a décidé de prendre la parole aujourd’hui concernant son intelligence artificielle Gemini, après que celle-ci a généré des images de personnes en misant sur la diversité, alors que la période historique et le lieu ne correspondaient pas.

Google Gemini Erreur Generation Images Personnes 2

Des soldats allemands en 1943 selon Gemini

Les excuses de Google

Au vu des nombreuses réactions négatives sur les réseaux sociaux, Google a stoppé la génération d’images de personnes, le temps de faire le point. Aujourd’hui le groupe indique :

Il est clair que cette fonction n’a pas atteint son but. Certaines des images générées sont inexactes, voire choquantes. Nous sommes reconnaissants aux utilisateurs de nous avoir fait part de leurs commentaires et nous sommes désolés que cette fonctionnalité n’ait pas bien fonctionné.

Il y avait d’un côté des problèmes avec des images générées montrant des personnes de couleur à des périodes historiques et des lieux précis qui ne correspondaient pas. Et il y avait le cas où Gemini mettait systématiquement des personnes de couleur pour des images basiques, comme « homme qui promène son chien ». En d’autres termes, les internautes ont remarqué que Gemini ne générait (presque) jamais des personnes blanches.

Google Gemini Erreur Generation Images Personnes

Des images d’un pape selon Gemini

« Si vous demandez une photo de joueurs de football ou d’une personne promenant son chien, vous voudrez peut-être recevoir un éventail de personnes. Vous ne souhaitez probablement pas recevoir uniquement des images de personnes d’un seul type d’ethnie (ou de toute autre caractéristique) », indique Google. Dans le même temps, la société souligne qu’une personne qui fait la requête « un vétérinaire blanc avec un chien » doit se voir proposer un homme blanc vétérinaire et non une personne de couleur.

Deux problèmes évoqués

Quels ont été les problèmes ? Google en évoque deux :

  • nos réglages visant à garantir que Gemini présente un éventail de personnes n’ont pas tenu compte des cas qui ne devraient manifestement pas présenter d’éventail.
  • avec le temps, le modèle est devenu beaucoup plus prudent que nous ne l’avions prévu et a refusé de répondre à certaines questions, interprétant à tort des questions très anodines comme étant sensibles.

« Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop prudent dans d’autres, ce qui a donné lieu à des images embarrassantes et erronées », reconnaît Google.

Que va-t-il se passer maintenant ? Google promet d’améliorer son système. « Ce processus comprendra des tests approfondis », assure le groupe. Il n’est cependant pas précisé quand la génération d’images de personnes sera de retour avec Gemini.

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

  • Nono28(via l'app )
    C’est marrant le fameux éventail de personnes représentées n’a été le cas que lorsque les requêtes représentaient potentiellement des personnes blanches. Par contre quand on requête un samouraï ou une personne africaine aucun éventail 🫠

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

YouTube Icone Logo

YouTube s’attaque à l’abonnement Premium moins cher pris avec un VPN

20 Juin. 2024 • 20:42
1 Internet

YouTube Premium, l’abonnement qui retire les publicités sur le service de vidéos, coûte officiellement 12,99€/mois, mais...

"Cette décision a été prise dans le but de libérer tout le potentiel de chaque équipe et de leur fournir leur propre leadership et leur propre direction stratégique", a déclaré Wingefors. "C'est le début d'un nouveau chapitre, un chapitre dont j'ai l'intention de continuer à faire partie en tant qu'actionnaire actif, engagé et solidaire des trois nouvelles entités, avec un horizon toujours vert."

Le géant Embracer va utiliser l’IA dans ses jeux

20 Juin. 2024 • 19:59
1 Jeux vidéo

Difficile de joueur les étonnés. Quelques lois après un plan de licenciement massif et l’annulation de plusieurs jeux, et...

Intelligence Artificielle

Anthropic affirme que Claude 3.5 est meilleur que GPT-4o (oui mais…)

20 Juin. 2024 • 19:03
0 Science

Anthropic, une société d’IA fondée par d’anciens d’OpenAI – à l’instar de la nouvelle startup...

IA : Ilya Sutskever, ex-directeur scientifique d’OpenAI, fonde la société Safe Superintelligence, Inc

20 Juin. 2024 • 18:02
0
The Penguin Colin Farrell

The Penguin : nouvelle bande-annonce pour la série spin-off de The Batman

20 Juin. 2024 • 17:31
0 Geekeries

The Penguin se dévoile un peu aujourd’hui avec une nouvelle bande-annonce. La série, qui se veut un spin-off du film The Batman,...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site