KultureGeek Internet Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

Internet

Gemini et diversité : Google explique pourquoi son IA s’est trompée avec les images de personnes

3 min.

23 Fév. 2024 • 20:30

Google a décidé de prendre la parole aujourd’hui concernant son intelligence artificielle Gemini, après que celle-ci a généré des images de personnes en misant sur la diversité, alors que la période historique et le lieu ne correspondaient pas.

Google Gemini Erreur Generation Images Personnes 2

Des soldats allemands en 1943 selon Gemini

Les excuses de Google

Au vu des nombreuses réactions négatives sur les réseaux sociaux, Google a stoppé la génération d’images de personnes, le temps de faire le point. Aujourd’hui le groupe indique :

Il est clair que cette fonction n’a pas atteint son but. Certaines des images générées sont inexactes, voire choquantes. Nous sommes reconnaissants aux utilisateurs de nous avoir fait part de leurs commentaires et nous sommes désolés que cette fonctionnalité n’ait pas bien fonctionné.

Il y avait d’un côté des problèmes avec des images générées montrant des personnes de couleur à des périodes historiques et des lieux précis qui ne correspondaient pas. Et il y avait le cas où Gemini mettait systématiquement des personnes de couleur pour des images basiques, comme « homme qui promène son chien ». En d’autres termes, les internautes ont remarqué que Gemini ne générait (presque) jamais des personnes blanches.

Google Gemini Erreur Generation Images Personnes

Des images d’un pape selon Gemini

« Si vous demandez une photo de joueurs de football ou d’une personne promenant son chien, vous voudrez peut-être recevoir un éventail de personnes. Vous ne souhaitez probablement pas recevoir uniquement des images de personnes d’un seul type d’ethnie (ou de toute autre caractéristique) », indique Google. Dans le même temps, la société souligne qu’une personne qui fait la requête « un vétérinaire blanc avec un chien » doit se voir proposer un homme blanc vétérinaire et non une personne de couleur.

Deux problèmes évoqués

Quels ont été les problèmes ? Google en évoque deux :

nos réglages visant à garantir que Gemini présente un éventail de personnes n’ont pas tenu compte des cas qui ne devraient manifestement pas présenter d’éventail.
avec le temps, le modèle est devenu beaucoup plus prudent que nous ne l’avions prévu et a refusé de répondre à certaines questions, interprétant à tort des questions très anodines comme étant sensibles.

« Ces deux éléments ont conduit le modèle à surcompenser dans certains cas et à être trop prudent dans d’autres, ce qui a donné lieu à des images embarrassantes et erronées », reconnaît Google.

Que va-t-il se passer maintenant ? Google promet d’améliorer son système. « Ce processus comprendra des tests approfondis », assure le groupe. Il n’est cependant pas précisé quand la génération d’images de personnes sera de retour avec Gemini.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

Nono28(via l'app )
24 Fév. 2024 • 00:08

C’est marrant le fameux éventail de personnes représentées n’a été le cas que lorsque les requêtes représentaient potentiellement des personnes blanches. Par contre quand on requête un samouraï ou une personne africaine aucun éventail 🫠
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles