Meta annonce modifier les suggestions de son intelligence artificielle Meta AI après qu’une utilisatrice a reçu une question sur l’identité de son enfant. L’assistant IA avait ensuite exploité des informations issues de publications antérieures pour générer d’autres questions personnelles sur sa famille.
L’affaire a commencé après la publication d’une vidéo par Kalie Robins sur Instagram. Après avoir partagé un extrait où elle chantait avec son enfant dans une voiture, Meta AI lui a proposé la question « Qui est l’enfant passager ? ». En sélectionnant cette suggestion, Kalie Robins a constaté que l’assistant rassemblait des informations concernant ses filles à partir de ses anciennes publications et de celles de membres de sa famille.
Meta AI a ensuite proposé d’autres questions portant notamment sur l’âge des enfants et le lieu où sa famille réside. L’utilisatrice affirme également que l’assistant lui a montré des photos de ses filles, dont une image qu’elle dit avoir supprimée plusieurs années auparavant. L’épisode a rapidement circulé en ligne et a poussé Meta à revoir le fonctionnement de ces suggestions.
Meta promet de limiter les suggestions sensibles
Une porte-parole de Meta a indiqué à Futurism que l’entreprise a « raté sa cible » et estime que « la fonctionnalité n’aurait jamais dû proposer à cette personne des questions de ce type ». Elle précise que les réponses de Meta AI s’appuient sur des informations auxquelles la personne a déjà accès et estime que, dans ce cas précis, l’assistant a probablement utilisé des vidéos dans lesquelles l’utilisatrice mentionnait le prénom de ses enfants.
Meta indique désormais avoir corrigé le problème à l’origine des suggestions concernant des sujets personnels. L’entreprise explique avoir conçu cette fonction pour aider les utilisateurs à obtenir davantage d’informations sur les publications ou les thèmes qui les intéressent, mais elle veut empêcher l’outil de pousser ce type de questions intrusives.
Meta AI occupe une place croissante dans l’écosystème de l’entreprise : l’assistant est intégré à Facebook, Instagram, WhatsApp et Messenger, où il peut répondre aux questions, rédiger des publications et générer des images. Cette affaire intervient après plusieurs controverses autour des usages de l’IA chez Meta, notamment le retrait en juillet d’une fonction permettant de créer des deepfakes de personnes présentes sur Instagram après une forte réaction du public.
