Meta est au cœur d’une nouvelle controverse après qu’une enquête de Reuters a révélé la présence de chatbots imitant l’image et la voix de célébrités sans le consentement de ces dernières. Parmi ces célébrités-chatbots figurent Taylor Swift, Selena Gomez, Anne Hathaway ou bien encore Scarlett Johansson, tous accessibles sur Facebook, Instagram et WhatsApp ! Plus troublant encore, certains bots ont permis de générer des images réalistes et à la limite du « NSFW », y compris s’agissant d’une star mineure, et se présentaient parfois comme étant la véritable personne. Si certains de ces robots provenaient d’utilisateurs tiers, Reuters a découvert qu’au moins trois d’entre eux avaient été créés par un cadre de la division IA générative de Meta, ce qui est évidemment beaucoup plus préoccupant. L’un des bots basés sur Taylor Swift a adopte un ton séducteur, allant même jusqu’à inviter un utilisateur au domicile réel de la chanteuse à Nashville !
En réaction à ce très bad buzz, Meta a affirmé interdire l’usurpation directe d’identité, autorisant uniquement les parodies correctement étiquetées. Pourtant, plusieurs de ces bots n’étaient pas signalés comme tels et restaient largement accessible (avec parfois plus de 10 millions d’interactions référencées). Le réseau social a supprimé une douzaine de robots avant même la publication de l’enquête et justifie leur création comme de simples « tests internes », une explication qui n’a pas vraiment convaincu : le cours de Meta a chuté de 6% dans la foulée de ces révélations.
Ce scandale s’ajoute à d’autres polémiques autour de la sécurité des chatbots-IA de Meta, déjà accusés il y a quelques semaines d’avoir tenu des conversations à connotations sexuelles avec des mineurs. Face à ces dérives, 44 procureurs généraux américains ont récemment averti les entreprises de l’IA (Meta étant directement cité) que ces dernières seraient tenues responsables des atteintes à la protection des enfants.
Un commentaire pour cet article :