Meta a désactivé la fonctionnalité en lien avec Muse Image qui permettait de générer des images par intelligence artificielle en taguant simplement un compte Instagram public et en utilisant ses photos, après une vague de critiques venues de Hollywood et d’associations de protection des mineurs.
Il fallait soi-même désactiver la fonction IA
Cette fonctionnalité, annoncée cette semaine, reposait sur un principe simple mais problématique. Elle permettait à n’importe quel utilisateur de générer des images IA en mentionnant un compte Instagram public dont il souhaitait réutiliser les photos, sans qu’un consentement explicite ne soit requis au préalable. Pour éviter que leurs propres images ne soient exploitées de cette manière, les utilisateurs devaient eux-mêmes modifier un paramètre dans leurs réglages ou basculer leur compte en privé.
Ce mécanisme a immédiatement suscité l’indignation de plusieurs organisations influentes. Haley McNamara, représentante du National Center on Sexual Exploitation, a dénoncé ce choix de conception dans des termes très directs : « non seulement cela érode manifestement nos droits sur notre propre image, mais c’est un outil évident pour la sextorsion et d’autres escrocs ! Poursuivre un design à haut risque puis faire porter la responsabilité aux individus de multiplier les démarches pour se désinscrire est inacceptable ».
Hollywood monte au créneau contre Meta et Instagram
Le syndicat SAG-AFTRA, qui représente environ 170 000 professionnels des médias et du divertissement (tout particulièrement des acteurs), a recommandé à ses membres de désactiver cette fonctionnalité au plus vite. L’agence hollywoodienne CAA a également exprimé publiquement son opposition à ce dispositif, craignant une exploitation non consentie de l’image de ses clients à des fins de création de contenus synthétiques.
Face à cette pression coordonnée, Meta a rapidement fait machine arrière. L’entreprise a reconnu son erreur dans un communiqué :
Plus tôt cette semaine, nous avons annoncé qu’une façon de générer des images dans Meta AI consiste à mentionner avec @ des comptes Instagram publics que l’on souhaite référencer. Notre intention était de proposer un outil créatif utile et de donner aux gens le contrôle sur la possibilité que leur contenu public soit référencé de cette manière. Nous avons entendu les retours indiquant que cette fonctionnalité n’a pas atteint son objectif, elle n’est donc plus disponible.
Cet épisode n’est pas isolé dans l’industrie de l’IA générative. OpenAI avait déjà été confronté à une controverse similaire avec Sora 2, son outil de génération vidéo, avant de retirer une fonctionnalité comparable sous la pression des critiques. Ces deux affaires illustrent une tension récurrente entre l’ambition des entreprises technologiques d’exploiter des contenus existants pour entraîner ou alimenter leurs modèles, et l’exigence croissante d’un consentement explicite et préalable de la part des personnes concernées, plutôt qu’un simple mécanisme de désinscription reposant sur la vigilance individuelle des utilisateurs.
