Instagram modifie ses règles pour les profils mettant en scène des influenceurs générés par intelligence artificielle. Les comptes concernés doivent désormais utiliser un nouveau label « Profil généré par IA » qui signale que le profil présente une personne qui n’existe pas et qui a été générée par intelligence artificielle, plutôt qu’un vrai humain.
Ce nouveau label remplace la mention optionnelle « Créateur IA » qu’Instagram utilisait auparavant comme catégorie générale pour tout profil publiant régulièrement du contenu généré par IA. La nouvelle désignation « Profil généré par IA » vise spécifiquement les comptes qui mettent en scène une personne générée par IA, selon Instagram.
Les comptes qui n’utilisent pas ce label verront leur portée réduite, comme le fait savoir le réseau social appartenant à Meta. Les créateurs qui estiment avoir été pénalisés à tort pourront faire appel via le tableau de bord d’Instagram.
Ce changement intervient alors que d’autres plateformes ont pris des mesures pour rendre le contenu généré par IA moins visible face au rejet exprimé par plusieurs utilisateurs des réseaux sociaux envers l’afflux de contenus IA de faible qualité (le fameux AI slop). Meta, qui encourage pourtant souvent ses utilisateurs à produire ce type de contenu, n’avait jusqu’ici pris que peu de mesures pour le décourager. Cette nouvelle règle ne vise pas l’ensemble du contenu IA, mais spécifiquement les profils présentant de fausses personnes, un type de contenu jugé particulièrement susceptible d’induire en erreur.
Une réponse à la multiplication des faux influenceurs IA
Les progrès des modèles d’IA ont facilité la création de contenus convaincants, ce qui a entraîné une multiplication de faux influenceurs générés par IA. The Guardian a récemment mis en évidence une vague d’influenceurs IA faisant la promotion d’applications et d’autres marques. Le New York Times a de son côté recensé des centaines d’influenceurs IA dans le domaine du bien-être, dont certains se présentant comme des médecins.
Instagram indique avoir reçu des retours de sa communauté selon lesquels les utilisateurs n’apprécient pas de tomber sur un profil qui semble humain avant de découvrir que la personne mise en scène est générée par IA. Une grande partie de ce contenu ne viole pas explicitement les règles de Meta, mais a suscité des inquiétudes concernant la diffusion de désinformation.
