TikTok renforcera dans les prochaines semaines ses systèmes de détection des comptes qui publient du spam généré par intelligence artificielle. La plateforme vise les vidéos de faible qualité consacrées notamment à la politique, à l’actualité, à la santé ou aux conseils financiers, afin de préserver la confiance du public et la visibilité des créateurs de contenu originaux.
TikTok cible les comptes qui font de l’AI slop
« Dans les prochaines semaines, TikTok testera des améliorations des systèmes de détection afin de cibler les comptes dédiés à la publication de spam généré par IA sur des sujets susceptibles d’avoir un impact sur la confiance du public ou le bien-être des utilisateurs », annonce le réseau social. TikTok ne précise pas la date d’un éventuel déploiement généralisé ni les technologies qui soutiendront ces nouveaux outils.
TikTok identifie trois caractéristiques pour qualifier les comptes concernés. La plateforme ciblera les profils qui produisent en volume des vidéos IA standardisées et de faible qualité, concentrent leurs publications sur des thèmes à risque élevé et achètent ou vendent des abonnés.
Ce phénomène, couramment désigné par le terme « AI slop » ou « bouillie d’IA », repose sur des contenus très peu coûteux à produire et pensés pour capter rapidement l’audience. Les vidéos générées peuvent aussi servir des objectifs politiques, militants ou de désinformation, avec des conséquences plus directes lorsqu’elles abordent la santé, l’actualité ou les finances personnelles.
TikTok estime que cette production industrielle nuit à la visibilité des créateurs originaux. L’enjeu porte sur la capacité des créateurs à émerger dans les recommandations et sur la fiabilité perçue des vidéos auxquelles les utilisateurs sont exposés.
Une réponse après le signalement de 2024
TikTok avait déjà annoncé en 2024 le signalement automatique des contenus créés par IA. Les nouveaux tests ajoutent une action centrée sur les comptes qui exploitent ces outils pour diffuser massivement des vidéos indésirables, plutôt que sur le seul étiquetage d’une publication.
D’autres plateformes sociales prennent également des mesures face à l’afflux de contenus synthétiques susceptibles de dégrader l’expérience utilisateur. TikTok conserve toutefois le détail de ses mécanismes de détection, un choix qui limite les informations exploitables par les comptes cherchant à contourner la modération.
