Meta a (enfin) décidé de sévir contre les applications « nudify » qui utilisent l’IA pour générer sans consentement des images dénudées de célébrités, d’influenceurs et d’autres personnes. Le géant des réseaux sociaux a intenté une action en justice contre Joy Timeline HK Limited, la société à l’origine de l’application Crush AI, accusée d’avoir diffusé plus de 8 000 publicités sur Facebook et Instagram malgré de multiples suppressions pour non-respect des règles. Ce changement de ton intervient après plusieurs alertes de journalistes et de chercheurs sur l’inquiétante prolifération de ces publicités pour les apps « nudify » qui produisent des contenus illégaux.
Afin de prévenir de potentiels abus, Meta a mis en place une nouvelle technologie capable de détecter ces publicités même sans nudité apparente, et de repérer plus rapidement les différentes « copies ». L’entreprise affirme également avoir élargi sa base de termes et symboles à surveiller, en collaboration avec des experts externes et ses propres équipes. La firme dirigée par Mark Zuckerberg prévoit aussi de partager des informations sur les entités fautives avec d’autres plateformes technologiques et des boutiques d’applications. Ce nouveau volet plus « répressif » et judiciaire s’inscrit dans un contexte plus large : Meta lutte déjà contre les publicités de deepfakes de célébrités utilisées pour des arnaques en ligne, un problème si récurrent que le propre comité de surveillance de Meta a récemment critiqué la société pour son manque de fermeté à ce sujet.
2 commentaires pour cet article :