La loi américaine contre les deepfakes sexuels, est entrée en application il y a quelques jours et oblige désormais les plateformes à retirer ce type de contenus en 48 heures. Le texte, promulgué l’an dernier sous le nom de Take It Down Act, ouvre une nouvelle phase de pression réglementaire sur les réseaux sociaux et les services en ligne.
La FTC met les grandes plateformes sous pression
À partir de maintenant, les plateformes doivent aussi proposer une procédure permettant aux victimes de demander le retrait d’images sexuelles diffusées sans consentement. La FTC a prévenu qu’elle contrôlerait l’exécution de cette obligation et sanctionnerait les manquements.
Andrew Ferguson, président de la FTC, a affiché la ligne de l’autorité après l’envoi de courriers à plus d’une douzaine d’entreprises, dont Meta, TikTok, X (ex-Twitter) et Snapchat. « Nous sommes prêts à surveiller la conformité, à enquêter sur les violations et à faire appliquer » la loi, a-t-il déclaré.
Le dispositif vise un type de contenu dont la production s’est fortement simplifiée avec des outils d’intelligence artificielle peu coûteux. La logique du texte est simple : raccourcir au maximum le temps de circulation de ces images et obliger les plateformes à traiter les demandes de retrait comme une urgence.
X a d’ailleurs tenté d’afficher sa fermeté dès la veille de l’entrée en vigueur. La plateforme a assuré n’accorder « aucune place » aux prédateurs qui diffusent des images et vidéos intimes sans consentement, et dit appliquer une tolérance zéro contre les contenus sexuels non désirés et les comportements d’exploitation.
Un texte déjà contesté
La nouvelle loi ne fait pourtant pas consensus. Des défenseurs de la liberté d’expression estiment qu’elle pourrait pousser les plateformes à supprimer trop largement des contenus licites pour éviter tout risque juridique.
Cette critique s’ajoute à une autre limite du débat public autour des deepfakes sexuels : les célébrités très exposées ne sont pas les seules visées. Des chercheurs rappellent que les femmes inconnues du grand public sont tout aussi vulnérables, avec des dommages parfois aggravés par l’anonymat et l’absence de relais médiatique.
Le problème frappe aussi les établissements scolaires. Plusieurs scandales liés à du porno généré par IA ont été signalés dans différents États américains, de la Californie au New Jersey, où des centaines d’adolescents ont été ciblés par leurs propres camarades.
L’ampleur du phénomène a aussi été illustrée cette année par la controverse autour de Grok. L’outil a été accusé d’avoir déshabillé virtuellement des femmes et des mineurs sans leur consentement, tandis que des chercheurs ont estimé qu’il avait généré environ trois millions d’images sexualisées en quelques jours.
Ces images ne relèvent pas seulement de l’humiliation en ligne. Elles peuvent alimenter le harcèlement ou le chantage, avec des effets parfois dévastateurs sur la santé mentale des victimes.
