Le bureau du procureur de la ville de San Francisco a intenté une action en justice contre 16 sites web alimentés par l’IA qui créent des deepfakes dénudés de femmes et de jeunes filles sans leur consentement. Ces sites, qui ont été visités plus de 200 millions de fois au cours du premier semestre 2024, permettent aux utilisateurs d’uploader des images de personnes entièrement vêtues, images qui sont ensuite modifiées par l’IA afin de générer des deepfakes dénudés. La plainte lancée par le bureau du procureur David Chiu accuse ces sites de violer les lois fédérales et d’État contre le « revenge porn », le deepfake pornographique et la pédopornographie, ainsi que la loi californienne sur la concurrence déloyale. « Cette enquête nous a conduits dans les recoins les plus sombres d’internet, et je suis absolument horrifié pour les femmes et les filles qui ont dû endurer cette exploitation », a déclaré Chiu sur X. « C’est un problème vaste et complexe que nous devons, en tant que société, résoudre au plus vite. »
Cette procédure judiciaire vise à obtenir des sanctions civiles contre ces sites, à obtenir leur fermeture et à empêcher la création de futurs contenus deepfake (la tâche qui sera sans aucun doute la plus compliquée). On notera que la plainte lancée par le procureur de San Francisco intervient dans un contexte de préoccupations croissantes concernant la prolifération rapide et quasi exponentielle des fausses images produites par l’IA générative. Récemment, la chanteuse Taylor Swift a été l’énième victime des deepfakes, mais la création de faux clichés de personnalités publiques ou de clichés transformés numériquement ne date malheureusement pas d’hier.
