Quand l’intelligence artificielle aide à créer des fausses vidéos pornographiques de revenge porn

Alors que des problématiques importantes de notre temps comme le revenge porn ou la reconnaissance faciale à l’intelligence artificielle présentent déjà des dangers potentiels, la combinaison des deux est quelque chose de redoutable dont Internet nous présente déjà des exemples assez terrifiants. En effet, Motherboard a baptisé le phénomène « deepfake ». Un mois après avoir repéré un utilisateur Reddit qui utilisait le machine learning pour mettre les visages d’actrices connues sur les corps d’actrices de films pornographiques, d’autres utilisateurs ont trouvé une app qui reproduit ses techniques pour pouvoir faire leurs propres petits montages. Et parce que ce n’était pas assez effrayant de base, ils utilisent les visages de personnes qu’ils connaissent.

Des sites spécialisés dans le revenge porn faisaient déjà ce genre de montages manuellement. Mais maintenant, n’importe qui va pouvoir faire ce travail tranquillement, avec la complicité des réseaux sociaux sur lesquels on peut trouver sans trop de soucis toutes les photos et vidéos dont on peut avoir besoin. Et le pire dans tout ça, c’est qu’une avocate spécialisée dans les lois sur les vidéos pornographiques non consenties a affirmé que pour l’instant, ces lois ne protégeaient en rien de ces créations.