Le nombre d’images et de vidéos d’agressions sexuelles d’enfants générées par intelligence artificielle est en progression sur Internet, s’est inquiétée une organisation britannique chargée de détecter et retirer ces contenus.
L’usage de l’IA pour la pédopornographie augmente
Beaucoup de ces photos ou vidéos montrant des mineurs « agressés et maltraités sont si réalistes qu’il est presque impossible de les distinguer d’images de vrais enfants », souligne dans un communiqué l’Internet Watch Foundation (IWF), l’une des principales associations du secteur en Europe.
Le développement exponentiel de l’IA générative, qui permet de produire texte et images sur simple requête en langage courant, a facilité la création de ces continus pédopornographiques, qui tombent sous le coup de la loi au Royaume-Uni.
L’IWF, qui avait reçu 70 signalements sur l’année écoulée entre avril 2023 et mars 2024, en a déjà reçu 74 en l’espace de six mois, entre avril et fin septembre 2024. La quasi-totalité de ces images se trouvaient sur des sites ouverts, facilement accessibles au grand public, principalement hébergés en Russie (36%), aux États-Unis (22%) et au Japon (11%). Plus des trois quarts d’entre elles ont été directement signalées à l’association par des internautes, après avoir été vues sur des « forums ou des galeries d’images IA ».
Selon un analyste de l’organisation resté anonyme par sécurité, l’augmentation de ces signalements est « glaçante et donne l’impression que nous sommes arrivés à un point critique, avec le risque que des organisations comme la nôtre et la police soient submergées par des centaines de nouvelles images, sans que l’on sache si un véritable enfant a besoin d’aide quelque part ».
« Pour atteindre le niveau de sophistication observé, le logiciel utilisé a dû apprendre à partir d’images et de vidéos réelles d’agressions sexuelles sur des mineurs partagées sur Internet », souligne Derek Ray-Hill, directeur général par intérim de l’IWF.
Pour y faire face, ce dernier exhorte les députés britanniques à adapter les lois existantes à l’ère numérique et à ses outils en constante progression.
2 commentaires pour cet article :