C’est une affaire désormais historique au Royaume-Uni : Hugh Nelson, un homme 27 ans originaire de Bolton, a été condamné à 18 ans de prison pour avoir utilisé la technologie de l’IA afin de créer des images d’abus sexuels sur enfants. Nelson, qui a plaidé coupable de 16 infractions, a utilisé les outils d’IA de Daz 3D pour transformer des photos communes d’enfants en contenu explicite et pédopornographique. Le juge Martin Walsh a souligné le risque que Nelson représentait pour la société, exigeant qu’il purge au moins les deux tiers de sa peine avant d’être admissible à une libération conditionnelle.
Le cas de Nelson crée un précédent au Royaume-Uni pour poursuivre en justice les personnes ayant produit des contenus explicites générés par l’IA. Il était temps, car les progrès technologiques dans ce domaine ont facilité la création d’images d’abus sexuels de plus en plus réalistes. La procureure Jeanette Smith du service des poursuites de la Couronne a jugé que cette affaire illustre parfaitement le défi juridique croissant consistant à s’attaquer à ce type d’affaires, sachant que selon les experts les crimes de ce type devraient augmenter à mesure que la technologie de l’IA évolue.
Cette affaire de justice souligne aussi l’importance de mettre des garde fous aux IA génératives. La National Crime Agency du Royaume-Uni a signalé que les images de violence générées par l’IA sont de plus en plus courantes, avec le risque que les délinquants finissent par passer à des violences physiques (notons tout de même que le passage automatique de la représentation de la violence à l’acte réel violent n’est pas prouvé par les études scientifiques). Alors que la loi britannique sur la sécurité en ligne interdit désormais les deepfakes pornographiques non consensuels, le ministère public s’est ici appuyé sur les lois existantes sur la maltraitance des enfants pour appliquer son verdict.
Après, ce sera le tour de qui et ayant fait quoi ?
Car si on est un « criminel » condamné mais sans victime réelle, on part en prison pour quel motif au final ?
Des idées, des préférences ?
C’est une pente très, trop glissante selon moi.
Ce gars, il faudrait le soigner plutôt que de l’envoyer en prison pour rien de réel au final.
Les pires joueurs de Call of Duty ne sont pas des criminels de guerre, hein ?