Un tribunal espagnol pour mineurs a condamné 15 adolescents à un an de probation après que ces derniers aient diffusé dans des groupes WhatsApp des images nues générées par IA de leurs camarades de classe. Les mineurs ont été accusés d’avoir créé des images d’abus sexuels sur des enfants et d’avoir porté atteinte à l’intégrité morale de leurs victimes. En plus de la probation, les 15 ados devront suivre des cours sur l’égalité des sexes et l’utilisation responsable des technologies de l’information et de la communication.
Suite à la publication de ces images, la plupart des victimes ont ressenti une grave détresse émotionnelle, et nombre d’entre elles avaient même trop honte pour s’exprimer. Cette affaire s’inscrit dans une tendance mondiale inquiétante selon laquelle de nombreux adolescents utiliseraient l’IA pour harceler et sexualiser leurs pairs. L’Union européenne et les États-Unis envisagent d’ailleurs de nouvelles protections juridiques contre les contenus pédopornographiques générés par l’IA (CSAM), sachant que ces images peuvent se répandre rapidement et à très grande échelle. L’impact de ces fakes sur la santé mentale des victimes est aussi très bien documenté désormais.
L’association Malvaluna, qui représentait les familles des victimes, a souligné la nécessité d’une meilleure éducation sexuelle pour prévenir de tels incidents. Cette association ainsi que les familles des victimes ont approuvé la sentence du tribunal (qui comprend donc des cours de réadaptation obligatoires). Les appels à des lois plus strictes et à des mécanismes de signalement plus simples pour les deepfakes se multiplient alors que les réglementations actuelles peinent à contrer la multiplication des CSAM générés par l’IA.
![image produit OnePlus 9 - Smartphone débloqué 5G - Photo Hasselblad - 8Go RAM + 128 Go Stockage - Garantie 2 Ans - Astral Black [Version FR]](https://kulturegeek.fr/comparateur/img_products/67846/oneplus-9-8-go-128-go-6-55-snapdragon-888-50mp-65w-noir-16019_thumb.jpg)
4 commentaires pour cet article :