Plusieurs grandes entreprises d’intelligence artificielle se sont engagées à retirer les images de nudité des bases de données qu’elles utilisent pour entraîner leurs IA respectives et à prendre d’autres mesures pour freiner la diffusion d’images sexuelles frauduleuses nuisibles, appelées deepfakes.
Dans le cadre d’un accord négocié par l’administration Biden, les entreprises tech comprenant Adobe, Anthropic, Cohere, Microsoft et OpenAI ont déclaré qu’elles s’engageraient volontairement à supprimer les images de nudité de leurs bases de données d’entraînement à l’IA « lorsque cela est approprié et en fonction de l’objectif du modèle ».
Cette annonce s’inscrit dans le cadre d’une campagne plus large contre les abus sexuels par l’image commis sur des enfants et contre la création de fausses images intimes d’adultes par l’IA sans leur consentement. Ces images « ont explosé, ciblant de manière disproportionnée les femmes, les enfants et les personnes LGBTQI+, et constituent l’une des utilisations nuisibles de l’IA connaissant la croissance la plus rapide à ce jour », a affirmé le Bureau de la politique scientifique et technologique de la Maison Blanche.
Common Crawl s’est joint aux entreprises technologiques pour une partie de l’engagement. Cette organisation à but non lucratif explore le Web et fournit gratuitement ses archives et ses ensembles de données au public, ce qui constitue une source essentielle pour former les chatbots et les générateurs d’images avec IA. Elle s’est engagée à s’approvisionner de manière responsable en données et à les protéger contre les abus sexuels liés à l’image.
Au même moment, un autre groupe d’entreprises — parmi lesquelles figurent Bumble, Discord, Match Group (Tinder), Meta, Microsoft et TikTok — a annoncé un ensemble de principes volontaires visant à prévenir les abus sexuels fondés sur l’image.
