Un internaute norvégien, Arve Hjalmar Holmen, a décidé de porter plainte contre OpenAI après que ChatGPT l’a faussement présenté comme un meurtrier d’enfants. L’affaire, relayée par l’association Noyb, spécialisée dans la défense de la vie privée, met en lumière les risques liés à la diffusion d’informations erronées par les modèles d’intelligence artificielle.
La gaffe de ChatGPT
Dans un communiqué, Noyb dénonce le comportement de ChatGPT, qui « donne régulièrement de fausses informations (…) pouvant gravement nuire à la réputation d’une personne, accusant indûment des gens de corruption, de maltraitance d’enfants ou même de meurtre ». L’ONG a saisi l’autorité norvégienne de protection des données (Datatilsynet) pour demander des comptes à OpenAI.
Arve Hjalmar Holmen a découvert ces allégations diffamatoires après avoir demandé à ChatGPT de rédiger son portrait. « Certains se disent qu’il n’y a pas de fumée sans feu. C’est ce qui me fait le plus peur, que quelqu’un puisse accorder de la véracité à ces dires », a-t-il confié, cité dans le communiqué.
Si OpenAI a depuis mis à jour son modèle pour corriger cette erreur, Noyb souligne que ces fausses informations peuvent persister dans les systèmes internes. L’ONG accuse OpenAI de violer le principe d’exactitude du Règlement général européen sur la protection des données (RGPD) et réclame la suppression des données incriminées, des améliorations technologiques et une amende administrative.
Joakim Söderberg, avocat chez Noyb, critique également la pratique d’OpenAI d’ajouter des avertissements sur la fiabilité des réponses : « Vous ne pouvez pas diffuser de fausses informations et, à la fin, ajouter un petit avertissement disant que tout ce que vous avez dit n’est peut-être pas vrai… ».
Cette affaire relance le débat sur la responsabilité des entreprises tech dans la gestion des informations générées par l’IA et leurs conséquences sur la vie privée des individus.
3 commentaires pour cet article :