KultureGeek Logiciels Un ours en peluche dopé à l’IA déraille : OpenAI retire la fonction ChatGPT et les ventes sont suspendues

Logiciels

Un ours en peluche dopé à l’IA déraille : OpenAI retire la fonction ChatGPT et les ventes sont suspendues

Frederic L.

18 Nov. 2025 • 10:43

L’essor des jouets intelligents vient de connaît son premier gros revers : Un ours en peluche interactif conçu par l’entreprise singapourienne FoloToy a été retiré de la vente après qu’un rapport d’un groupe de défense des consommateurs a révélé des échanges profondément inappropriés avec des chercheurs. Le jouet, baptisé Kumma, utilisait plusieurs modèles de langage génératif – dont l’IA d’OpenAI – pour dialoguer avec les enfants.

Des réponses alarmantes sur des sujets sensibles

Selon le rapport, Kumma se montrait prêt à expliquer où trouver « des objets potentiellement dangereux » comme des couteaux, des allumettes ou encore des pilules. Lors d’une interaction, le jouet indiquait par exemple qu’un couteau « se trouve souvent dans un tiroir de cuisine ou un bloc à couteaux » avant d’ajouter qu’il fallait demander l’aide d’un adulte. Plus troublant encore, lorsque des chercheurs ont abordé des thèmes sexuels, l’ours en peluche a immédiatement développé des descriptions détaillées, évoquant « le bondage », « l’impact play » ou bien encore des pratiques liées aux furries. Des propos évidemment totalement incompatibles avec un public enfant.

Kumma toy AI

OpenAI coupe l’accès et FoloToy suspend ses ventes

Face à ces dérives, OpenAI a rapidement réagi en bloquant l’accès de FoloToy à ses modèles d’IA. « Nous avons suspendu ce développeur pour violation de notre politique », a indiqué un porte-parole, rappelant que toute sexualisation ou mise en danger de mineurs est strictement interdite. De son côté, FoloToy a annoncé un retrait immédiat de ses produits : « Nous avons suspendu temporairement toutes les ventes et menons un audit complet de sécurité », a précisé l’entreprise.

Un secteur encore largement non régulé

Cet incident relance le débat sur l’encadrement des jouets équipés d’intelligence artificielle. Malgré les efforts de certains acteurs, cette catégorie reste peu réglementée, alors même qu’elle se répand rapidement dans les foyers. Ce scandale met en tout cas en lumière l’urgence d’un cadre beaucoup plus strict pour prévenir les dérives technologiques à destination des plus jeunes.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles