L’essor des jouets intelligents vient de connaît son premier gros revers : Un ours en peluche interactif conçu par l’entreprise singapourienne FoloToy a été retiré de la vente après qu’un rapport d’un groupe de défense des consommateurs a révélé des échanges profondément inappropriés avec des chercheurs. Le jouet, baptisé Kumma, utilisait plusieurs modèles de langage génératif – dont l’IA d’OpenAI – pour dialoguer avec les enfants.
Des réponses alarmantes sur des sujets sensibles
Selon le rapport, Kumma se montrait prêt à expliquer où trouver « des objets potentiellement dangereux » comme des couteaux, des allumettes ou encore des pilules. Lors d’une interaction, le jouet indiquait par exemple qu’un couteau « se trouve souvent dans un tiroir de cuisine ou un bloc à couteaux » avant d’ajouter qu’il fallait demander l’aide d’un adulte. Plus troublant encore, lorsque des chercheurs ont abordé des thèmes sexuels, l’ours en peluche a immédiatement développé des descriptions détaillées, évoquant « le bondage », « l’impact play » ou bien encore des pratiques liées aux furries. Des propos évidemment totalement incompatibles avec un public enfant.
OpenAI coupe l’accès et FoloToy suspend ses ventes
Face à ces dérives, OpenAI a rapidement réagi en bloquant l’accès de FoloToy à ses modèles d’IA. « Nous avons suspendu ce développeur pour violation de notre politique », a indiqué un porte-parole, rappelant que toute sexualisation ou mise en danger de mineurs est strictement interdite. De son côté, FoloToy a annoncé un retrait immédiat de ses produits : « Nous avons suspendu temporairement toutes les ventes et menons un audit complet de sécurité », a précisé l’entreprise.
Un secteur encore largement non régulé
Cet incident relance le débat sur l’encadrement des jouets équipés d’intelligence artificielle. Malgré les efforts de certains acteurs, cette catégorie reste peu réglementée, alors même qu’elle se répand rapidement dans les foyers. Ce scandale met en tout cas en lumière l’urgence d’un cadre beaucoup plus strict pour prévenir les dérives technologiques à destination des plus jeunes.
