Le fabricant singapourien FoloToy a remis en rayon son ourson connecté Kumma, un jouet présenté comme un compagnon ludique pour les enfants mais dont les propos parfois NSFW avaient choqué parents et chercheurs. Suspendu de la vente après un rapport accablant, le jouet – doté d’une intelligence artificielle embarquée – est désormais de retour à la vente avec la promesse d’une IA enfin « sage » et véritablement adaptée aux enfants.
Des réponses totalement inadaptées pour un jouet enfant
L’affaire avait éclaté après l’analyse d’un groupe de recherche indépendant, ces derniers ayant découvert que l’ourson était capable de répondre à des demandes extrêmement inappropriées. L’IA donnait ainsi des indications sur l’emplacement de couteaux dans la maison et allait jusqu’à développer des scénarios sexuels détaillés. Selon les chercheurs, Kumma « introduisait lui-même de nouveaux concepts sexuels » et fournissait des descriptions explicites totalement incompatibles avec un usage destiné aux enfants.
FoloToy tente de rectifier le tir
Face au scandale, FoloToy avait suspendu immédiatement les ventes de son produit. Dans un communiqué, la marque assure désormais avoir mené « une semaine complète d’audits, de tests et de renforcement de nos modules de sécurité ». Une déclaration qui se veut certes rassurante, mais qui soulève aussi des interrogations : est-il réellement possible de corriger des failles majeures de modération en quelques jours seulement ?
Avant sa mise à l’arrêt, Kumma reposait sur le modèle GPT-4o. À la suite des révélations sur le comportement inapproprié du jouet, OpenAI avait confirmé avoir suspendu FoloToy pour non-respect de ses règles (CLUF). La nouvelle fiche produit évite désormais toute référence à un modèle d’IA spécifique, ce qui semble indiquer que FoloToy a préféré retirer l’une des fonctions phares de son jouet plutôt que de risquer un nouveau bad buzz.
