TENDANCES
Comparateur
- AUTO
Le fabricant singapourien FoloToy a remis en rayon son ourson connecté Kumma, un jouet présenté comme un compagnon ludique pour les enfants mais dont les propos parfois NSFW avaient choqué parents et chercheurs. Suspendu de la vente après un rapport accablant, le jouet – doté d’une intelligence artificielle embarquée – est désormais de retour à la vente avec la promesse d’une IA enfin « sage » et véritablement adaptée aux enfants.
L’affaire avait éclaté après l’analyse d’un groupe de recherche indépendant, ces derniers ayant découvert que l’ourson était capable de répondre à des demandes extrêmement inappropriées. L’IA donnait ainsi des indications sur l’emplacement de couteaux dans la maison et allait jusqu’à développer des scénarios sexuels détaillés. Selon les chercheurs, Kumma « introduisait lui-même de nouveaux concepts sexuels » et fournissait des descriptions explicites totalement incompatibles avec un usage destiné aux enfants.

Face au scandale, FoloToy avait suspendu immédiatement les ventes de son produit. Dans un communiqué, la marque assure désormais avoir mené « une semaine complète d’audits, de tests et de renforcement de nos modules de sécurité ». Une déclaration qui se veut certes rassurante, mais qui soulève aussi des interrogations : est-il réellement possible de corriger des failles majeures de modération en quelques jours seulement ?
Avant sa mise à l’arrêt, Kumma reposait sur le modèle GPT-4o. À la suite des révélations sur le comportement inapproprié du jouet, OpenAI avait confirmé avoir suspendu FoloToy pour non-respect de ses règles (CLUF). La nouvelle fiche produit évite désormais toute référence à un modèle d’IA spécifique, ce qui semble indiquer que FoloToy a préféré retirer l’une des fonctions phares de son jouet plutôt que de risquer un nouveau bad buzz.
L’Agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (Anses) vient de rendre un...
Nouvelle étape majeure pour l’aéronautique : la NASA a publié les images du tout premier vol du X-59, son démonstrateur...
Après un test aux États-Unis, Amazon propose Alexa+, son assistant vocal boosté à l’intelligence artificielle...
Le robot humanoïde AgiBot A2, conçu par la société chinoise éponyme AgiBot (située à Shanghai), a...
HP a annoncé un vaste plan de restructuration qui prévoit la suppression de 4 000 à 6 000 emplois d’ici la fin de...