TENDANCES
Comparateur
  • AUTO
KultureGeek Logiciels Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Logiciels

Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés

25 Mar. 2016 • 10:59
0

Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.

th_sans-titre-1_7

Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.

th_tay derapage

« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire  des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir  aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !
Les sujets liés à ces tags pourraient vous interesser

Lisez aussi ces autres articles !

Pas d'articles en relation.

Désolé, les commentaires sont fermés.

Les derniers articles

Icône de l'application YouTube

YouTube va limiter les vidéos promettant de l’argent facile aux ados

4 Mar. 2025 • 19:40
0 Internet

YouTube a annoncé son intention de limiter l’exposition des adolescents français et européens à des vidéos...

PS5 Pro PlayStation 5 et Manette DualSense

PS5 : Sony lance un programme de bêta pour tester les jeux et mises à jour en avance

4 Mar. 2025 • 19:12
0 Jeux vidéo

Sony annonce le lancement d’un nouveau programme de bêta pour PlayStation. Cela concerne la possibilité de tester en avance des jeux et...

deals promos

🔥 [#BonPlan] Les promos high-tech du 4 mars

4 Mar. 2025 • 18:42
0 Promos

Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...

Xbox Series S et Xbox Series X et Manette Debout

Xbox Game Pass : les jeux ajoutés en mars 2025

4 Mar. 2025 • 18:32
0 Jeux vidéo

Microsoft présente la liste des jeux qui seront disponibles sur le Xbox Game Pass en mars 2025. On retrouve six titres, soit un de moins que le...

Samsung flexible Briefcase

Samsung dévoile un ordinateur « attaché-case » avec écran flexible

4 Mar. 2025 • 16:25
0 Matériel

Samsung a profité du MWC de Barcelone pour dévoiler un joli paquet de nouveautés, dont certains concepts particulièrement...

Les dernières actus Apple sur iPhoneAddict :

Tous les articles
image de l'article iOS 18.4 et macOS 15.4 : la 2e bêta publique est disponible

iOS 18.4 et macOS 15.4 : la 2e bêta publique est disponible

4 Mar. 2025 • 19:21

image de l'article Le Mac Studio M4 Max et M3 Ultra arriverait aussi cette semaine

Le Mac Studio M4 Max et M3 Ultra arriverait aussi cette semaine

4 Mar. 2025 • 18:47

image de l'article L’annonce du MacBook Air M4 par Apple aurait lieu demain

L’annonce du MacBook Air M4 par Apple aurait lieu demain

4 Mar. 2025 • 17:44

image de l'article Apple dévoile des coques colorées pour iPhone 16 et bracelets pour Apple Watch

Apple dévoile des coques colorées pour iPhone 16 et bracelets pour Apple Watch

4 Mar. 2025 • 17:28

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site