Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Lisez aussi ces autres articles !
Les derniers articles
Nothing annonce ses écouteurs Ear et Ear (a) avec ChatGPT
ChatGPT fait ses débuts sur les Ear et Ear (a), les nouveaux écouteurs sans fil de Nothing afin d’avoir facilement accès...
🔥 [#BonPlan] Les promos high-tech du 18 avril
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
The Witcher : la série de Netflix se terminera avec la saison 5
C’est désormais acté : la série The Witcher sur Netflix aura le droit à une saison 5 et celle-ci sera la...
Transformers : Le commencement a le droit à sa première bande-annonce
Paramount Pictures propose aujourd’hui la première bande-annonce pour Transformers : Le commencement, son nouveau film de la...
Google licencie 28 employés qui participaient à une manifestation contre un contrat de cloud avec Israël
Google s’est montré ferme : la firme de Mountain View a licencié 28 employés qui avaient participé à un sit-in de...
Les bons plans live 24h/24
KRUPS ESSENTIAL NOIRE Machine à café à grain Machine à café broyeur grain Cafetière expresso 2 tasses Nettoyage automatique Buse vapeur Cappuccino YY8125FD
MSI MPG Z590 Gaming Force Intel Z590 LGA 1200 ATX Noir - livrable en France
Thermaltake TH360 ARGB Sync Snow Edition Eau et gaz réfrigérants - livrable en France
be quiet ! MC1 Pro M.2 SSD Cooler Heatsink avec tube chauffant pour modules 2280 simple et double face - livrable en France
Echo Pop | Enceinte connectée Bluetooth et Wi-Fi compacte au son riche, avec Alexa | Anthracite
Ordinateur portable LENOVO Yoga Pro 9 14IRP8 EVO
Razer Seiren Mini - Microphone à Condensateur USB pour Le Streaming (Compact avec Diagramme Polaire Supercardioïde, Support Inclinable, Amortisseur Intégré) Quartz - livrable en France
TV TCL 75C645 2023
Vidéoprojecteur Acer X138WHP
The Sage 3X Bluicer, acier inoxydable brossé, mélangeur et presse-agrumes en un seul appareil, SJB615BSS - livrable en France
[#BonPlan] Les promos high-tech du 18 avril
Remote, Mouse & Keyboard Pro
Utilitaires
Asketch
Graphisme et design
Proloquo4Text
Education
Professional Resume Builder
Economie et entreprise
This Is the Police 2
Jeux
Air Share - Transfert Wi-Fi
Economie et entreprise
Gods Wars II-Blade of Lucifer
Divertissement
Ampères - Info batterie Ampere
Utilitaires
Draw Studio Pro - Paint, Edit
Economie et entreprise
Keyboard X-Key
Utilitaires
La colline a des yeux
Classiques
Mariage à la grecque (VF & VOST)
Comédie
Millénium 3 : La reine dans le palais des courants d'air
Thriller
Three Days of Glory
Documentaire
Where to Invade Next
Documentaire
Sage femme
Comédie
L’affaire Galapagos
Documentaire
Ray Harryhausen, le titan des effets spéciaux
Documentaire
