TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Le Brésil bannit X (Twitter) et infligera des amendes à ceux qui contournent avec un VPN
Après la menace, le Brésil passe à l’action : le pays vient de bloquer le réseau social X (ex-Twitter). La...
🔥 [#BonPlan] Les promos high-tech du 30 août
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
Android : le Play Store peut maintenant mettre à jour plusieurs applications en même temps
Google améliore le Play Store, sa boutique d’applications sur Android, avec désormais la possibilité de mettre à jour...
La capsule qui ramènera sur Terre l’équipage du Starliner décollera en septembre
Tout se met petit à petit en place : l’équipage de la mission Crew-9 rejoindra la Station spatiale internationale le 24 septembre...
Meta AI : l’IA atteint les 400 millions d’utilisateurs mensuels
Les services d’intelligence artificielle générative rencontrent de plus en plus de succès. Il y a quelques heures, OpenAI a...
Les bons plans live 24h/24
Samsung Galaxy Tab S6 Lite Tablette 10,4" (processeur Qualcomm Snapdragon 720G, 4 Go RAM, 64 Go de Stockage, LTE, Android 12) Bleu Version espagnole
Réveil Digital Mixte Casio Collection DQ-747-8EF Gris/Gris
Amplis hi-fi stéréo Cambridge Audio EVO 150 DeLorean Edition
L'Illusionniste (César 2011 du Meilleur Film d'Animation)
Contre enquête
La Guerre des Boutons
Verbatim U3 Carte mémoire microSDHC 32 Go - noire pour l'enregistrement full HD - pour appareils photo
LaCie d2 Professional 18 To, disque dur externe portable et de bureau HDD – USB-C, 7 200 tr/min, disques d'entreprise, pour Mac et PC, services Rescue valables 5 ans (STHA18000800)
Radio-fréquence Souris sans fil Dell - WM126 - livrable en France
Kingston FURY Impact 32GB (2x16GB) 3200MHz DDR4 CL20 Mémoire d’ordinateur Portable Kit de 2 KF432S20IBK2/32 - livrable en France
[#BonPlan] Les promos high-tech du 30 août
3D Anatomy
Medecine
aTimeLogger Gestion du temps
Productivité
DM1 for iPhone
Musique
SkySafari 7 Plus
Références
SkySafari 7 Pro
Références
MathKey - Convertisseur LaTeX
Utilitaires
Lapse 2: Before Zero
Jeux
Ghost SLS
Divertissement
ATOM RPG
Jeux
Metadata
Photo et vidéo
Je verrai toujours vos visages
Drame
Collide (2023)
Drame
Boxing Day
Fêtes
Une robe pour Mrs. Harris
Comédie
Brigadoon
Comédie musicale
2010 : L'année du premier contact
Science-fi et fantasy
Denis la malice
Comédie
Chantons sous la pluie
Comédie
