TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Offres fibre jusqu’à 8 Gb/s : quelles sont les 7 box compatibles ?
La fibre à 8 Gb/s s’installe progressivement dans le paysage des box internet en France avec déjà 10 millions de...
Star Wars : la version originale de 1977 va ressortir au cinéma en 2027
Disney et Lucasfilm ont confirmé le retour au cinéma de la version originale de Star Wars, épisode IV : Un nouvel espoir, tel...
La Russie décide de bloquer Snapchat
La Russie poursuit son isolement numérique en interdisant l’accès à Snapchat, une décision qui s’ajoute à...
MédecinDirect piraté : les données médicales de Français ont été volées
MédecinDirect, une plateforme de téléconsultations médicale, annonce avoir fait l’objet d’un piratage. Cette fuite...
Streaming : l’Arcom veut automatiser le blocage des sites pirates
Malgré une baisse historique de 35 % de l’audience des sites illégaux entre 2021 et 2025, l’Arcom entend intensifier sa lutte...
Les bons plans live 24h/24
Pile Verbatim 4xAA
Console Nintendo Switch Lite Turquoise
Sparti - i5/8/128 - Platinum
Étui pour Google Pixel 4a Noir réglisse
Kingston XS2000 2TB SSD Externe USB 3.2 Gen 2 Disque SSD externe portable - SXS2000/2000G - livrable en France
Jamo D 500 sur Enceinte pour MP3 & Ipod Noir - livrable en France
Sackboy : A Big Adventure sur PS5, Jeu de plateforme et d'aventure 3D, Edition Standard, 1 à 4 joueurs, Version physique, En français
Machine à café double expresso PHILIPS L'Or Barista LM9012/40 - Bleu nuit
Pro-Ject Record Box E Noir
NEC PD02W T L L 165,1 cm (65") Noir - Supports muraux d'écrans Plats (90,7 kg, 81,3 cm (32"), 165,1 cm (65"), Noir) - livrable en France
[#BonPlan] Les promos High-Tech du 5 décembre (livraison avant Noël)
This Is the Police 2
Jeux
Diapason Pro
Musique
Accordeur de Mandoline Pro
Musique
Accordeur de Violon Pro
Musique
About Love and Hate
Jeux
Fugue Machine : MIDI Sequencer
Musique
Portrait Painter
Photo et vidéo
Grungetastic
Photo et vidéo
Model 15 Modular Synthesizer
Musique
SAGA Synth | 16-Bit Sonic Fun!
Musique
Lisa Frankenstein
Horreur
Cirque Du Soleil: Worlds Away
Comédie musicale
Jackass 3
Comédie
xXx: Reactivated
Thriller
Bon à Tirer (B.A.T.)
Comédie
Tango et Cash
Action et aventure
Batman et Red Hood : sous le masque rouge
Thriller
Les hommes du président
Thriller
