TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
🔥 [#BonPlan] Les promos high-tech du week-end
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
🔥 [#BonPlan Les promos high-tech du 9 mai
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
Le Mexique poursuit Google après le changement de nom du golfe du Mexique
Le gouvernement mexicain a décidé d’engager des poursuites contre Google pour avoir renommé le golfe du Mexique en golfe...
Godzilla x Kong: Supernova sera le prochain film du Monsterverse
La suite de Godzilla x Kong: The New Empire a officiellement été annoncée par Warner : Godzilla x Kong: Supernova sera la prochaine...
Switch 2 : Nintendo réagit aux critiques sur le manque d’innovations
Alors que Nintendo vient de publier les résultats financiers pour l’exercice fiscal 2025, la firme japonaise a également...
Les bons plans live 24h/24
Shure Écouteurs Filaires Sound Isolating Shure Aonic 4, sonClair et Détaillé, deux Transducteurs Hybrides, Intra-Auriculaire, Robustes, Compatibles avec les Appareils Apple et Android – Blanc
Garmin Dash Cam 67W – kompakte Dashcam mit automatischer Unfallerkennung, 2“ (5,1 cm) Farbdisplay, weitem 180° Bildwinkel, scharfen HD-Aufnahmen in 1440p und vernetzten Services für mehr Sicherheit
Enceintes sans fil hi-fi KEF LSX Wireless 2 Noir
Enceintes colonne Focal Vestia N°3 Bois Clair
Enceintes colonne Focal Vestia N°3 Noir
Canon PIXMA TS5351i Imprimante 3-en-1 Jet d'encre WiFi Recto Verso, Blanc
Coque OPPO Reno 8 Lite Silicone Bleu
Philips CSA240/61 Machine à Café à Dosettes SENSEO Select Eco, Intensity Plus, Crema Plus, Fonction Memo - Noir
Microphone USB Blue Yeti Bleu (Enregistrement, Streaming, Podcast sur PC ou Mac) - livrable en France
G.Skill Trident Z RGB F4-3600C16Q-64GTZRC Module de mémoire 64 Go 4 x 16 Go DDR4 3600 MHz
[#BonPlan] Les promos high-tech du week-end
Vostok — Editeur de Stories
Photo et vidéo
Photo Edítor
Photo et vidéo
Facture Facile
Economie et entreprise
SAGA Synth | 16-Bit Sonic Fun!
Musique
Dreamworld - Music Album
Musique
Rollit - Photo Transfer App
Photo et vidéo
Swiss3D Pro
Voyages
Checkers Game ‣ Dames
Jeux
ROD Multiplayer Conduite
Jeux
Model 15 Modular Synthesizer
Musique
Live At Montreux 2005
Films de concerts
Champions
Indépendant
Soumission
Comédie
Mulholland Drive
Drame
Accident
Drame
Journal intime
Comédie
Le Pianiste
Drame
Trop belle pour toi
Comédie
