TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Fake News : la justice refuse le rachat du site complotiste Infowars par le site satirique The Onion
Un tribunal américain des faillites a bloqué il y a quelques heures la vente du site Infowars, appartenant à Alex Jones, au site...
PlayStation Plus Extra et Premium : les jeux ajoutés en décembre 2024
Sony présente les jeux qui seront disponibles en décembre pour les joueurs qui ont les abonnements Extra et Premium du PlayStation Plus. Ce...
Path of Fury: Episode I : du kung-fu de type « pulp » pour la plateforme Meta Quest (trailer)
Path of Fury: Episode I – Tetsuo’s Tower promet une expérience intense de kung-fu de type « pulp » en...
Le robot Optimus de Tesla peut désormais marcher à l’air libre sur un terrain accidenté !
Le robot humanoïde Optimus de Tesla vient de franchir un énorme cap. Une vidéo publiée sur X par Tesla montre en effet le robot...
Les bons plans live 24h/24
Logitech G Saitek Pro Flight Throttle Quadrant Levier d'Axe de Bloc Manettes de Vol pour Simulateur de Vol, Ecran LCD, 3 Interrupteurs à Bascule Bidirectionnels, Support Réglable, USB, PC - Noir
HUAWEI Coque semi-rigide transparente Clear-Huawei pour P30 Pro
MOULINEX Cafetières filtre SUBITO inox 6 Tasses Machine à café cafetière électrique Cafetière Capacité 0,6L Antigoutte Porte-filtre pivotant Auto off 30 minutes FG150813
MOULINEX - Friteuses AM 480070 -
Manfrotto MTPIXIEVO-RD Trépied Rouge
Samsung EF-GG965FREGWW Galaxy S9+ Coque rigide Hyperknit rouge Samsung EF-GG965FR pour Galaxy S9+
De'Longhi hfx30 C18 IW zptc160 vertical, anthracite
Garmin - Ceinture cardio fréquencemètre HRM-Swim Bleu - livrable en France
Philips Applique extérieure CORMORANT E27 42W noire
ROCCAT Torch - Microphone USB de qualité Studio, Noir - livrable en France
[#BonPlan] Les promos high-tech du 10 décembre (livraison avant Noël)
Productive - Habit Tracker .
Productivité
Metadata
Photo et vidéo
IQ Test Pro Edition
Jeux
Contacts Transfer & Backup Pro
Productivité
Dump - Share Photo Albums
Réseaux sociaux
Boba Yeah stickers
Autocollants
SteamWorld Quest
Jeux
Hymnes et Louanges Adventist
Références
ChordPolyPad
Musique
KORG iELECTRIBE for iPhone
Musique
Cocorico (2024)
Comédie
La fiancée du poète
Comédie
Rosalie (2024)
Drame
Into the Sea
Documentaire
Le Dernier Maître de l'Air
Action et aventure
Mon beau-père et moi
Romance
Bumblebee
Science-fi et fantasy
Very Bad Dads 2
Comédie
