TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Discord généralise la vérification d’âge et limite l’accès aux contenus sensibles
Discord durcit sa politique de protection des mineurs en déployant à l’échelle mondiale des paramètres dits «...
Riot Games réduit de moitié l’équipe de développement de son jeu de combat 2XKO
Riot Games a annoncé une nouvelle vague de licenciements touchant l’équipe en charge de son jeu de combat en duo 2XKO. Environ 80...
Zendure dévoile ses SolarFlow 2400 AC+, 2400 Pro et 1600 AC+ pour doper l’autoconsommation
Le stockage résidentiel franchit un nouveau cap en 2026 : après les panneaux, beaucoup de foyers veulent désormais conserver leur...
IA au travail : quand la promesse de productivité se transforme en épuisement professionnel
Depuis plusieurs années, l’industrie technologique promeut une vision rassurante de l’intelligence artificielle : loin de supprimer...
Darty confirme un piratage avec vol de données des clients
Darty annonce qu’un piratage a permis à un hacker à récupérer les données de ses clients. Cela comprend plusieurs...
Les bons plans live 24h/24
JBL Quantum 200 – Casque gaming filaire avec son Signature Quantum JBL – Micro avec réduction de bruit ambiant – Compatible PC et consoles – Couleur : Noir
Urbanears Luma Écouteurs de sans fil - Charcoal Black
Appareil photo hybride Panasonic S1R + 24-105/4
LG UltraWide 34WL850-W, Moniteur 21:9 QHD Nano IPS 34'' (3440 x 1440, 5 ms, DCI-P3 98%, HDMI, DisplayPort, Thunderbolt, USB 3.0, HDR 400, Haut-parleurs, Ajustable Hauteur, FreeSync) Noir/Argent
Accessoires photo Panasonic V-LOG Pour LUMIX GH4-GH5 :DMW-SFU1GU
SAMSUNG T7 2 To USB 3.2 SSD externe bleu - MU-PC2T0H/WW
Objectif à Focale fixe Sigma 24/1.4 DG HSM "A" pour Nikon
Objectif à Focale fixe Pentax DA300MM F/4ED(IF)SDM
Smeg Mixeur à main HBF02PBEU pastel bleu
Jeu Super Mario Party Switch sur Nintendo 3DS
ColorCamera - Color Picker
Photo et vidéo
The Isle of Cats
Jeux
Clank!
Jeux
Dolls Dress up Game
Jeux
Bendy and the Ink Machine
Jeux
WeatherNOW PRO: météo et radar
Météo
Block vs Block II
Divertissement
backAR Green Screen
Photo et vidéo
The Secret of Crimson Manor
Jeux
Video Grabber
Divertissement
Avec ou sans enfants ?
Comédie
La La Land
Comédie
Sublimes Créatures
Romance
Amitiés Sincères
Comédie
Le gendarme se marie
Comédie
The Dark Knight : Le chevalier noir
Action et aventure
Parthenope
Drame
Les Animaux Fantastiques 3 : les Secrets de Dumbledore
Action et aventure
