TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
[Màj – #BlackFridayWeek] 1er jour d’une grosse semaine de promos High-tech
C’est la semaine du Black Friday,l’avant dernière semaine du mois de novembre, qui est une période de grosses promotions pour...
Google aurait annulé la sortie de sa tablette Pixel Tablet 2
La tablette Pixel Tablet 2 ne verra visiblement pas le jour, avec Google ayant décidé d’annuler sa sortie. Le modèle existant,...
La présidente de la FCC se dit prête à démissionner lors de l’intronisation de Trump à la présidence américaine
Jessica Rosenworcel, la première femme à occuper le poste de présidente permanente de la FCC (Federal Communications Commission),...
L’afidavit d’une loi sur les risques de l’IA… contiendrait des fausses sources créées par de l’IA !
Une plainte fédérale ciblant la loi du Minnesota « Utilisation de la technologie Deep Fake pour influencer une...
Google critique la demande des États-Unis (DOJ) de vendre Chrome
Le département de la Justice (DOJ) des États-Unis a officiellement estimé aujourd’hui que Google doit vendre Chrome. Cela fait...
Les bons plans live 24h/24
Logitech M500s Souris filaire avancée avec défilement ultra-rapide et multidirectionnel avancé, boutons personnalisables, suivi haute précision avec commutateur PPP, USB prêt à l'emploi - Gris
Belkin Écouteurs SoundForm avec connecteur USB-C (intra-auriculaires USB-C) blanc
Razer Kishi pour iOS - Contrôleur de Jeu Pour SmartPhone (Connexion USB-C, Design Ergonomique, Ajustement Individuel pour Téléphones Mobiles, clé Analogique, lAtence Ultra Faible), Noir
Panasonic ER-GC53 Tondeuse Cheveux Homme, Utilisation Avec/Sans Fil avec 20 longueurs de 0,5 à 10mm, Lavable, 1 Accessoire
Sackboy A Big Adventure! (PS4)
Jeu Spider-Man Miles Morales sur PS4
Objectif zoom Pentax HD-FA 70-210mm F/4 ED SDM WR noir pour reflex Pentax à monture K
Thrustmaster Ferrari 458 Spider Racing Wheel compatible Xbox One
Objectif zoom Pentax HD DA 20-40mm f/2.8-4 ED LTD SILVER
Objectif zoom Pentax HD DA 11-18mm f/2.8 ED DC AW
[#BlackFridayWeek] jusqu’à -40% de réduction chez UGREEN : batteries, chargeurs, Hub,..
King of Bass: Analog + Sub 808
Musique
Moncage
Jeux
OkyDoky – Cours de langues
Education
Dump - Share Photo Albums
Réseaux sociaux
Baromètre - Pression Air
Météo
Boba Yeah stickers
Autocollants
Agonizer
Musique
SteamWorld Quest
Jeux
KB-1 Keyboard Suite
Musique
Ruismaker Noir
Musique
Les Désaxés
Drame
L'homme d'argile
Indépendant
Blue Beetle
Action et aventure
Jamais sans ma fille
Drame
Six degrés de séparation
Drame
Un hiver à Yanji
Romance
Le voyage en pyjama
Drame
Raging Bull
Sports
