TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Windows 10 : Microsoft propose un an supplémentaire de mises à jour de sécurité gratuites à une condition
Microsoft vient d’annoncer une nouvelle stratégie concernant les mises à jour de sécurité étendues (ESU) pour...
Google Chrome sur Android permet enfin d’avoir la barre d’adresse en bas
Google vient de proposer une fonction attendue depuis longtemps en permettant aux utilisateurs de Chrome sur Android de déplacer la barre...
Elio : flop intergalactique (et jamais vu) pour Pixar
C’est un flop intergalactique qui se profile pour Pixar, sans aucun doute le plus gros échec du studio américain à qui...
Premières images saisissantes du télescope Vera C. Rubin
Après plus de vingt ans de conception et de construction, l‘observatoire Vera C. Rubin, situé dans les Andes chiliennes, a...
Xbox s’apprête à annoncer une grosse vague de licenciements
Microsoft s’apprête à lancer une nouvelle série de licenciements au sein de sa division Xbox, selon Bloomberg. Cette...
Les bons plans live 24h/24
Brosse à dents électrique connectée PHILIPS SONICARE HX6352/42 - Enfant - Rose - 2 modes
Ecran PC 4K mini-LED Asus ProArt PA32UCG-K 32 pouces
Appareil photo Compact Ricoh GR III x
Processeur Intel Core i9-12900K (3.2 GHz)
Apple Watch Series 7 (GPS + Cellular, 45mm) Montre connectée - Boîtier en Acier Inoxydable Argent, Bracelet Milanais Argent. Suivi de l’activité Physique, résistance à l’Eau
Caisson de basses Earthquake CP-8
Caisson de basses Earthquake FF-10
Dragon Ball Xenoverse 2 pour Nintendo Switch
Jeu Nier Replicant NieR Replicant ver.1.22474487139... sur PC
Haier HWS42GDAU1 Series 7 Cave à vin, 42 bouteilles, connectivité Wi-Fi, lumières LED et verre anti-UV, étagères en bois, 49,7 x 58,5 x 82 cm, noir
[#BonPlan] Les promos high-tech du 23 juin
backAR Green Screen
Photo et vidéo
Radar de pluie - Cartes météo
Météo
WN PRO: Météo Prévisions Radar
Météo
KORG ELECTRIBE Wave
Musique
ARP ODYSSEi
Musique
KORG Module Pro
Musique
Anémomètre: Vitesse du vent
Météo
iWriter Pro
Productivité
Indice UV - Rayons du soleil
Météo
KORG Gadget 3
Musique
13 Hours
Thriller
Divergente
Action et aventure
Jurassic Park
Science-fi et fantasy
Watchmen - Les Gardiens (Ultimate Cut)
Action et aventure
xXx: Reactivated
Thriller
Top Gun
Romance
Transformers
Action et aventure
Jeff Panacloc : À la poursuite de Jean-Marc
Comédie
