Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Lisez aussi ces autres articles !
Les derniers articles
Fallout : la saison 2 est officialisée par Amazon Prime Video
Amazon Prime Video annonce renouveler la série Fallout en lui accordant une saison 2. Ce n’était pas réellement une surprise...
TikTok Notes, un concurrent d’Instagram, est disponible de façon limitée
Après les rumeurs, place au lancement de TikTok Notes, un nouveau social qui vient concurrencer Instagram. Quelle différence avec TikTok qui...
Des chercheurs posent la première pierre d’un internet quantique
Des scientifiques de l’Imperial College de Londres viennent de bouleverser le domaine de l’informatique quantique, un domaine qui cherche...
Firefox 125 propose l’AV1 étendu, le surlignage des PDF, un copier/coller rapide des URL et plus
Mozilla propose la version stable de Firefox 125 au téléchargement et il ne s’agit pas d’une petite version. En effet, la mise...
IA : Meta lance Llama 3 et déploie Meta AI sur tous ses services
Meta tape dur sur le secteur de l’IA. Ce même jour, la firme de Mark Zuckerberg annonce le lancement de Llama 3, un modèle de langage...
Les bons plans live 24h/24
GAINWARD GeForce RTX 4070 Phoenix GS Grafikkarte - 12GB GDDR6X, 1x HDMI, 3X DP
APC by Schneider Electric Back UPS PRO - BR1600MI - Onduleur 1600VA (8 prises IEC, Interface LCD, Protection des lignes de données 1 Go)
Ecran PC ASUS XG27UQR (27" 4k 144 Hz - HDR 400 - 1 ms - DisplayPort / HDMI - Pied réglable - Hub USB)
ASUS Vivobook S15 OLED (N5504VN-L1025W)
Ricoh Appareil 360 Degrés Theta X, Image Haute définition d'environ 60MP, 5.7K 360, écran Tactile, Batterie Interchangeable, Carte mémoire Externe Gris
De'Longhi Dinamica Plus ECAM370.85.SB, Noir, Argent
Coque avec anneau Transparent pour Samsung Galaxy Z Flip 3
TV TCL 75C645 2023
Packs d'enceintes grand spectacle Jamo S25HCS Gris clair
Ordinateur portable SAMSUNG Galaxy Book4 Pro 14' U7 16g 512g Argent
[#BonPlan] Les promos high-tech du 18 avril
Depello - Color Splash photos
Photo et vidéo
Asketch
Graphisme et design
Proloquo4Text
Education
Professional Resume Builder
Economie et entreprise
This Is the Police 2
Jeux
Air Share - Transfert Wi-Fi
Economie et entreprise
Gods Wars II-Blade of Lucifer
Divertissement
Ampères - Info batterie Ampere
Utilitaires
Draw Studio Pro - Paint, Edit
Economie et entreprise
Keyboard X-Key
Utilitaires
La colline a des yeux
Classiques
Mariage à la grecque (VF & VOST)
Comédie
Millénium 3 : La reine dans le palais des courants d'air
Thriller
Three Days of Glory
Documentaire
Where to Invade Next
Documentaire
Sage femme
Comédie
L’affaire Galapagos
Documentaire
Ray Harryhausen, le titan des effets spéciaux
Documentaire
