TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Claude Opus 4.6 : Anthropic dévoile son modèle d’IA le plus intelligent
Anthropic accélère la course à l’intelligence artificielle avec le lancement de Claude Opus 4.6. Présenté comme...
Horizon Hunters Gathering : Guerrilla dévoile un spin-off coopératif sur PS5 et PC (trailer)
Guerrilla Games enrichit la licence Horizon avec Horizon Hunters Gathering, un spin-off orienté action et coopération prévu sur...
Spotify ajoute la synchronisation entre livres audio et livres papier
Après une phase de test, Spotify annonce Page Match, une nouvelle fonctionnalité qui permet aux utilisateurs de synchroniser la lecture...
Meta lance Vibes en application indépendante pour rivaliser avec les vidéos IA de TikTok et OpenAI
Meta teste actuellement une version autonome de Vibes, son service de création et de partage de vidéos générées par...
Substack victime d’une énorme fuite de données : des utilisateurs alertés plusieurs mois après l’intrusion
La plateforme de newsletters Substack a confirmé cette semaine avoir été la cible d’une violation de données...
Les bons plans live 24h/24
Boitier PC Moyen Tour Deepcool CH560 Digital (Noir)
Boitier PC Moyen Tour Deepcool CH560 Digital (Noir)
Samsung Galaxy Z Flip7, Smartphone Android 5G avec Galaxy AI, 256 Go, Smartphone déverrouillé, Bleu Nuit
Stylet numérique Logitech Crayon pour iPad (modèles d’iPad avec Ports USB-C) doté de la Technologie Apple Pencil, d’Un Design Anti-roulement et d’Une Pointe Intelligente Dynamique.
Akyga AK-ND-52 Adaptateur de Puissance & onduleur Intérieure 120 W Noir
hns61212xh
Smartphone SAMSUNG Galaxy S23 FE Gris 128Go
TP-Link Tapo Smart Home Solar Powered Security Camera Kit, Wireless, 2K 3MP, IP65, Color Night Vision, Person Detection, Notification, No Hub Required, SD Card Slot, App Remote Control (TC82
Centrale vapeur Philips PSG7050 30
TP-Link TL-WA850RE(FR) Répéteur WiFi - Amplificateur WiFi N300, WiFi Extender, WiFi Booster, 1 Port Ethernet, Augmente la borne wifi, Compatible avec toutes les box internet,Blanc
[#Soldes] Les promos High-Tech du 5 février
Hygromètre - Humidité de l'air
Météo
Block vs Block II
Divertissement
backAR Green Screen
Photo et vidéo
The Secret of Crimson Manor
Jeux
Lootbox RPG
Jeux
Facture Facile
Economie et entreprise
Dungeons of Dreadrock 2
Jeux
Video Grabber
Divertissement
Hash Calculator
Utilitaires
Sadhana - The way back
Jeux
Reflet dans un diamant mort
Thriller
Mission: Impossible - Rogue Nation
Action et aventure
Terminator Genisys
Action et aventure
La neige tombait sur les cèdres
Drame
Jude
Drame
Kill Me Three Times
Action et aventure
Charlotte Gray
Thriller
Après l’hiver
Comédie
