TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
OpenAI (ChatGPT) est en négociation pour lever 40 milliards de dollars
OpenAI, l’entreprise à l’origine de ChatGPT, est actuellement en pourparlers pour lever jusqu’à 40 milliards de dollars...
Samsung connaît des difficultés, malgré le bénéfice d’exploitation qui a plus que doublé
Samsung a publié un bénéfice net de 7 754 milliards de wons (5,12 milliards d’euros) pour le quatrième trimestre de...
DeepSeek : les conversations et la base de données ont été accessibles sans protection
Une faille notable a été découverte dans le système de l’intelligence artificielle de DeepSeek, permettant...
Forza Horizon 5 est officiellement annoncé sur PS5
Après les joueurs Xbox et PC, ce sont ceux avec une PS5 qui vont pouvoir jouer à Forza Horizon 5. En effet, le jeu vidéo de course...
No Man’s Sky : une nouvelle extension ajoute des milliards de systèmes solaires supplémentaires !
No Man’s Sky a rejoint depuis un certain temps les promesses fastueuses de ses premières annonces : un univers tout entier visitable et...
Les bons plans live 24h/24
Caméra de surveillance ARLO 2 caméras Pro5 + 2 panneaux solaires
Apple iPhone 13 128 Go Noir Minuit 5G
Sony SEL35F18F Objectif 35 mm ouverture F 1.8 - livrable en France
Kingston Technology 16GB DDR4 2666MHz SODIMM - livrable en France
Objectif zoom Sigma 100-400mm F5-6.3 DG DN OS L Contemporary
Denon Home 150 Haut-Parleur multiroom HiFi avec HEOS intégré, Wi-FI, Bluetooth, USB, AirPlay 2, Audio Haute résolution, Compatible Alexa Home 250. Blanc. - livrable en France
JBL Live 670NC Casque supra-auriculaire, Bluetooth 5.3, connexion multi-source, Réduction de Bruit Adaptative et Smart Ambient, jusqu'à 65 heures d'autonomie, noir
JBL Live 670NC Casque supra-auriculaire, Bluetooth 5.3, connexion multi-source, Réduction de Bruit Adaptative et Smart Ambient, jusqu'à 65 heures d'autonomie, bleu
Apple iPhone 13 128 Go Blanc Lumière Stellaire - 5G
Sonos Five - Enceinte sans Fil - Haut Parleurs HiFi - Son Stéréo - Multiroom - WiFi - Trueplay™ - Qualité Studio - Son Clair et Puissant - Air Play 2 - Interface Tactile - Noir - livrable en France
[#Soldes] Les promos high-tech du 30 janvier
Ordesa - le film interactif
Jeux
Vectronom
Jeux
Homo Machina
Jeux
Vandals
Jeux
Istanbul: The Digital Edition
Jeux
Steam: Rails to Riches
Jeux
Super Tank Battle - MobileArmy
Divertissement
SAGA Synth | 16-Bit Sonic Fun!
Musique
P - Drink Water Reminder App
Cuisine et boissons
Chameleon AUv3 Sampler Plugin
Musique
La malédiction du Queen Mary
Horreur
L'usine, le bon, la brute et le truand
Documentaire
Kung Fu Panda
Comédie
Mia et moi : L'héroïne de Centopia
Enfants / famille
Duplicity (2009)
Drame
Jarhead
Action et aventure
Sans filtre
Comédie
Le Petit Nicolas : Qu'est-ce qu'on attend pour être heureux ?
Action et aventure
