TENDANCES
Comparateur
- AUTO
Tay : Microsoft obligé d’arrêter son IA à cause de ses dérapages répétés
Il n’aura même pas fallu attendre 24 heures pour que l’expérience Tay de Microsoft tourne au fiasco le plus total. Tay est le nom de cette intelligence artificielle capable d’écrire des messages dans le style « d’jeuns » sur les réseaux sociaux de type Twitter; depuis hier, il était possible de converser avec Tay via son compte Twitter, et comme on pouvait le craindre, des petits malins n’ont rien trouvé de mieux à faire qu’obliger Tay à répéter des propos orduriers, racistes ou homophobes, ce que Tay s’est empressé de faire (une IA n’a pas de « valeurs » morales). Devant la multiplication des dérapages de Tay (qui est allé jusqu’à nier les chambres à gaz tout de même), Microsoft a suspendu le service, le temps sans doute de nettoyer la base de données et de mettre en place quelques blocages au niveau des réponses possibles.
Cet epic-fail de Tay est pourtant riche d’enseignements concernant les IA, surtout celles qui sont basées sur les technologies logicielles dites de deep-learning (apprentissage profond). Dans le cas de Tay, c’est l’accumulation de relations et de dialogues qui devait enrichir sa base de données et lui servir de socle d’apprentissage; ce que Microsoft n’avait sans doute pas anticipé, c’est qu’il se trouverait une telle masse d’internautes dont le seul objectif serait de fournir à Tay des données stupides, visant clairement à rendre le logiciel plus bête.
« N’est stupide que la stupidité » disait Forest Gump, mais cela est vrai malheureusement aussi des systèmes d’IA, qui ne deviennent experts que parce qu’ils vont piocher les bonnes informations au bon endroit; mais dans le cas d’un agent conversationnel, l’acquisition des données se fait au travers des propos échangés avec les interlocuteurs: plus les conversations sont logiques, intelligentes et sensées, et plus la machine est capable de reproduire des propos « positifs » et « intelligents »; à contrario, plus les interlocuteurs se montrent ineptes ou franchement orduriers, et plus la machine aura tendance à normaliser et « intégrer » ces dérapages. La solution logique semble bien être de fournir aux IA de type deep-learning des règles à suivre et à ne pas dépasser, un peu comme les pré-requis que sont les 3 lois de la robotique d’Asimov. Sans doute est-ce d’ailleurs ce que Microsoft va faire, si tout au moins il compte encore prendre le risque de lancer à nouveau l’IA dans la jungle d’internet.
Les derniers articles
Microsoft annonce avoir saisi 240 sites liés à du phishing
Microsoft a annoncé avoir obtenu le blocage de 240 sites liés à un réseau de cybercriminels, après avoir lancé...
OpenAI efface des éléments de preuve dans sa bataille juridique contre le New York Times
C’est la grosse boulette de la semaine : si l’on en croit un dépôt de la cour de justice, les ingénieurs d’OpenAI...
La Bagnole électrique devrait séduire les utilisateurs sans permis
La Bagnole (ça ne s’invente pas), un véhicule électrique conçu et fabriqué part une startup française,...
Voici à quoi « ressemble » un photon, et c’est une première
Des chercheurs britanniques de l’université de Birmingham ont développé une nouvelle théorie décrivant les...
[Màj – #BlackFridayWeek] 1er jour d’une grosse semaine de promos High-tech
C’est la semaine du Black Friday,l’avant dernière semaine du mois de novembre, qui est une période de grosses promotions pour...
Les bons plans live 24h/24
Corsair iCUE SP140 RGB ELITE Performance 140 mm Kit de Deux Ventilateurs avec iCUE Lighting Node CORE (Technologie CORSAIR AirGuide, Huit LED RGB Paramétrables, Silencieux niveau sonore 18 dBA) Blanc
LL FRONT CANDY CS1412TME/1-47
Cooler Master MasterAir MA620M Refroidisseur CPU - Dissipateur Thermique Double Tour ARGB, 6 x Caloducs avec Ventilateur Silencieux SF120R - Garantie 5 ans
Corsair iCUE SP140 RGB ELITE Performance 140 mm Kit de Deux Ventilateurs avec Lighting Node CORE (Technologie CORSAIR AirGuide, Huit LED Paramétrables, Silencieux Niveau Sonore 18 dBA) Noir
MSI Optix MAG342CQR Écran Gaming Incurvé UWQHD 34" - 1500R, Dalle VA, 3440x1440, 144Hz / 1ms, Adaptive Sync, HDR Ready, Mystic Light, Pied de Support Réglable 4 Directions - DP 1.4, HDMI 2.0
Canon NB-13L Batterie pour Canon PowerShot G7X Gris
CORSAIR K55 RGB PRO XT Clavier de Jeu Filaire à Membrane – IP42 Résistant à la Poussière et Aux éclaboussures – 6 Touches Macro Intégration Elgato – Compatible iCUE – AZERTY FR – PC, Mac, Xbox – Noir
Logitech MK850 Combo Clavier et Souris sans Fil, QWERTY Espagnol - livrable en France
D-Link DGS-1008P Switch 8 Ports Gigabit POE 10/100/1000mbps - Idéal Partage de Connexion et Mise en Réseau Small/Home Office
TP-Link TL-R480T+ Routeur Intelligent Multi WAN/ 5 Ports 10/100Mbps + 1 Port Console/ QoS
[#BlackFridayWeek] jusqu’à -40% de réduction chez UGREEN : batteries, chargeurs, Hub,..
King of Bass: Analog + Sub 808
Musique
Moncage
Jeux
Dump - Share Photo Albums
Réseaux sociaux
Baromètre - Pression Air
Météo
Boba Yeah stickers
Autocollants
Agonizer
Musique
SteamWorld Quest
Jeux
KB-1 Keyboard Suite
Musique
Ruismaker Noir
Musique
RE-1 Tape Machine
Musique
Still of the Night
Drame
Rain Man
Drame
Rob Roy
Drame
Nicholas Nickleby
Drame
Stanley et Iris
Drame
Tolerance Zero - L`heure N`est Plus Aux Concessions.
Drame
L'homme d'argile
Indépendant
Un hiver à Yanji
Romance
