S’il est plutôt facile de râler contre les assurances, une entreprise américaine vient donner davantage de grain à moudre. Il s’agit d’UnitedHealthcare, plus gros acteur du marché aux Etats-Unis, utilisant une intelligence artificielle pour traiter ses dossiers. Mais la firme vient de se faire épingler : son IA aurait un taux d’erreur de 90%, et les décisions automatisées qui en ont découlé auraient coûté la vie à plusieurs personnes. Les familles de deux de ces victimes ont entamé une action en justice auprès des tribunaux du District du Minnesota.
UnitedHealthcare aurait commencé à utiliser son IA, nH Predict, au plus tard en novembre 2019. Les algorithmes sont supposés calculer les soins nécessaires aux patients en phase post-aiguë, phase suivant par exemple une sortie d’hôpital. Elle concerne entre autres des thérapies, visites à domicile de staff médical, ou encore l’inscription à des centres de réhabilitation. Il s’agit donc d’un moment particulièrement critique. Or, les décisions de l’IA ne sont pas à la hauteur : dans 90% des cas où elle avait décidé que les soins ne seraient pas pris en charge, les clients ayant fait appel ont eu gain de cause. Ce qui, d’après les plaignants, montre bien un dysfonctionnement de taille. Pire encore, l’entreprise a peu à peu changé sa politique en poussant les managers humains à suivre les décisions de l’IA.
Si le procès aboutit, on pourrait avoir un précédent conséquent concernant l’utilisation de l’IA dans les métiers « sensibles ». Quant à UnitedHealthcare, la facture pourrait être bien salée.
![image produit Panasonic KX-TGJ320GB avec répondeur (version allemande!) noir [Version Allemande]](https://kulturegeek.fr/comparateur/img_products/73034/panasonic-kx-tgj320gb-telephone-sans-fil-systeme-de-repondeur-avec-id-dappelant-dect-noir-20283_thumb.jpg)
![Affiche du film Pour toujours (Always) [1989]](https://is1-ssl.mzstatic.com/image/thumb/Video2/v4/34/da/5a/34da5ae4-9582-d54f-0b6a-ae6840bf4693/U2168_MLPE_FR_Always_1400x2100.jpg/128x128bb.jpg "Film Pour toujours (Always) [1989]")
