Watson n’est donc pas infaillible; l’an dernier, une étude d’IBM dévoilée lors de la conférence American Society of Clinical Oncology avait fait sensation : selon cette étude, l’intelligence artificielle Watson se montrait particulièrement perspicace pour suggérer des traitements adaptés à certains cancers. Mais quelques mois après ces travaux prometteurs, les premiers obstacles apparaissent : un rapport publié par Stat et rédigé par certains des experts médicaux qui avaient collaboré avec IBM dévoile l’envers du décor, et l’enthousiasme laisse place à un certain scepticisme; ainsi, les experts rapportent que Watson a plusieurs fois proposé des traitements inadaptés voire incorrects; dans un cas, Watson a même recommandé qu’un patient de 65 ans prenne un type de médicament qui aurait pourtant conduit à une hémorragie potentiellement fatale.
Le rapport pointe un doigt accusateur vers les ingénieurs d’IBM et les médecins du centre anti-cancer du MSK (Memorial Sloan Kettering), ces derniers étant en charge du paramétrage de l’IA. La critique porte ici sur les données fournies à Watson, qui reposaient essentiellement sur des cas de patients hypothétiques et non des cas de patients bien réels. Ce choix de cas « idéaux » n’aurait pas permis à Watson d’analyser correctement certaines situations complexes. Pour sa défense, et suite à la publication de Stat, IBM a tenu à préciser que Watson Health avait eu droit à 11 mises à jour « correctives » depuis le démarrage du projet.
