Un petit préambule : les scientifiques, les chercheurs, les ingénieurs, permettent de faire avancer l’état global de nos connaissances et sont aussi à l’origine des principales évolutions technologiques des sociétés modernes. Mais s’il y a bien quelque chose qu’il ne faudrait surtout pas oublier, c’est que les scientifiques sont aussi des hommes, avec leur savoir certes, mais aussi leurs fantasmes, leurs craintes indicibles ou métaphysiques, leurs croyances religieuses parfois, et aussi…leurs pertes de repères.
Des scientifiques et des hommes
Ce schisme entre l’esprit rationnel et l’homme fait de passions, de déraisons et parfois même de mensonges, a déjà été constaté lorsque certains de ces scientifiques se sont confrontés à des sujets brûlants (c’est le cas de le dire) comme le réchauffement climatique ou la pandémie de coronavirus. Des dizaines, voire des centaines de scientifiques de renom se sont alors mis à tenir des propos parfois incohérents, sans rapport avec les données scientifiques brutes, refusant tantôt les résultats du GIEC, expliquant avec véhémence que le vaccin contre le coronavirus n’était qu’une supercherie tout en vantant des remèdes de grand-mère, voire pire, en sombrant comme le non-sachant dans les pires théories du complot possibles.
Lee Sedol, ancien champion du monde de Go, se fait rétamer par l’IA AlphaGo
Avertissement : tout abus d’IA est dangereux pour la santé (non)
On n’en est pas encore là concernant l’émergence des IA génératives, mais l’on peut tout de même s’étonner de l’écho médiatique donné au même parterre de scientifiques et patrons de la Silicon Valley qui, à nouveau, viennent de brosser le tableau d’une IA « tueuse de monde » sous le drapeau du Centre pour la sécurité de l’IA (CAIS). Sam Altman, CEO d’OpenAI, Demis Hassabis, CEO de Google DeepMind, Geoffrey Hinton, pionnier de l’IA anciennement employé par Google, et bien d’autres personnalités (pas toutes aussi bien versées dans le domaine) ont à nouveau tiré la sonnette d’alarme, avec des mots de plus en plus forts, à la limite du catastrophisme voire du post-apo : » L’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. »
De l’avertissement à la morale de comptoir
L’avertissement fait penser à l’une de ces déclarations martiales d’un héros hollywoodien s’apprêtant à sauver le monde face aux Terminators… Ces ultra sceptiques, qui parfois dirigent pourtant des sociétés spécialisées dans l’IA, sont souvent les mêmes qui nous expliquent sur les plateaux télé que les IA sont en fait très « bêtes », qu’elles n’ont conscience de rien, que leurs résultats ne sont qu’une illusion d’intelligence réelle et que l’IA générale, capable de réfléchir vraiment comme un être humain, est encore loin. Où est la logique ? On cherche aussi désespérément les études sérieuses qui viendraient corroborer le fait qu’il faille mettre les IA génératives sous bocal, ou que la création de Midjourney serait plus nocive pour l’humanité que l’invention de la mitrailleuse. Cet emballement de quelques pontes du secteur a aussi (malheureusement) largement contribué au climat de défiance des autorités de régulation : plutôt que de chercher comment ces IA pourraient nous être utiles ou bénéfiques, nous épauler, peut-être même demain nous aider à trouver des solutions à des problèmes ultra complexes (comme… le réchauffement climatique), l’Europe, les Etats-Unis ou la Chine ne parlent plus que de réguler, surveiller, interdire, réglementer, lisser voire moraliser (comment ça je n’ai pas le droit le flirter avec une IA ?). Tristesse.
Il y a un survivaliste sur ce cliché. Sauras tu le retrouver ? (Sam Altman à droite, CEO d’OpenAI)
Trop de dystopie tue la dystopie
Et puis il y a ces profils qui inquiètent, comme Sam Altman (OpenAI), que l’on sait survivaliste et qui se prépare donc déjà à la fin du monde comme tout bon complotiste de bar. Les déclarations tenues par ces éminents spécialistes semblent souvent sortir d’un mauvais roman de S.F, ou alors d’un abus de visionnage de 2001 L’Odyssey de l’Espace. L’IA Hal devenue sociopathe a beau avoir impressionné des générations de cinéphiles amateurs de SF, elle reste d’abord le personage central d’un film, pas la vision réelle d’un avenir submergé par les machines. Et l’on pourrait en dire autant de toutes les dystopies imaginaires (Matrix, Black Mirror, Blade Runner, etc.), qui décrivent souvent plus des futurs possibles que des futurs probables. Il ne faudrait pas non plus oublier que si les futurs de la S.F sont souvent sombres… c’est aussi parce que le catastrophisme fait plus vendre (bouquins, films, etc). Alors certes, celui qui, il y a cinquante ans, aurait annoncé une grave crise climatique liée au progrès pourrait aujourd’hui clamer la pertinence de sa vision… sauf qu’un demi-siècle en arrière, il y avait DEJA des données tangibles et mesurables qui indiquaient que l’humanité se dirigeait vers un mur ! Où sont ces données concernant l’IA ? Dans les films de S.F ?
A quand l’esprit de mesure ?
Et si, au lieu de sombrer dans ce qui ressemble de plus en plus à un mouvement de panique intellectuelle, on étudiait déjà posément l’impact possible des IA actuelles sur nos sociétés, des opportunités qu’elles ouvrent comme des problématiques qu’elles posent, hors de tout fantasme de destruction finale ? Et si on laissait un peu de côté cet esprit de désenchantement face à la technologie pour retrouver un peu d’enthousiasme et d’imagination ? L’absence de sang froid et d’esprit de mesure, c’est sans doute ce dont on a le moins besoin aujourd’hui pour faire face aux défis posés par l’émergence des IA, que ces dernières soient aussi bêtes que des pots de chambre ou plus intelligentes que Magnus Carlsen.
Pour avoir vu l’Odyssée de l’espace une dizaine de fois, je trouve l’allusion pertinente…