KultureGeek Science Un ingénieur mis à pied pour avoir déclaré que l’IA de Google a conscience d’elle-même

Science

Un ingénieur mis à pied pour avoir déclaré que l’IA de Google a conscience d’elle-même

13 Juin. 2022 • 17:04

Une tempête dans un verre d’eau ? Blake Lemoine, un (ex) ingénieur et chercheur dans la division IA de Google, a été licencié pour avoir publiquement affirmé… qu’un chatbot de Google avait une âme, ou plutôt que l’IA était consciente d’elle-même ! Cette étrange affaire trouve son origine dans un article de Blake Lemoine publié sur Medium. Ce dernier y donne des extraits de ses conversations avec le chatbot LaMDA (Language Model for Dialogue Applications), des conversations qui selon l’ingénieur seraient la preuve d’une forme d’état de conscience de l’IA. De fait, certains passages sont troublants : le chatbot demande par exemple à ne pas être débranché ou à être reconnu comme un employé de Google plutôt que comme une chose.

This discussion between a Google engineer and their conversational AI model helped cause the engineer to believe the AI is becoming sentient, kick up an internal shitstorm and get suspended from his job. And it is absolutely insane. https://t.co/hGdwXMzQpX pic.twitter.com/6WXo0Tpvwp

— Tom Gara (@tomgara) June 11, 2022

Bouleversé par ses échanges avec l’IA, Blake Lemoine, qui est aussi un Chrétien Conservateur (cela a peut-être joué dans l’analyse), a demandé à ce que Google épargne à LaMDA toute forme d' »expérience » qui pourrait nuire à son intégrité. La réponse de Google fut plutôt cinglante. Ainsi, Brian Gabriel, le porte-parole de Google, a publié un communiqué pour retoquer sèchement l’interprétation de Lemoine :« Notre équipe, composée d’éthiciens et de technologues, a examiné les préoccupations de Blake conformément à nos principes en matière d’intelligence artificielle et l’a informé que ses affirmations ne sont pas fondées. Certains membres de la communauté de l’intelligence artificielle envisagent la possibilité à long terme d’une intelligence artificielle sensible ou générale, mais cela n’a pas de sens de le faire en anthropomorphisant les modèles conversationnels actuels, qui ne sont pas sensibles. » Suite à cette mini-polémique, Blake Lemoine prétend avoir été poussé vers la sortie par Google.

Intelligence Artificielle

De fait, et en l’état des connaissances actuelles, une IA de type conversationnelle ne peut absolument pas être consciente d’elle-même, ce qui ne signifie pas pour autant qu’elle ne soit pas « intelligente », si par intelligence ont comprend la faculté à s’adapter à son environnement et/ou à une situation non prévue (ce que nombre d’IA sont déjà parfaitement capables de faire). Il est d’ailleurs toujours un peu ironique d’entendre certains spécialistes (pas chercheurs) en IA, qui pompeusement nient les capacités d’une machine à être intelligente, être pris la main dans le sac à confondre l’intelligence, qui est multiple, avec l’état de conscience de soi, qui n’est le propre que de quelques mammifères sur Terre dont l’homme (un peu de philo ne ferait pas de mal à certains de ces « experts », hum…).

SOURCEThe Washington Post

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

Aki
15 Juin. 2022 • 01:23

Pfff… si ce mec était vraiment chrétien si saurait que d’après la Bible, seul Dieu peut créer une âme… des abrutis pareils nan mais sérieux… tu m’étonnes que tout le monde pense que les croyants sont perchés après…
Ça fait tellement penser à ceux qui te disent que la vie d’un ver de terre a plus de valeur que la vie de ta mère. Demain avec des abrutis comme Blake, on nous dira que notre iPhone sera plus précieux que la vie d’un être humain… c’est n’importe quoi…