KultureGeek Logiciels Satya Nadella (Microsoft) : « L’Intelligence Artificielle doit maximiser ses performances sans détruire la dignité des individus »

Satya Nadella (Microsoft) : « L’Intelligence Artificielle doit maximiser ses performances sans détruire la dignité des individus »

29 Juin. 2016 • 19:58
1

La plupart des chercheurs en robotique (pour ne pas dire tous) connaissent par coeur les fameuses lois de la robotique établies par l’écrivain de S.F Isaac Asimov; ces « lois » sont en fait trois règles à suivre afin d’éviter que les machines ne deviennent demain nos nouveaux maîtres :

  1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
  2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
  3. un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

th_intelligence-artificielle2

Si ces lois « encadrent » souvent de façon implicite les travaux en robotique, qu’en est-il de la recherche sur les Intelligences artificielles ? Sur ce sujet, il n’est pas interdit de penser que l’on parlera peut-être à l’avenir des lois de Nadella concernant l’IA; le patron de Microsoft a en effet décrit pour le site Slate un cahier des charges à respecter si l’on veut espérer pouvoir vivre en bonne intelligence avec les cerveaux informatisés. Ces lois sont les suivantes :

1- Une IA doit être conçue pour servir l’humanité. 

2- L’IA doit être transparente : « Nous ne voulons pas seulement des machines intelligentes mais des machines intelligibles » explique Nadella.

3- L’IA doit maximiser ses performances sans détruire la dignité des individus. « L’industrie technologique ne doit pas dicter les valeurs et les vertus de ce futur ».

4- L’IA doit être conçue pour garantir la confidentialité.

5- L’IA doit avoir des algorithmes « réversibles » de façon à ce que les individus puissent « revenir sur des actions négatives inattendues (de la part de l’IA, Ndlr) »

6- L’IA doit être protégée contre les « biais », afin d’éviter des formes de discrimination semblables à celles que les hommes et les femmes peuvent établir. 

Il se dégage de ces grands principes une volonté d’éviter ce qui semble pourtant inévitable dans une économie libre et qui ne supporte aucune forme de tutelle ou de cadres concernant la libre concurrence. Car les mêmes préventions avaient été faites concernant la robotisation de la société, et pourtant l’être humain a été petit à petit évincé de nombreux sites de production au profit de robots sophistiqués; Foxconn, le principal fabricant d’électronique dans le monde, a remplacé en seulement une année la moitié de ses ouvriers humains (soit plus de 50 000 personnes) par des robots.

... ou l'intelligence artificielle qui ne soucie plus que de ses propres intérêts, comme le psychopathe Hal ?

Croire que les métiers intellectuels ou de service pourront éviter le grand remplacement par une IA de plus en plus sophistiquée semble pour le moins naïf, même si l’inquiétude de Nadella est ici très légitime. Mais s’est-on déjà soucié de « détruire la dignité de l’individu » lorsqu’on a établi des règles de développement économiques hyper-concurrentielles qui aboutissent à ce que les perdants du système finissent par être considérés comme un mal nécessaire ?  Et comment ne pas voir que les « biais » ne concerneront pas seulement le respect de la « diversité » humaine mais aussi les connaissances même de ces IA ?

th_microsoft-windows-mit-cortana-header-664x374

Les systèmes experts sont en effet déjà largement « influencés » (pour ne pas dire formatés) par les savoirs très codifiés qui leur servent de base de données; et ces savoirs ne sont pas sans biais (notamment les savoirs économiques et politiques, qui impactent pourtant directement sur la vie des individus). Et l’on pourrait en dire autant du respect de la vie privée et de la confidentialité à l’ère du tout numérique, déjà bien entamé dans ce début de siècle post-Snowden…Nadella pense t-il que l’espionnage va s’arrêter à la porte des IA ? La défense du patron de Microsoft est certes noble, cela ne fait aucun doute,  mais le contexte actuel ne rend pas forcément très optimiste quant aux garde-fous qui seront mis en place pour éviter les dérives…toutes les dérives…

 

 

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

  • Xnov57(via l'app )
    Exactement comme dans le film i-robot et d’ici 20 ou 50 ans ils auront le contrôle totale de la planète mais bon qui vivra verra

Les derniers articles

Firefox Logo

Firefox 140 peut endormir les onglets et ajoute d’autres nouveautés

25 Juin. 2025 • 9:39
0 Logiciels

Mozilla propose au téléchargement la version stable de Firefox 140 avec plusieurs nouveautés au programme, notamment en ce qui...

Windows 10 Nouveau Menu Demarrer Juillet 2020 Bureau

Windows 10 : Microsoft propose un an supplémentaire de mises à jour de sécurité gratuites à une condition

24 Juin. 2025 • 22:03
2 Actu OS

Microsoft vient d’annoncer une nouvelle stratégie concernant les mises à jour de sécurité étendues (ESU) pour...

Google Chrome Android Barre URL En Bas

Google Chrome sur Android permet enfin d’avoir la barre d’adresse en bas

24 Juin. 2025 • 20:00
0 Applications

Google vient de proposer une fonction attendue depuis longtemps en permettant aux utilisateurs de Chrome sur Android de déplacer la barre...

Elio Pixar

Elio : flop intergalactique (et jamais vu) pour Pixar

24 Juin. 2025 • 19:31
2 Geekeries

C’est un flop intergalactique qui se profile pour Pixar, sans aucun doute le plus gros échec du studio américain à qui...

NSF-DOE-Rubin-Trifid-and-Lagoon-Nebulas-10k

Premières images saisissantes du télescope Vera C. Rubin

24 Juin. 2025 • 19:12
0 Science

Après plus de vingt ans de conception et de construction, l‘observatoire Vera C. Rubin, situé dans les Andes chiliennes, a...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site