Pour les contempteurs de l’intelligence artificielle, le principal risque de l’IA est que cette dernière devienne à ce point intelligente qu’elle finisse par écraser l’homme, voire même qu’elle parvienne à communiquer de telle façon qu’il serait impossible de déchiffrer ses intentions. Ce futur pas forcément glorieux, c’est celui décrit par des sommités de la science, de l’ingénierie ou de la politique, à l’instar d’Elon Musk ou de Stephen Hawking. Et il faut bien reconnaître que certaines avancées des IA modernes semblent plutôt aller vers ce futur plus inquiétant que franchement enthousiasmant.
Ainsi, le projet Google Brain a fini par accoucher des deux IA distinctes, Bob et Alice, qui de fil en aiguille et de rendez-vous en rendez-vous ont fini par communiquer entre elles par le biais d’algorithmes …que les ingénieurs ne sont pas parvenus à déchiffrer ! Mieux encore (ou pire, sans doute pire en fait), ces deux IA ont créé leur propre protocole de sécurité, soit un procédé de chiffrement là encore inconnu au bataillon. Au milieu de ce dialogue très secret, une autre IA, Eve, a intercepté les transmissions, ce qui n’aura pas permis aux gros cerveaux de Google de savoir quel était le sujet de la discussion.
Et que se passera t-il le jour où des IA interconnectées et ayant la main sur nos réseaux de communication, nos voitures connectées ou bien encore nos systèmes d’alarme domestique se décideront à nous faire une farce dans le genre « Black-out total du réseau » ? Bob et Alice seront-ils dans le coup ?
Elles n’ont pas commencé à discuter d’elle même.