L’équipe du CSER de l’Université de Cambridge n’est pas particulièrement connue pour sa contribution au monde du jeu vidéo. Au Centre for the Study of Existential Risk, fondé en 2012, il s’agit plutôt d’étudier et d’explorer tous les types de catastrophes à échelle globale qui pourraient mettre fin une bonne fois pour toutes à la civilisation humaine, ce qu’ils appellent les « menaces existentielles ». Ces menaces incluent bien entendu un réchauffement climatique sans pitié ou une épidémie créée par l’Homme, mais aussi, et c’est ce qui va nous intéresser ici, le cas d’une IA supra-intelligente qui déciderait que notre présence est superflue.
C’est dans ce contexte que l’équipe a travaillé sur deux mods pour Civilization V et son DLC Brave New World. Ainsi, la victoire par science traditionnelle où l’on doit normalement être le premier à envoyer un vaisseau spatial sur l’étoile la plus proche, Alpha Centauri, a été remplacée. Avec ces mods, on gagne grâce à la science en étant le premier à concevoir une IA supra-intelligente. Avec le mod, de nouveaux bâtiments font leur apparition, comme des bases de recherche sur l’IA, mais aussi une nouvelle merveille, Deep Blue (l’ordinateur qui avait battu Garry Kasparov aux échecs en 1996) et une nouvelle mécanique de jeu : le « risque IA« . Alors que les joueurs font des recherches sur l’IA, une jauge globale de risque se remplit petit à petit. Quand elle est pleine, la partie se termine, et tout le monde perd. L’équipe avance bien entendu que le jeu n’est pas une simulation des plus réalistes, mais qu’il permet malgré tout d’avoir quelques aperçus très intéressants.
