Avez-vous déjà entendu parler du jeu vidéo AI Dungeon ? Il s’agit d’un jeu d’aventure texte open-source qui permet aux joueurs de se plonger dans un univers similaire à ceux des livres-jeux dont ils sont les héros. Le joueur peut ainsi faire différents choix tout au long de l’histoire. Un concept qui avait séduit de nombreux joueurs puisque le jeu promettait des intrigues passionnantes et limitées uniquement par l’imagination du joueur.
Nick Walton, le cofondateur de Latitude, un développeur d’applications Android, avait même promis « un monde généré à l’infini que vous pourriez explorer sans limites, en trouvant continuellement des contenus et des aventures entièrement nouveaux ».
L’IA subissait certains dérapages et mettait en avant des contenus « loli »
Pour rappel, Latitude avait placé une intelligence artificielle dénommée GPT-3, au cœur du jeu. Son principe était simple, elle générait un embryon de scénario en fonction des choix génériques du joueur et proposait quelque chose de nouveau après chaque décision.
Toutefois, un article publié le 30 avril dans The Register a rapporté que Latitude avait récemment instauré un système de modération automatique dans le but de brider les réponses de l’IA. En effet, cette dernière générait parfois des contenus « loli ». Autrement dit, dans lesquels de très jeunes filles arboraient certains comportements à caractère sexuel.
Le développeur d’AI Dungeon accède aux contenus des joueurs alors que sa base de données est très vulnérable
Latitude avait alors tenté de rassurer ses joueurs en déclarant que la majorité d’entre eux ne remarquerait même pas ce bridage dans le gameplay. Le bridage se manifesterait par un message déclarant une possible issue indésirable. Le reste des contenus restait néanmoins permis, même la violence, la vulgarité ou encore le sexe entre adultes consentants.
Néanmoins, plusieurs joueurs contestèrent contre cette nouvelle mesure prise par Latitude et se demandèrent si le développeur n’avait pas accès à l’histoire de chaque joueur. Le hacker white hat AetherDevSecOps a récemment fait savoir sur Github que c’était bel et bien le cas et qu’en plus, la base de données du développeur serait très vulnérable aux attaques.
A noter que de nombreux joueurs d’AI Dungeon ont renseigné leurs informations bancaires afin d’accéder à la version payante du jeu. Certains experts craignent que les milliers d’histoires à caractère pornographique du jeu ne finissent par être utilisées pour faire chanter les joueurs. Face à ces révélations, le développeur d’AI Dungeon devra probablement s’expliquer auprès de la communauté de joueurs.
Voilà une bien étrange formulation, peut-être une traduction maladroite d’une personne qui ne maîtrise pas son sujet. En français on parle de « Livres dont VOUS êtes le Héros »