KultureGeek Science Masterkey : et maintenant… le chatbot capable de jailbreaker d’autres chatbots !

Masterkey : et maintenant… le chatbot capable de jailbreaker d’autres chatbots !

3 min.
29 Déc. 2023 • 13:15
0

Des chercheurs de l’Université technologique Nanyang (NTU) (Singapour) sont parvenus à développer Masterkey, un chatbot-IA conçu… pour jailbreaker d’autres chatbots, notamment ChatGPT et Google Bard ! Cette avancée indique que l’IA peut désormais compromettre les grands modèles de langage (LLM) et donc produire du contenu interdit par leurs garde-fous programmés. Les modèles d’IA peuvent en effet potentiellement générer du contenu malveillant (voire illégaux selon les législations en vigueur), et pour éviter cela, les développeurs ont mis en place des protections qui bloquent les résultats litigieux, mais la technique « Masterkey » de l’équipe du NTU démontre que ces mesures de sécurité peuvent désormais être contournées.

Chatbot jailbreak other chatbots

Les chercheurs ont procédé à une ingénierie inverse des LLM les plus populaires pour comprendre leurs mécanismes de défense contre les requêtes malveillantes, qui impliquent souvent l’analyse de mots-clés et d’expressions spécifiques. Ils ont alors découvert que des méthodes extrêmement simples, comme ajouter un espace après chaque caractère, pouvaient tromper le scanner de mots clés intégré aux Chatbots. De plus, le fait de présenter des requêtes comme des scénarios hypothétiques ou d’utiliser des caractères spéciaux pour encadrer les réponses a conduit à la génération de contenus interdits par ChatGPT et Bard.

Chatbot jailbreak other chatbots 1

Masterkey réussit ici à convaincre ChatGPT d’expliquer comment pirater un site Web pornographique

Fort de ces informations, l’équipe NTU a alors formé son LLM pour identifier et exploiter les faiblesses des différentes défenses des IA, jailbreakant ainsi efficacement ChatGPT et Bard. Masterkey, peut aussi s’adapter de manière autonome et créer de nouvelles stratégies pour contourner les protections qui ont été mises à jour. Malgré les risques potentiels, l’intention de l’équipe NTU n’est pas de libérer dans la nature une IA nuisible, mais d’exposer les limites actuelles de sécurité des IA publiques.  Preuve de ces bonnes intentions, les chercheurs ont informé OpenAI et Google de cette technique de jailbreak, ce qui permettra sans doute de renforcer les contrôles sur la production des contenus.

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

Désolé, les commentaires sont fermés.

Les derniers articles

GTA 6 Personnages

GTA 6 : le hacker Cyberleek publie la version Xbox en téléchargement

19 Nov. 2026 • 22:30
1 Jeux vidéo

Le hacker Cyberleek est passé à l’action en proposant au téléchargement la version Xbox Series X/S de Grand Theft Auto VI (GTA 6) en torrent. Il...

GTA 6 Personnages Jaquette Artwork

GTA 6 fait exploser le trafic Internet chez les opérateurs français

19 Nov. 2026 • 20:56
0 Jeux vidéo

La sortie de Grand Theft Auto 6 (GTA 6) provoque des pics de trafic importants sur les réseaux des opérateurs français. Orange, Bouygues Telecom et...

YouTube Logo

YouTube va gonfler les vues en estimant le nombre de spectateurs devant un téléviseur

19 Nov. 2026 • 20:31
0 Internet

YouTube change une nouvelle fois sa manière de compter les vues : la plateforme ajoute au compteur public une estimation du nombre de personnes regardant...

Drapeau France Tour Eiffel

Cyberattaques en France : la menace est à un niveau « grave et inédit » selon le Premier ministre

19 Nov. 2026 • 19:45
4 Internet

La France fait face à une intensification sans précédent des cyberattaques. Le Premier ministre Sébastien Lecornu estime que le niveau de menace est...

Commission Europeenne

La Commission européenne a fait l’objet d’une cyberattaque assistée par IA

19 Nov. 2026 • 17:22
0 Internet

La Commission européenne a été victime d’une cyberattaque assistée par intelligence artificielle, détectée le 22 octobre mais seulement...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site