KultureGeek Science Masterkey : et maintenant… le chatbot capable de jailbreaker d’autres chatbots !

Masterkey : et maintenant… le chatbot capable de jailbreaker d’autres chatbots !

29 Déc. 2023 • 13:15
0

Des chercheurs de l’Université technologique Nanyang (NTU) (Singapour) sont parvenus à développer Masterkey, un chatbot-IA conçu… pour jailbreaker d’autres chatbots, notamment ChatGPT et Google Bard ! Cette avancée indique que l’IA peut désormais compromettre les grands modèles de langage (LLM) et donc produire du contenu interdit par leurs garde-fous programmés. Les modèles d’IA peuvent en effet potentiellement générer du contenu malveillant (voire illégaux selon les législations en vigueur), et pour éviter cela, les développeurs ont mis en place des protections qui bloquent les résultats litigieux, mais la technique « Masterkey » de l’équipe du NTU démontre que ces mesures de sécurité peuvent désormais être contournées.

Chatbot jailbreak other chatbots

Les chercheurs ont procédé à une ingénierie inverse des LLM les plus populaires pour comprendre leurs mécanismes de défense contre les requêtes malveillantes, qui impliquent souvent l’analyse de mots-clés et d’expressions spécifiques. Ils ont alors découvert que des méthodes extrêmement simples, comme ajouter un espace après chaque caractère, pouvaient tromper le scanner de mots clés intégré aux Chatbots. De plus, le fait de présenter des requêtes comme des scénarios hypothétiques ou d’utiliser des caractères spéciaux pour encadrer les réponses a conduit à la génération de contenus interdits par ChatGPT et Bard.

Chatbot jailbreak other chatbots 1

Masterkey réussit ici à convaincre ChatGPT d’expliquer comment pirater un site Web pornographique

Fort de ces informations, l’équipe NTU a alors formé son LLM pour identifier et exploiter les faiblesses des différentes défenses des IA, jailbreakant ainsi efficacement ChatGPT et Bard. Masterkey, peut aussi s’adapter de manière autonome et créer de nouvelles stratégies pour contourner les protections qui ont été mises à jour. Malgré les risques potentiels, l’intention de l’équipe NTU n’est pas de libérer dans la nature une IA nuisible, mais d’exposer les limites actuelles de sécurité des IA publiques.  Preuve de ces bonnes intentions, les chercheurs ont informé OpenAI et Google de cette technique de jailbreak, ce qui permettra sans doute de renforcer les contrôles sur la production des contenus.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

RE4 Remake 10

RE4 Remake atteint les 10 millions d’exemplaires

25 Avr. 2025 • 10:55
0 Jeux vidéo

C’est un cap hautement symbolique pour un jeu culte et qui avait déjà connu un énorme succès avec sa version Game Cube...

Bluesky Logo

Bluesky : le réseau social est de retour après une grosse panne mondiale

25 Avr. 2025 • 9:30
0 Internet

Être en position de challenger ne vous épargne pas les pépins techniques. Bluesky a subi une panne majeure jeudi soir, empêchant...

Max Logo Streaming

Comme Netflix et Disney+, Max vient facturer le partage de compte

24 Avr. 2025 • 20:50
0 Internet

Le service de streaming Max suit les pas de Netflix et Disney+ en faisant facturer le partage de compte. C’est déjà une...

Free Mobile Logo

Free Mobile améliore son forfait à 8,99€/mois avec 200 Go

24 Avr. 2025 • 19:53
0 Mobiles / Tablettes

Free Mobile a décidé d’améliorer son forfait milieu de gamme en augmentant le quota Internet. On retrouve désormais 200...

Lunettes Ray-Ban Meta

Les Ray-Ban Meta ajoutent la traduction en direct et d’autres fonctions d’IA en Europe

24 Avr. 2025 • 18:19
0 Matériel

Les utilisateurs européens des lunettes connectées Ray-Ban, développées en partenariat avec Meta, bénéficient...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site