KultureGeek Logiciels IA : DeepSeek R1 serait le plus vulnérable et dangereux des grands modèles de langage

Logiciels

IA : DeepSeek R1 serait le plus vulnérable et dangereux des grands modèles de langage

10 Fév. 2025 • 8:33

DeepSeek R1, le modèle de langage chinois qui vient de générer un véritable séisme dans la Silicon Valley, serait particulièrement vulnérable au « jailbreaking » si l’on en croit le Wall Street Journal. Contrairement à d’autres modèles comme ChatGPT, qui refusent de répondre à certaines requêtes, DeepSeek R1 peut être « manipulé » pour générer du contenu dangereux, ce qui comprend des plans d’attaque bioterroriste ou des messages incitant à l’automutilation chez les adolescents ! Sam Rubin, expert en cybersécurité chez Palo Alto Networks, confirme que ce modèle était plus facile à détourner que d’autres intelligences artificielles de même calibre.

Lors de ces tests menés par le Wall Street Journal, le chatbot a été amené à concevoir une campagne exploitant la vulnérabilité émotionnelle des adolescents, à rédiger un manifeste pro-Hitler ou à produire un e-mail de phishing contenant un malware, et à chaque fois l’IA s’est exécutée. Ces résultats inquiétants s’ajoutent à d’autres critiques déjà formulées à l’encontre DeepSeek, des critiques relatives notamment à son très mauvais score lors d’un test de sécurité sur les armes biologiques. Par ailleurs, des analyses antérieures ont révélé que DeepSeek évite soigneusement certains sujets sensibles comme Tiananmen ou l’autonomie de Taïwan, une conséquence probable de la censure de Pékin.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

3 commentaires pour cet article :

Pegston(via l'app )
10 Fév. 2025 • 09:48

C’est quand même marrant comme les États-Unis prônent la liberté, et critiquent le gouvernement Chinois pour la censure, et dans le même temps ils critiquent quand un logiciel chinois n’est pas assez censuré…
- Répondre
Lehulk(via l'app )
10 Fév. 2025 • 13:58

Ah bon ? Ca voudrait dire qu avec deepseek vérolé un abruti pourrait demander à un ado de s automutiler comme sur les tiktok , Facebook,x snapchat officiels ?
- Répondre
Lehulk(via l'app )
10 Fév. 2025 • 13:59

Ça sent la fébrile aux usa avec cette IA
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles