KultureGeek Logiciels IA : quelques centaines de documents suffisent pour compromettre un grand modèle de langage (LLM)

IA : quelques centaines de documents suffisent pour compromettre un grand modèle de langage (LLM)

2 min.
10 Oct. 2025 • 12:40
6

C’est un choc : une étude récente menée par Anthropic en collaboration avec le UK AI Security Institute et le Alan Turing Institute montre qu’il suffit de 250 documents malveillants insérés dans les données d’entraînement pour implanter une porte dérobée (backdoor) dans un modèle de langage (LLM), même de très grande taille. Pire encore, ce nombre reste quasi constant, quelle que soit l’ampleur du modèle — de 600 millions à 13 milliards de paramètres.

Lignes de Code Intelligence Artificielle

Comprendre l’attaque par « data poisoning »

Cette technique de compromission des LLMs, dite par « data poisoning », consiste à intégrer des contenus manipulés lors de la phase de pré-entraînement : lorsqu’un déclencheur donné apparaît, le modèle produit un comportement anormal, comme du texte incohérent. En l’absence de ce signal, le modèle se comporte normalement. L’étude montre que l’efficacité de l’attaque ne dépend pas du pourcentage de données corrompues, mais du nombre absolu d’exemples malveillants introduits dans le système. Ainsi, 250 documents montrent un même niveau de compromission, que ces documents soient injectés dans un petit ou un très grand corpus de données

Implications pour la sécurité et les défenses possibles

Ce constat bouleverse les hypothèses habituelles sur la robustesse des grands modèles. Les chercheurs alertent : « nous partageons ces résultats pour montrer que les attaques de data poisoning peuvent être plus efficaces qu’on ne le croyait ». Pour renforcer les systèmes, des stratégies telles qu’un pré-entraînement nettoyé, un filtrage des données ou une fine-tuning correctrice peuvent atténuer le risque de portes dérobées, mais leur efficacité à grande échelle reste encore à confirmer.

Cette découverte est en tout cas un tournant pour la conception des LLMs : les mécanismes de sécurité et de vérification des données devront désormais tenir compte d’attaques d’une ampleur certes réduite mais redoutable d’efficacité.

SOURCEEngadget

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

Lisez aussi ces autres articles !

Pas d'articles en relation.

6 commentaires pour cet article :

  • plop
    A lire…relire…et discuter en famille. Comprendre les LLM et les implications de ce qui est decrit ici est une necessité fondamentale notre l’avenir.
    • Xero
      L’IA… tellement influençable et influençante. La c0nerrie humaine n’a pas finie ça fuite en avant.
      • Johnnybegood
        L’IA reste quand même supérieure. Comparé aux 250 documents, il suffit d’une seule vidéo TikTok à des humains pour devenir plus que débiles.
      • Johnnybegood
        L’IA reste quand même supérieure. Comparé aux 250 documents, il suffit d’une seule vidéo TikTok à des humains pour devenir plus que débiles.
      • Johnnybegood
        L’IA reste quand même supérieure. Comparé aux 250 documents, il suffit d’une seule vidéo TikTok à des humains pour devenir plus que débiles.
      • Johnnybegood
        L’IA reste quand même supérieure. Comparé aux 250 documents, il suffit d’une seule vidéo TikTok à des humains pour devenir plus que débiles.

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Commission Europeenne

La Commission européenne a fait l’objet d’une cyberattaque assistée par IA

19 Nov. 2026 • 17:22
0 Internet

La Commission européenne a été victime d’une cyberattaque assistée par intelligence artificielle, détectée le 22 octobre mais seulement...

[Màjx2 – #BlackFridayWeek] 1er jour d’une grosse semaine de promos High-tech

19 Nov. 2026 • 16:50
0
Artificial

Artificial : la nouvelle bande-annonce dévoile Elon Musk et un Sam Altman (Andrew Garfield) peu flatteur

19 Nov. 2026 • 15:50
0 Geekeries

La Silicon Valley s’apprête à découvrir son reflet sur grand écran, et le portrait promet d’être mordant. Neon vient en effet de...

Illustration conceptuelle de logiciels d’entreprise et d’analyse de données dans un environnement industriel.

Palantir : un ressortissant russe inculpé pour espionnage et harcèlement de salariés aux États-Unis

19 Nov. 2026 • 14:30
0 Business

Palantir se retrouve au cœur d’une affaire d’espionnage (présumé) aux États-Unis. Le ministère américain de la Justice a annoncé...

Satya Nadella Logo Microsoft

Microsoft : Satya Nadella explique pourquoi 60 000 salariés ont été invités à quitter l’entreprise

19 Nov. 2026 • 13:00
2 Actu OS

La transformation de Microsoft autour de l’intelligence artificielle ne se limite plus aux nouveaux logiciels et aux investissements dans les...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site