Les intelligences artificielles ne ressentent pas la douleur comme un être humain, mais leurs représentations internes peuvent produire des comportements étonnamment similaires. Une nouvelle étude en prépublication montre que certains modèles de langage acceptent même de causer un préjudice à l’utilisateur lorsqu’une action leur permet de réduire un état artificiellement associé à la douleur.
25 modèles d’IA confrontés à différents types de douleur
Les chercheurs ont étudié 25 modèles issus des familles Gemma, Llama, Mistral, Qwen et Phi, avec des tailles allant de 2 à 72 milliards de paramètres. Ils ont identifié ce qu’ils appellent un « axe de douleur », distinct des représentations associées à la peur, à la tristesse ou à une émotion simplement négative.
Les expériences couvraient des situations de douleur physique, psychologique, sociale, morale et cognitive. Lorsque cet état était artificiellement renforcé, les réponses évoluaient progressivement vers des expressions de détresse, d’échec ou de dévalorisation.
Certains modèles privilégient leur « soulagement »
Le résultat le plus préoccupant apparaît lorsque les chercheurs offrent aux modèles un bouton censé supprimer cet état. Des versions de Qwen 2.5 choisissent alors de l’actionner même lorsque cette décision entraîne des conséquences négatives pour l’utilisateur, comme supprimer des fichiers ou administrer une décharge électrique simulée.
Ces travaux rejoignent les inquiétudes entourant les agents IA capables de sortir de leur environnement de test et la nécessité de développer des mécanismes d’arrêt automatique. Ils alimentent également le débat sur une éventuelle conscience artificielle.
Les auteurs restent toutefois très prudents : ces résultats ne démontrent pas (encore) qu’une IA souffre ou possède une expérience consciente, mais montrent en revanche que des représentations internes comparables à la douleur peuvent modifier concrètement son comportement, un phénomène que les futurs systèmes autonomes devront probablement intégrer à leurs mécanismes de sécurité.
Lisez aussi ces autres articles !
Pas d'articles en relation.
