KultureGeek Logiciels Désinformation : Grok a bien été modifié par xAI pour ne pas incriminer Elon Musk et Donald Trump

Logiciels

Désinformation : Grok a bien été modifié par xAI pour ne pas incriminer Elon Musk et Donald Trump

24 Fév. 2025 • 9:21

C’est un énorme pavé dans la mare, un de plus pourrait-on ajouter. Acculé par plusieurs utilisateurs, le LLM Grok de xAI avait fini par reconnaitre que son prompt général avait été modifié par un tiers afin qu’il ne puisse jamais incriminer Elon Musk ou Donald Trump sur le sujet de la désinformation, une censure évidemment bien peu compatible avec l’idée que l’on se fait d’un outil de confiance. Face à l’accumulation de preuves d’une manipulation, Igor Babuschkin, le responsable de l’ingénierie chez xAI, a fini par sortir du bois pour confirmer le changement du prompt… tout en faisant porter la responsabilité de cette modification sur un employé d’xAI, qui se serait donc rendu coupable d’avoir mis à jour Grok sans autorisation adéquate.

Grok

Babuschkin déclare que l’employé en question a cru « que cela aiderait, mais cela ne correspond évidemment pas à nos valeurs ». Le responsable de l’ingénierie ajoute que le « prompt système » de Grok (celui qui encadre l’ensemble des réponses de l’IA) est visible par tous « car nous pensons que les utilisateurs devraient pouvoir voir ce que nous demandons à Grok ». Dit autrement : It’s not a bug, it’s a feature ! On notera avec une certaine ironie que ces derniers jours, Grok ne se montrait pas particulièrement tendre avec l’administration MAGA, le chatbot déclarant (entre autres) à qui veut l’entendre que le président Trump, Musk et le vice-président JD Vance étaient les hommes qui « causent le plus de tort à l’Amérique ». Le « libertarien » Elon Musk va t-il respecter jusqu’au bout la liberté de parole de son IA ?

SOURCEThe Verge

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

3 commentaires pour cet article :

Yann(via l'app )
24 Fév. 2025 • 10:35

Ah cool! L’article quotidien anti-Musk! Je commençais à être inquiet. Perso j’ai testé cette IA (franchement pas terrible), et ça indique clairement quand trump et musk racontent n’importe quoi. Mais bon, pour ça, il faut l’essayer. Vivement le prochain article antitrump et antimusk!
- Répondre
Frederic L.
24 Fév. 2025 • 10:44

Donc, vous dites que Igor Babuschkin, responsable de l’ingénierie chez xAI, raconte lui-même n’importe quoi, ou votre objectif est-il juste de défendre de façon irrationnelle xAI ou tout autre société dirigée par Musk ? Soyez plus clair….
- Répondre
- whateverxx
  24 Fév. 2025 • 11:14
  
  Moi qui suis très critique à propos des articles de KultureGeek concernant Elon Musk, qui sont souvent selon moi très orientés, voire militants, il est difficile ici de trouver quelque chose à redire, et c’est déjà beaucoup plus agréable à lire, merci !
  Concernant l’article, j’ai du mal à croire qu’un employé de xAI (nouveau et apparemment ex-OpenAI) ait pu modifier le prompt système sans que personne d’autre ne valide un changement aussi critique.
  - Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles