KultureGeek Logiciels L’afidavit d’une loi sur les risques de l’IA… contiendrait des fausses sources créées par de l’IA !

L’afidavit d’une loi sur les risques de l’IA… contiendrait des fausses sources créées par de l’IA !

2 min.
21 Nov. 2024 • 20:20
3

Une plainte fédérale ciblant la loi du Minnesota « Utilisation de la technologie Deep Fake pour influencer une élection » a pris un tournant particulièrement savoureux (et inquiétant à la fois) suite aux allégations selon lesquelles un afidavit en soutien à la loi contiendrait des éléments qui auraient été hallucinés par une IA, et ce alors que ces mêmes éléments ont été rapportés lors d’une déclaration sous serment. Les avocats qui contestent la loi affirment désormais que le document déposé par jeff Hancock, le directeur du Stanford Social Media Lab, au nom du procureur général Keith Ellison inclut des citations relatives à des études ou des recherches…totalement inexistantes ! Ces sources, apparemment fabriquées (ou plutôt hallucinées) par ChatGPT ou un autre grand modèle de langage, soulèvent évidemment bien des questions sur la validité même de l’affidavit.

IA Facepalm

Le document fait notamment référence à des études telles que « L’influence de la vidéo deepfake sur les attitudes et comportements politiques » ou bien encore  « Deepfakes and the Illusion of Authenticity : Cognitive Processes Behind Misinformation Acceptance », deux papiers de recherche dont on ne retrouve aucune trace nulle part. c’est peu dire que cette révélation ajoute une nouvelle dimension à la plainte, soulignant au passage les risques de s’appuyer sur du contenu généré par l’IA dans des contextes juridiques et académiques.

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

3 commentaires pour cet article :

  • Lehulk
    Donc l IA est capable de faire des fakes pour se protéger Ou elle est programmé pour?
  • Drilmo
    Non l’ia ne fait pas de fake pour se protéger, dans tout ce que dit l’ia, il y a une part d’erreur que l’on appel les hallucinations. L’ia n’est pas magique c’est juste un programme qui chercher le meilleur mots qui suit celui qu’elle a écrit donc des fois elle peut dire des choses fausses mais qui sont (sans être vérifié) cohérentes dans la phrase.
    • Lehulk
      Là on ne parle pas de recherche du meilleur mot,on parle de recherche ou rapports qui n existe pas.Il ne faut pas oublier qu une IA est programmée ou entraînée avec ce qu on veut lui faire ingurgiter

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

United Airlines avion

Panne géante du trafic aérien américain : le FBI enquête sur les routeurs à l’origine du chaos

17 Nov. 2026 • 13:21
0 Internet

Une défaillance informatique aura donc suffi à paralyser le trafic aérien américain pendant plus de quatre heures. Le FBI participe désormais aux...

GTA 6 Lucia Jason Moto

GTA 6 : comment y jouer 12 heures avant tout le monde sur Xbox Series

17 Nov. 2026 • 12:05
0 Jeux vidéo

Les fans de Grand Theft Auto VI n’auront peut-être pas besoin d’attendre minuit pour découvrir le nouveau jeu de Rockstar Games… si...

TRMNL e-paper tableau

TRMNL Frame : un écran e-paper couleur de 31,5 pouces à 1 300 dollars… pour afficher des œuvres d’art

17 Nov. 2026 • 10:45
0 Matériel

Un écran en guise de tableau, c’est le pari de TRMNL avec Frame, un grand cadre numérique qui mise sur la technologie du papier électronique...

OpenAI Logo

La Californie poursuit OpenAI après la cyberattaque par son IA

17 Nov. 2026 • 9:30
0 Internet

La Californie a attaqué OpenAI en justice pour avoir développé et testé des modèles d’intelligence artificielle sans protections suffisantes....

GTA 6 Lucia Jason Voiture Piercing

GTA 6 : le hacker à l’origine de la fuite de 2022 plaide coupable

16 Nov. 2026 • 20:59
0 Jeux vidéo

Arion Kurtaj, le hacker qui avait dérobé et diffusé les premières images de GTA 6 en septembre 2022, a plaidé coupable aujourd’hui devant la...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site