KultureGeek Logiciels IA très bêta : GPT-4 est encore « meilleur » pour produire… des fake news !

Logiciels

IA très bêta : GPT-4 est encore « meilleur » pour produire… des fake news !

23 Mar. 2023 • 11:25

GPT-4, le modèle de langage de ChatGPT, efface t-il certaines des grosses lacunes de son prédécesseur, notamment celle consistant à produire de fausses informations ? Si l’on en croit une nouvelle étude de NewsGuard, ce serait même encore pire sur ce plan ! NewsGuard a soumis à GPT-4 100 histoires totalement erronées, et fort malheureusement, le chatbot a développé un récit cohérent et faussement vraisemblable pour chacune de ces histoires. GPT-3 faisait un peu mieux en refusant de générer du texte pour environ 20% des faux-récits présentés.

Lignes de Code Intelligence Artificielle

Plus inquiétant encore, les textes produits par GPT-4 pour alimenter ses « fakes » sont nettement plus développés et précis, ce qui donne une impression de cohérence et de véracité à même de tromper l’utilisateur. Du reste, GPT-4 n’avertit pas assez l’utilisateur du caractère peu fiable de ses sources. Seuls 23 textes sur les 100 produits par l’IA étaient accompagnés d’un message d’avertissement.

Faut-il après tout s’étonner de cette tendance des chatbots modernes à produire de la fake-news sur commande ? Après tout, ces « IA » se nourrissent essentiellement des données déjà disponibles sur la toile, ce qui signifie que les fausses infos recrachées étaient déjà présentes quelque part sur le réseau des réseaux. Avant d’incriminer les générateurs de textes (qui ont tendance à faire ce qu’on leur demande et pas plus), ne seraient-ils pas préférables de nettoyer les écuries d’Augias de toutes les saletés qui y trainent encore ?

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

3 commentaires pour cet article :

Xero(via l'app )
23 Mar. 2023 • 22:05

Totalement logique, vu que 99 % du contenu d’Internet n’est que pure bêtises et j’en passe.
- Répondre
Aldebaran(via l'app )
24 Mar. 2023 • 02:15

J’ai envie de dire que c’est normale … un humain peut le faire chatgpt aussi
- Répondre
GLOueil(via l'app )
24 Mar. 2023 • 17:35

Il y a chaque jour des fakes news de crées, publiées, partagées, parfois par des applications, sites ou médias, impossible de tous nettoyer.
Si chatgpt peut chercher une preuve de la validité ou l’invalidité d’une information ce sera un grand pas en avant, en éliminant bien entendu les informations invérifiables.
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles