C’est une petite bombe, même si l’on pouvait aurais le craindre voire l’anticiper : OpenAI a révélé il y a quelques heures dans un document que des opérations de désinformation en provenance de Russie, de Chine, d’Iran et d’Israël ont utilisé ou utilisent encore ses outils d’intelligence artificielle afin de créer et diffuser des fausses informations. OpenAI précise que pas moins de cinq opérations clandestine de ce type se sont appuyées sur ses modèles d’IA pour générer des textes et des images en grande quantité ainsi que pour créer de faux commentaires ou de fausses réponses à leurs publications. Ces opérations ciblaient plusieurs thématiques « chaudes » du moment, notamment le conflit opposant la Russie à l’Ukraine, le conflit à Gaza, les élections en Inde, ainsi que la situation politique en Europe ou aux États-Unis.
Ces campagnes de désinformation ont aussi utilisé l’IA pour accroître leur « productivité », notamment en multipliant les faux contenus sur les réseaux sociaux. Depuis quelques années, les plateformes Meta et YouTube ont intensifié leurs efforts afin de lutter contre la désinformation, surtout après l’élection présidentielle américaine de 2016 qui avait largement influencée par une ferme de trolls russe. Au moment où des élections approchent pour environ 2 milliards de personnes dans le monde (Inde, USA, Europe, etc.), les décideurs politiques exhortent les entreprises d’IA à mettre en place des mesures strictes contre ces abus.
OpenAI a rappelé son engagement à détecter et analyser les campagnes de désinformation, en développant des outils de surveillance… eux aussi basés sur l’IA. La startup a obtenu certains résultats contre ces opérations : on lui doit l’identification du réseau russe Doppelganger et du réseau chinois Spamouflage, sans oublier l’interruption d’une campagne pro-israélienne gérée par l’entreprise STOIC basée à Tel Aviv. OpenAI n’apprécie pas que l’on utilise son IA à mauvais escient, et veut tout autant que ça se sache, une stratégie de communication qui vient sans doute contrebalancer les informations de ces deniers jours laissant entendre que Sam Altman et le nouveau board d’OpenAI se souciaient peu des problématiques de sécurité.
Lisez aussi ces autres articles !
Pas d'articles en relation.
![image produit Assassins Creed 3 Essentials [import anglais]](https://kulturegeek.fr/comparateur/img_products/76427/assassins-creed-3-essentials-ps3-12577_thumb.jpg)
