Elon Musk et des centaines d’experts mondiaux ont signé un appel à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que GPT-4, le modèle d’OpenAI lancé mi-mars, en évoquant « des risques majeurs pour l’humanité ».
Dans cette pétition, ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ».
La pétition réunit des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui surpasseraient l’être humain, dont Elon Musk, propriétaire de Twitter et fondateur de SpaceX et de Tesla, et Yuval Noah Harari, l’auteur de Sapiens. Également signataire, Yoshua Bengio, pionnier canadien de l’IA, a exprimé ses préoccupations, lors d’une conférence de presse virtuelle à Montréal : « je ne pense pas que la société est prête à faire face à cette puissance-là, au potentiel de manipulation par exemple des populations qui pourrait mettre en danger les démocraties ».
Sam Altman, patron d’OpenAI, concepteur de ChatGPT, a lui-même reconnu être « un petit peu effrayé » par sa création si elle était utilisée pour de « la désinformation à grande échelle ou des cyberattaques ». « La société a besoin de temps pour s’adapter », avait-il déclaré à ABCNews mi-mars.
Les signataires comprennent aussi le cofondateur d’Apple Steve Wozniak, des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, ainsi que des experts en IA et universitaires américains, ingénieurs cadres de Microsoft, groupe allié de OpenAI.
![image produit Xiaomi Mi 10 Lite 5G Smartphone 6GB 128GB 6.57'' AMOLED 48MP Quad-caméra 4160mAh (Typical) NFC Bleu [Version Globale]](https://kulturegeek.fr/comparateur/img_products/30977/smartphone-xiaomi-mi-10-lite-128go-5g-bleu-22517_thumb.jpg)
5 commentaires pour cet article :