KultureGeek Hors-Sujet IA : OpenAI, Google, Mistral et 13 autres entreprises s’engagent pour la sécurité

Hors-Sujet

IA : OpenAI, Google, Mistral et 13 autres entreprises s’engagent pour la sécurité

3 min.

21 Mai. 2024 • 15:42

16 entreprises en lien avec l’intelligence artificielle, dont Google (DeepMind), Meta, OpenAI (ChatGPT), Microsoft (Copilot), Amazon ou encore le français Mistral AI, ont pris de nouveaux engagements pour assurer le développement de l’IA en toute sécurité, annonce le gouvernement britannique.

Avatars Virtuels Intelligence Artificielle

Voici les signataires :

Amazon
Anthropic
Cohere
Google DeepMind
G42
IBM
Inflection AI
Meta
Microsoft
Mistral AI
Naver
OpenAI
Samsung Electronics
Technology Innovation Institute
xAI
Zhipu.ai

« Ces engagements garantissent que les principales entreprises d’IA du monde feront preuve de transparence et de responsabilité quant à leurs projets de développement d’une IA sûre », a déclaré le Premier ministre britannique, Rishi Sunak, dans un communiqué publié par le ministère britannique de la Science, de l’Innovation et de la Technologie.

L’accord s’appuie sur les consensus atteint lors du premier sommet mondial sur la sécurité de l’IA, l’an dernier à Bletchley Park au Royaume-Uni. Le second sommet aujourd’hui à Séoul est organisé conjointement par les gouvernements sud-coréen et britannique.

Les entreprises d’IA qui n’ont pas encore rendu publique la façon dont elles évaluent la sécurité des technologies qu’elles développent s’engagent à le faire. Il s’agit notamment de déterminer quels sont les risques jugés intolérables et ce que les entreprises feront pour s’assurer que ces seuils ne sont pas franchis, explique le communiqué.

Dans les circonstances les plus extrêmes, les entreprises s’engagent également à ne pas développer ou déployer un modèle ou un système si les mesures d’atténuation ne permettent pas de maintenir les risques en deçà des seuils fixés. Ces seuils seront définis avant le prochain sommet sur l’IA, en 2025 en France.

Des craintes existent autour de l’IA

Le succès fulgurant de ChatGPT peu après sa sortie en 2022 a déclenché une ruée dans le domaine de l’IA générative, les entreprises technologiques du monde entier investissant des milliards de dollars dans le développement de leurs propres modèles.

Mais les défenseurs des droits humains et les gouvernements craignent leur utilisation à mauvais escient dans un grand nombre de situations, notamment pour manipuler les électeurs par le biais de fausses informations ou de photos et de vidéos deepfake de dirigeants politiques.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech ! Icône Google Actualités

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles