KultureGeek Logiciels OpenAI et Anthropic collaborent avec l’US AI Safety Institute pour des IA plus sécurisées

OpenAI et Anthropic collaborent avec l’US AI Safety Institute pour des IA plus sécurisées

30 Août. 2024 • 11:25
0

OpenAI et Anthropic ont convenu de collaborer avec l’US AI Safety Institute en partageant leurs modèles d’IA avant et après leur mise sur le marché. Ce partenariat vise à améliorer la sécurité de ces modèles sur la base des « retours » d’analyse de l’UASI. Annoncé par le CEO d’OpenAI Sam Altman, cet accord marque le début d’une collaboration technique entre ces deux sociétés et l’Institut (qui fait partie du National Institute of Standards and Technology/NIST), collaboration qui devrait déboucher sur des lignes directrices pour les modèles d’IA, de tests de référence et de meilleures pratiques permettant d’évaluer les systèmes d’IA potentiellement dangereux.

Intelligence artificielle

L’annonce de cet accord intervient alors que les régulateurs fédéraux et étatiques, dont l’assemblée législative de Californie, cherchent à mettre en place des mesures de sécurité (et donc des contraintes) pour les technologies d’IA générative. La Californie a ainsi récemment approuvé un projet de loi sur la sécurité de l’IA qui exige des tests approfondis pour les modèles d’IA dont le développement a coûté plus de 100 millions de dollars ou qui nécessitent une puissance de calcul importante. Cette loi impose par exemple aux entreprises d’IA de mettre en place des « interrupteurs d’arrêt » pour désactiver les modèles devenus incontrôlables. A noter que l’accord conclu avec l’US AI Safety Institute est non contraignant, mais ce dernier représente tout de même une étape importante vers des IA sécurisées et qui ne puissent pas dériver vers un simili-Skynet.

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Firefox Logo

Firefox 133 améliore le respect de la vie privée et ses performances

26 Nov. 2024 • 18:07
0 Logiciels

Firefox 133 est désormais disponible au téléchargement avec quelques nouveautés, notamment en ce qui concerne une meilleure...

Le Seigneur des Anneaux La Guerre des Rohirrim

La Guerre des Rohirrim (Le Seigneur des Anneaux) : le film d’animation dévoile son casting voix et de nouvelles séquences

26 Nov. 2024 • 17:50
0 Geekeries

C’est assez incroyable de se dire que d’ici quelques semaines à peine, un nouveau film tiré de l’univers...

xboxliveavatarsnew.0.png

Microsoft mettra un terme aux avatars Xbox au mois de janvier prochain

26 Nov. 2024 • 17:09
0 Jeux vidéo

Microsoft vient d’arrêter les mises à jour de l’application Xbox Avatar Editor en raison d’un faible...

Fuite Nouvelle Bbox 2024 Bouygues Telecom

Bbox : la nouvelle box Wi-Fi 7 de Bouygues Telecom fuite en images

26 Nov. 2024 • 16:20
2 Matériel

Bouygues Telecom n’a pas encore officialisé sa nouvelle Bbox, mais un client a déjà reçu la nouvelle box et c’est...

Reseaux Sociaux Icones Logos

Les réseaux sociaux sont inquiets du risque d’interdiction aux moins de 16 ans en Australie

26 Nov. 2024 • 14:09
4 Internet

Le projet de loi de l’Australie d’interdire l’accès des moins de 16 ans aux réseaux sociaux est une décision...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site