KultureGeek Internet IA : OpenAI et Anthropic vont donner accès à leurs modèles au gouvernement américain

Internet

IA : OpenAI et Anthropic vont donner accès à leurs modèles au gouvernement américain

29 Août. 2024 • 19:33

OpenAI a passé un accord avec le gouvernement américain qui prévoit l’accès à ses nouveaux modèles de langage avant leur lancement, notamment pour identifier de possibles risques.

Les modèles de langage permettent de générer, selon les cas, du texte, de l’image ou du son sur requête en langage courant, à l’instar de ChatGPT.

L’AI Safety Institute (Institut de la sécurité de l’intelligence artificielle), organe créé en 2023 par le gouvernement de Joe Biden, a conclu la même convention avec l’un des grands concurrents d’OpenAI, Anthropic, selon un communiqué publié aujourd’hui.

Les deux start-up se sont engagées à collaborer avec l’institut pour « évaluer les capacités (des modèles) et les risques de sécurité », ainsi qu’à travailler à « des méthodes pour gérer ces risques », a indiqué l’AI Safety Institute. « Ces accords ne sont qu’un début, mais ils marquent une étape importante pour aider à orienter vers une approche responsable l’avenir de l’IA », a déclaré Elizabeth Kelly, directrice de l’Institut.

La progression des grands modèles de langage (LLM) augmente sans cesse leurs capacités mais aussi les risques associés, en particulier en cas d’utilisation mal intentionnée.

Dans le même temps, la Maison Blanche s’est efforcée d’obtenir des engagements volontaires de la part des grandes entreprises sur les mesures de sécurité de l’IA. Plusieurs grandes entreprises ont pris des engagements non contraignants pour investir dans la recherche sur la cybersécurité et la discrimination, et pour travailler sur le filigrane des contenus générés par IA.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

2 commentaires pour cet article :

7Iff5(via l'app )
30 Août. 2024 • 11:24

Mdr … sous ce couvert seul en sera le revers ? C’est couru d’avance.
- Répondre
- 7Iff5(via l'app )
  30 Août. 2024 • 11:25
  
  Seul -> quel
  - Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles