KultureGeek Logiciels Le « DARPA britannique » sécurise les IA pour les secteurs sensibles

Le « DARPA britannique » sécurise les IA pour les secteurs sensibles

11 Avr. 2024 • 20:26
0

L’Advanced Research and Invention Agency (ARIA), une unité de recherche et développement britannique, a présenté aujourd’hui un projet futuriste offrant des « garanties de sécurité quantitatives » pour l‘intelligence artificielle (IA). Comparant ces garanties aux normes de sécurité élevées de l’industrie nucléaire et de l’aviation commerciale, ARIA propose une approche où, dans le domaine de l’apprentissage automatique, des garanties probabilistes assureraient qu’aucun dommage ne résulte d’une action spécifique. Au cœur du plan d’ARIA se trouve une IA « gardien » qui veillera à ce que d’autres agents IA opèrent uniquement dans les limites établies pour une application spécifique. Un financement de 59 millions de livres sterling est destiné à développer un prototype évolutif dans un domaine tel que l’équilibrage du réseau électrique ou la gestion de la chaîne d’approvisionnement.

Intelligence Artificielle Cerveau Puce

Si elle s’avère efficace, cette initiative pourrait protéger les applications IA à hauts risques, pour les infrastructures critiques ou les essais cliniques par exemple. Le programme est l’œuvre de David ‘davidad’ Dalrymple, co-inventeur de la populaire cryptomonnaie Filecoin, qui a également mené des recherches approfondies sur la sécurité technique de l’IA. En tant que directeur du programme ARIA, Dalrymple a l’opportunité de mettre en pratique son approche du gardien, combinant des modèles scientifiques et mathématiques  grâce à une collaboration interdisciplinaire profonde.

ARIA aspire à réaliser des avancées similaires à celles du programme HACMS de DARPA qui a créé un quadricoptère inviolable, démontrant ainsi que la vérification formelle peut produire un logiciel totalement exempt de bugs. Le projet de Dalrymple, soutenu par le scientifique renommé Yoshua Bengio, vise à offrir des garanties de sécurité quantitatives pour l’IA, un domaine où les méthodes actuelles sont insuffisantes.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Pornhub

Sites pornos et protection des mineurs : l’Europe demande des infos à Pornhub, XVideos et Stripchat

13 Juin. 2024 • 20:31
0 Internet

La Commission européenne a réclamé des informations aux sites pornographiques Pornhub, Stripchat et XVideos concernant les mesures...

Icône de l'application YouTube

YouTube teste l’intégration des publicités directement dans les vidéos

13 Juin. 2024 • 20:18
0 Internet

YouTube continue son combat contre les bloqueurs de pubs et teste une nouvelle méthode consistant à injecter les publicités...

Starliner ISS

Le Starliner de Boeing accumule (encore) les fuites

13 Juin. 2024 • 19:10
2 Science

Boeing n’en a pas fini avec le chat noir qui semble le poursuivre depuis quelques année (à moins qu’il ne s’agisse de...

House of the Dragon Alicent Hightower Rhaenyra Targaryen

House of the Dragon est renouvelée pour une saison 3

13 Juin. 2024 • 18:54
0 Geekeries

Quelques jours à peine avant le début de la saison 2, HBO annonce renouveler sa série House of the Dragon pour une saison 3. Sans...

PlayStation 5 PS5 Rejoindre Chat Vocal Discord

Les joueurs PS5 vont pouvoir rejoindre un chat vocal de Discord

13 Juin. 2024 • 17:07
0 Jeux vidéo

Sony propose une amélioration du support de Discord sur PlayStation 5, avec les joueurs qui vont maintenant pouvoir rejoindre facilement le chat...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site