TENDANCES
Comparateur
- AUTO
L’Advanced Research and Invention Agency (ARIA), une unité de recherche et développement britannique, a présenté aujourd’hui un projet futuriste offrant des « garanties de sécurité quantitatives » pour l‘intelligence artificielle (IA). Comparant ces garanties aux normes de sécurité élevées de l’industrie nucléaire et de l’aviation commerciale, ARIA propose une approche où, dans le domaine de l’apprentissage automatique, des garanties probabilistes assureraient qu’aucun dommage ne résulte d’une action spécifique. Au cœur du plan d’ARIA se trouve une IA « gardien » qui veillera à ce que d’autres agents IA opèrent uniquement dans les limites établies pour une application spécifique. Un financement de 59 millions de livres sterling est destiné à développer un prototype évolutif dans un domaine tel que l’équilibrage du réseau électrique ou la gestion de la chaîne d’approvisionnement.
Si elle s’avère efficace, cette initiative pourrait protéger les applications IA à hauts risques, pour les infrastructures critiques ou les essais cliniques par exemple. Le programme est l’œuvre de David ‘davidad’ Dalrymple, co-inventeur de la populaire cryptomonnaie Filecoin, qui a également mené des recherches approfondies sur la sécurité technique de l’IA. En tant que directeur du programme ARIA, Dalrymple a l’opportunité de mettre en pratique son approche du gardien, combinant des modèles scientifiques et mathématiques grâce à une collaboration interdisciplinaire profonde.
ARIA aspire à réaliser des avancées similaires à celles du programme HACMS de DARPA qui a créé un quadricoptère inviolable, démontrant ainsi que la vérification formelle peut produire un logiciel totalement exempt de bugs. Le projet de Dalrymple, soutenu par le scientifique renommé Yoshua Bengio, vise à offrir des garanties de sécurité quantitatives pour l’IA, un domaine où les méthodes actuelles sont insuffisantes.
Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...
Une grève a débuté aux États-Unis concernant les acteurs et doubleurs de jeux vidéo. Mais certains titres, dont Grand...
Peu de temps à peine après la mise à jour 128.0.2, Mozilla propose Firefox 128.0.3 pour là encore corriger des bugs. Il y a...
Amazon Prime Video profite du Comic-Con de San Diego pour diffuser aujourd’hui une nouvelle bande-annonce pour la saison 2 de sa série Le...
La formule gratuite de Gemini, l’IA de Google, s’améliore et propose désormais la version 1.5 Flash. L’annonce de ce...