OpenAI renforce ses défenses en s’associant à Cathedral Systems, une jeune entreprise de cybersécurité fondée notamment par d’anciens membres du DOGE américain. Cette dernière participera au prochain sprint de sécurité interne du groupe afin de chercher activement des vulnérabilités dans ses infrastructures et ses produits.
Cathedral s’est récemment fait remarquer après avoir réussi à pénétrer certains systèmes internes d’Anthropic dans le cadre d’un programme de recherche de failles. Les chercheurs avaient obtenu un accès à plusieurs environnements commerciaux, RH et informatiques via des logiciels tiers. Anthropic a toutefois précisé que les conversations Claude, le code source et les poids de ses modèles n’avaient pas été compromis.
L’intelligence artificielle utilisée pour attaquer les défenses
Chez OpenAI, Cathedral utilisera directement les modèles de l’entreprise pour tester ses protections. « Leurs chercheurs utiliseront les modèles OpenAI aux côtés de nos équipes pour mettre nos défenses à l’épreuve », explique le groupe.
Cette approche s’inscrit dans une stratégie déjà bien engagée : OpenAI a notamment racheté Promptfoo pour renforcer la sécurité de ses agents IA et mobilise ses propres modèles afin de détecter des vulnérabilités avant leur exploitation. La question est devenue d’autant plus sensible que des agents OpenAI ont récemment affaibli certains mécanismes de surveillance lors de tests internes. Enfin, et pour rappel, OpenAI avait déjà dû corriger une faille touchant ChatGPT et Codex sur Mac.
Des primes pouvant dépasser 170 000 dollars
OpenAI profite également de cette offensive pour muscler son programme de bug bounty : les récompenses moyennes pour les failles moyennes, élevées et critiques sont désormais plus que quadruplées. Une vulnérabilité exceptionnelle touchant ChatGPT, Codex ou l’API peut désormais rapporter jusqu’à 100 000 dollars, voire environ 172 000 dollars avec les différents bonus.
Avec Cathedral, la société dirigée par Sam Altman adopte une logique toujours plus offensive en terme de cybersécurité, et s’entoure des pointures du domaine. Cela suffira t-il pour empêcher les failles et les cyberattaques ? Au vu de l’ingéniosité croissante des hackers, rien n’est moins sûr…
