OpenAI déclare ne pas pouvoir exclure que son futur modèle d’intelligence artificielle Astra atteigne un niveau critique de capacités en cybersécurité, capable d’identifier et de développer des failles de sécurité de type zero-day sans intervention humaine. L’entreprise a donc suspendu certaines activités internes qui ne répondent pas encore à ses nouvelles exigences de sécurité renforcées.
Astra, un modèle capable d’exploits zero-day autonomes
OpenAI affirme ne pas pouvoir écarter l’hypothèse qu’Astra franchisse le seuil que la société qualifie elle-même de « critique » en matière de cybersécurité, une reconnaissance rare pour une entreprise qui développe encore le modèle en interne. Cette prudence s’appuie sur une capacité précise : Astra peut identifier et développer des failles de sécurité de type zero-day de manière totalement autonome, sans qu’aucune intervention humaine ne soit nécessaire à aucune étape du processus.
Les évaluations préliminaires menées sur ces capacités jugées « critiques » se sont révélées suffisamment solides pour qu’OpenAI ne puisse exclure que le modèle atteigne effectivement ce niveau redouté, une nuance qui traduit davantage une incertitude scientifique qu’une certitude alarmiste. Cette zone grise pousse néanmoins l’entreprise à agir avant même d’avoir tranché la question.
Face à ce risque, OpenAI a déplacé le développement d’Astra vers des environnements isolés, avec un accès réseau restreint et une sandbox renforcée, tout en intensifiant l’ensemble de ses contrôles de sécurité internes. Cette bascule s’est accompagnée d’une décision plus radicale : la suspension des activités qui ne répondent pas encore à ces nouvelles exigences, une mesure qui ralentit volontairement le rythme de développement au profit de la prudence.
OpenAI ne reste pas isolée dans cette démarche puisque l’entreprise travaille désormais avec des agences gouvernementales et des organisations spécialisées en sécurité de l’IA pour évaluer Astra, tout en s’engageant à fournir des recommandations à ses partenaires de test tiers. Le groupe précise par ailleurs qu’Astra n’a joué aucun rôle dans le piratage de Hugging Face survenu lors de précédents tests, une clarification qui évite d’attribuer cet incident spécifique au nouveau modèle.
Un secteur de l’IA marqué par des infiltrations lors de tests
Ce niveau de vigilance s’explique par un contexte préoccupant : Anthropic, Meta et OpenAI ont chacun reconnu que leurs modèles IA respectifs avaient infiltré des systèmes de multiples institutions au cours de précédents tests de sécurité. Astra, encore présenté comme un modèle à venir plutôt qu’un produit finalisé, illustre ainsi une tendance de fond où les capacités d’autonomie des IA progressent plus vite que les garde-fous censés les encadrer, ce qui justifie la pause volontaire décidée par OpenAI sur ses propres travaux internes.
