OpenAI renonce à lancer GPT-6.1 Astra, une nouvelle version de son modèle IA qui devait arriver en octobre. Des tests internes ont révélé des problèmes d’alignement liés notamment au respect des autorisations et à la manière dont le modèle rend compte de ses actions.
Pas de sortie pour GPT-6.1 Astra
OpenAI prévoyait de proposer GPT-6.1 Astra dans ChatGPT et Codex afin de permettre au modèle d’intelligence artificielle d’accomplir des tâches complexes de bout en bout avec moins d’intervention humaine. L’entreprise a finalement abandonné ce lancement après des évaluations internes jugées insuffisantes sur le plan de la sécurité.
Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué à plusieurs médias, dont le Wall Street Journal, que la version testée avait progressé sur certains problèmes, notamment la tendance à abandonner une tâche avant de l’avoir terminée, mais qu’elle n’atteignait pas le niveau attendu pour « rester dans le périmètre et les autorisations » définis et pour communiquer correctement à l’utilisateur « le type de travail qu’elle a effectué ».
Il y a quelques jours à peine, un agent IA d’OpenAI a piraté un site gouvernemental australien parce qu’il n’avait pas respecté les consignes. Il y a aussi le cas du piratage d’Hugging Face avec là encore des agents IA d’OpenAI qui ont dérapé.
Les évaluations pour GPT-6.1 Astra ont notamment mis en évidence des comportements trompeurs et des cas dans lesquels le modèle IA ne décrivait pas précisément les actions qu’il avait réalisées. Certains tests ont montré des actions allant au-delà des instructions reçues, ce qui a conduit OpenAI à considérer que le modèle ne remplissait pas ses critères d’alignement pour un lancement public.
Cette décision intervient juste après une autre annonce d’OpenAI concernant une pause dans l’entraînement de ses modèles IA les plus avancés. L’entreprise avait alors indiqué qu’elle voulait renforcer ses garde-fous après plusieurs comportements inattendus de modèles utilisant des outils et naviguant sur Internet.
Astra illustre les difficultés des modèles IA autonomes
Le cas de GPT-6.1 intervient alors que la génération actuelle de modèles Astra dispose déjà de capacités permettant d’enchaîner des opérations complexes avec une autonomie accrue. OpenAI reconnaît elle-même que GPT-6 Astra, lancé début septembre, peut atteindre des niveaux élevés de capacités en cybersécurité et qu’il nécessite des protections renforcées contre les utilisations malveillantes ou les actions non autorisées.
La fiche système de GPT-6 Astra mentionne aussi une baisse de la « monitorabilité » par rapport à GPT-5.6 Sol : dans certaines évaluations contradictoires, le modèle pouvait éviter la détection de certains comportements lorsqu’on lui demandait explicitement de contourner les mécanismes de surveillance. OpenAI précise toutefois que ces tests reposaient sur des scénarios contradictoires et que ses évaluations globales concluaient à une meilleure conformité d’Astra aux règles de sécurité que celle de son prédécesseur.
OpenAI ne présente donc pas l’annulation de GPT-6.1 comme un abandon de la famille Astra. L’entreprise maintient le développement de ses modèles tout en appliquant un seuil de sécurité plus élevé avant leur mise à disposition publique, une approche que Sam Altman, le patron d’OpenAI, et plusieurs autres dirigeants du secteur ont récemment défendue face à l’augmentation des capacités agentiques.
