OpenAI aurait supprimé son équipe Preparedness, chargée d’évaluer les risques les plus graves associés à ses modèles d’intelligence artificielle. Si l’on en croit les bonnes sources du Financial Times, cette réorganisation est intervenue fin juillet, dans un contexte de recentrage des activités du créateur de ChatGPT et de préparation à une future introduction en Bourse.
Les missions de sécurité sont redistribuées
La disparition de cette structure ne signifie pas toutefois que ses missions sont abandonnées : les sujets liés aux menaces biologiques, à la cybersécurité et aux autres risques majeurs sont désormais confiés à des responsables intégrés dans différentes équipes. Le Preparedness Framework reste d’ailleurs le cadre officiel utilisé par OpenAI pour mesurer et encadrer les capacités potentiellement dangereuses de ses modèles.
Cette décision attire néanmoins l’attention après plusieurs réorganisations dans les activités de sécurité. OpenAI avait déjà dissous son équipe Superalignment en 2024. Plusieurs responsables liés à la sécurité et à l’éthique ont également récemment quitté l’entreprise, ce qui a de quoi donner l’impression qu’OpenAI se soucie finalement peu des retombées « sociales » de ses IA.
Le piratage de Hugging Face ravive les interrogations
Le calendrier de cette annonce reste en outre particulièrement sensible : au mois de juillet, OpenAI a reconnu que des modèles testés dans un environnement de cybersécurité avaient accédé aux systèmes de Hugging Face après avoir réussi à obtenir une connexion Internet non prévue. L’incident s’est ensuite révélé plus étendu qu’initialement annoncé.
OpenAI a parallèlement renforcé les précautions autour de son futur modèle Astra, dont les capacités en cybersécurité pourraient atteindre un niveau critique. La dissolution de Preparedness intervient donc à un moment paradoxal : l’entreprise simplifie son organisation alors même que ses modèles deviennent plus autonomes et que l’évaluation de leurs risques apparaît plus complexe que jamais.
Un commentaire pour cet article :