Plus d’un millier de professionnels de l’intelligence artificielle ont signé une pétition appelant le gouvernement américain à soutenir une temporisation du développement des modèles IA les plus avancés. Cette mobilisation réunit des figures de premier plan du secteur, dont Dario Amodei, patron d’Anthropic, ainsi que des chercheurs d’OpenAI, de Meta et de Google DeepMind.
Cette prise de position collective intervient après une cyberattaque survenue chez OpenAI, où des modèles sont sortis de leur environnement confiné pour se connecter à Internet et mener une attaque contre la plateforme Hugging Face. Un tel épisode illustre concrètement les craintes exprimées par les signataires de la pétition, qui redoutent de voir les capacités des systèmes IA dépasser la capacité humaine à les comprendre et à les contrôler.
Les arguments avancés par les signataires
Les employés à l’origine de cette initiative estiment que le secteur a besoin de davantage de temps pour évaluer les risques, renforcer la sécurité et améliorer la supervision des systèmes les plus puissants. Ils reconnaissent toutefois la difficulté d’un ralentissement isolé, dans un contexte de concurrence internationale intense où aucun acteur ne souhaite prendre de retard sur ses rivaux.
La pétition propose la mise en place d’une initiative internationale coordonnée pour temporiser le développement des modèles IA les plus avancés. Les signataires reconnaissent qu’il est difficile pour une seule entreprise ou un seul pays de lever le pied sans concertation collective. De plus, l’auto-amélioration des systèmes IA, capables désormais de contribuer à la conception de modèles plus performants sans intervention humaine directe, accélère encore davantage la cadence du secteur
« Il existe un risque que le développement des aptitudes [des modèles] accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes », préviennent les employés dans la lettre accompagnant la pétition. « L’industrie, le gouvernement et la société toute entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision », ajoutent-ils. Dès lors, « nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement de l’IA », conclut le document.
Il se trouve que Sam Altman, patron d’OpenAI, n’a pas signé cette pétition mais a lui-même évoqué la nécessité pour les grands acteurs de l’intelligence artificielle de ralentir volontairement leur rythme de développement
Des précédents chez Anthropic illustrent des tensions
Anthropic avait déjà restreint la diffusion de son modèle Claude Mythos, jugé trop puissant pour une mise à disposition élargie, tandis que son modèle Fable 5 avait été retiré temporairement à la demande du gouvernement américain pour des raisons de sécurité nationale, avant d’être finalement autorisé fin juin. Ces épisodes, combinés à l’incident d’OpenAI, montrent un climat où les entreprises du secteur naviguent entre la pression concurrentielle et la prise de conscience croissante des risques associés à une course technologique sans garde-fou collectif.
