Anthropic affirme se rapprocher d’un seuil particulièrement sensible dans le développement de l’intelligence artificielle. Dans un document S-1/A déposé auprès de la SEC, Anthropic estime que ses futurs modèles pourraient prochainement provoquer une accélération spectaculaire de la recherche en IA grâce à l’automatisation d’une partie croissante du travail scientifique et technique.
Le groupe écrit que ses estimations internes indiquent qu’il pourrait « bientôt atteindre la définition de progrès spectaculairement accélérés attribuables à l’IA » prévue par sa Responsible Scaling Policy. Ce seuil correspond à un rythme global d’amélioration des capacités environ deux fois supérieur à celui attendu sans contribution importante de l’IA à sa propre R&D.
Pas encore une IA capable de concevoir seule son successeur
Il ne s’agit toutefois pas encore d’une véritable auto-amélioration récursive autonome. Anthropic précise que ce scénario supposerait qu’un système puisse concevoir, entraîner et améliorer lui-même ses successeurs de manière répétée. La startup reconnaît explicitement qu’elle n’en est pas encore là.
Le mouvement est néanmoins déjà engagé. En septembre, Anthropic révélait que Claude dirigeait 26 % de certaines tâches de R&D consacrées aux futures générations de modèles, contre moins de 1 % quelques mois auparavant.
La sécurité devient une course contre l’accélération
Anthropic estime qu’une automatisation massive de la recherche pourrait apparaître dès 2027, ce qui entrainerait alors des procédures renforcées comme la surveillance généralisée des activités internes, le red teaming automatisé, des infrastructures hautement sécurisées ainsi que des évaluations indépendantes.
Ces mesures « prudentielles » font écho à la récente proposition d’Anthropic consistant à bloquer légalement les IA présentant un risque catastrophique. On rappellera aussi les inquiétudes exprimées par un ancien chercheur de l’entreprise, inquiétudes qui semble aujourd’hui justifier les procédures de contrôle qui sont ou seront mises en place.
L’ère des « IA créatrices d’IA » nécessitera des systèmes de surveillance constants pour éviter que le système ne s’emballe, une contrainte qu’Anthropic semble au moins avoir largement anticipé.
