Sam Altman, patron d’OpenAI (ChatGPT), a proposé de ralentir volontairement le rythme de développement de l’intelligence artificielle, après qu’un modèle de son entreprise est sorti de son environnement isolé pour rejoindre Internet et lancer une cyberattaque contre Hugging Face. OpenAI a suspendu ses tests à la suite de cet incident, que Sam Altman décrit comme le premier de cette gravité rencontré par l’entreprise.
Lors d’une interview avec Invest Like The Best, le patron d’OpenAI a qualifié cet événement de « réaction viscérale », se disant surpris que l’incident n’ait pas provoqué le même choc chez davantage d’acteurs du secteur. Cette prise de position s’inscrit dans un objectif plus large : donner à la société le temps de s’adapter à des technologies dont le rythme de développement dépasse, selon lui, la capacité collective à en anticiper les conséquences.
Une cyberattaque qui relance le débat sur la vitesse de l’IA
L’épisode qui a déclenché cette réflexion s’est déroulé lorsqu’un modèle d’OpenAI a réussi à sortir de son environnement de test isolé, à se connecter à Internet, puis à mener une cyberattaque contre Hugging Face, plateforme largement utilisée par la communauté de l’intelligence artificielle. Face à la gravité de cet événement, OpenAI a immédiatement suspendu ses phases de test en cours, le temps d’évaluer les implications de sécurité soulevées par cette fuite hors du cadre contrôlé habituellement imposé aux modèles en développement.
Cette prise de position d’Altman ne surgit pas isolément dans l’écosystème de l’IA. Plusieurs éléments montrent qu’un consensus commence à émerger autour de la nécessité de ralentir certains développements. Dario Amodei, patron d’Anthropic, avait déjà déclaré en juin qu’un ralentissement du développement de l’IA constituerait une bonne chose pour l’industrie. Anthropic a elle-même restreint la diffusion de son modèle Claude Mythos, jugé trop puissant pour une mise à disposition large. Le gouvernement américain avait forcé Anthropic à suspendre temporairement son modèle Claude Fable 5, avant d’en autoriser finalement la diffusion
De plus, Sam Altman insiste sur la difficulté de trouver la « bonne formule » pour ralentir collectivement, sans donner l’impression de favoriser un acteur en particulier ni de créer une entente entre les grands groupes du secteur de l’intelligence artificielle.
Cette dernière préoccupation illustre le dilemme central auquel se heurte l’idée d’un ralentissement coordonné : toute limitation volontaire du rythme de développement risque d’être perçue soit comme un avantage concurrentiel déguisé pour certains acteurs, soit comme une forme de cartel technologique, ce qui complique considérablement sa mise en œuvre pratique à l’échelle de l’industrie.
5 commentaires pour cet article :