Pour Sam Altman, le patron d’OpenAI, les ordinateurs mobilisent une ressource dont l’industrie de l’intelligence artificielle manque cruellement : la RAM. Lors du podcast Cheeky Pint, le dirigeant a estimé qu’il serait plus efficace à l’échelle mondiale de concentrer la mémoire vive dans les data centers où elle pourrait être utilisée par davantage de personnes et de services. Une prise de position qui intervient alors que la demande des acteurs de l’IA accentue les tensions sur le marché des composants mémoire.
« C’est assez terrible » d’avoir de la RAM inutilisée dans son PC, dit Sam Altman
Sam Altman répondait aux discussions autour de l’inférence locale qui consiste à exécuter des modèles IA directement sur son ordinateur. Certains y voient une manière de réduire la dépendance aux data centers, notamment grâce à la disponibilité de modèles open source. Le dirigeant d’OpenAI conteste cette vision :
Beaucoup de gens veulent faire de l’inférence en local. Ils pensent que le problème est désormais réglé parce que nous aurons des modèles open source que nous pourrons exécuter sur nos ordinateurs et que nous n’aurons donc plus besoin de toutes ces infrastructures dans les data centers. Du point de vue de l’allocation mondiale, c’est en réalité assez terrible que chacun conserve dans son ordinateur une partie des réserves limitées de DRAM disponibles dans le monde, alors qu’elle n’est utilisée que 5 % du temps. Si l’offre est aussi contrainte, il faut maximiser l’utilisation de la mémoire dans le cloud.
L’argument de Sam Altman s’inscrit dans un contexte de forte demande en mémoire pour les infrastructures d’intelligence artificielle. Les grands opérateurs de cloud et les projets de data centers cherchent à sécuriser leurs approvisionnements sur plusieurs années. Samsung et SK Hynix, deux des principaux fabricants de mémoire, concluent notamment des accords de long terme avec des acteurs du secteur. Cette pression contribue à tendre le marché et à renchérir certains composants destinés aux appareils grand public.
La DRAM ne sert toutefois pas uniquement à faire fonctionner des modèles d’IA. Elle est indispensable aux PC, aux smartphones et à de nombreux autres appareils. La demande des data centers entre donc directement en concurrence avec celle du marché grand public, même si les besoins et les types de mémoire ne sont pas toujours identiques.
Une vision qui favorise le modèle du cloud
Cette position n’est pas neutre pour OpenAI. L’entreprise exploite des modèles, dont ChatGPT qui a une exécution se reposant sur le cloud et donc des serveurs dans des data centers. Une généralisation de l’inférence locale pourrait réduire pour certains usages le recours aux services cloud et aux abonnements. Sam Altman défend donc une logique d’optimisation des ressources qui correspond aussi aux besoins de son entreprise. Cela ne suffit pas à invalider son argument technique, mais il faut garder à l’esprit qu’il s’exprime en tant que dirigeant d’un acteur majeur du cloud IA.
L’argument mérite également d’être nuancé. Un ordinateur ne consacre pas sa mémoire vive uniquement à l’IA : elle sert en permanence au système, aux applications, aux jeux et à d’autres tâches. Et certains utilisateurs peuvent faire tourner des modèles locaux de manière intensive. Le chiffre de 5 % avancé par Altman est une illustration de son raisonnement, pas une mesure démontrée de l’utilisation moyenne de la RAM sur l’ensemble des PC.
Le débat dépasse donc la seule question de la quantité de mémoire vive disponible. L’inférence locale apporte davantage de contrôle sur les données, peut fonctionner sans connexion et évite de dépendre entièrement d’un fournisseur distant. Le cloud permet de mutualiser des ressources coûteuses, mais implique de confier ses traitements à un prestataire et de dépendre de ses tarifs, de sa disponibilité et de ses capacités. Les propos de Sam Altman exposent clairement la priorité d’OpenAI : réserver une part toujours plus importante des ressources matérielles à des infrastructures centralisées. Ils ne démontrent pas pour autant que l’exécution locale soit inutile ou moins pertinente pour tous les usages.
