xAI relève le gant : Elon Musk a annoncé il y a quelques heures le démarrage de l’entraînement du successeur de Grok. L’équipe de xAI, la société d’IA fondée par Musk l’an dernier, pourra s’appuyer sur l’immense « Memphis Supercluster » de 100 000 GPU H100 refroidis par liquide sur une seule structure RDMA. Selon Musk, cette installation apportera « un avantage significatif dans la formation de l’IA la plus puissante au monde selon chaque métrique d’ici décembre de cette année ». L’entrainement de cette nouvelle version de Grok a démarré ce lundi 22 juillet (à 4 h 20, heure locale pour être précis).
Étant donné les résultats pour le moins mitigés de Grok, plusieurs observateurs ont déjà remarqué que ces déclarations tonitruantes doivent sans doute être prises avec une certaine prudence. Elon Musk est passé maître dans l’art de mobiliser d’importantes infrastructures technologiques, mais ces investissements ne sont pas toujours couronnés d’un succès aussi éclatant que ce que laisse entendre le patron de SpaceX et de Tesla. Reste les faits bruts : un cluster de 100 000 GPU H100 est une installation impressionnante, et si l’entraînement en « force brute » ne fait pas tout, il compte tout de même pour beaucoup dans les performances finales de l’IA.
