C’était une annonce d’Elon Musk, et force est de reconnaitre que la promesse a été (rapidement) tenue. xAI dispose désormais d’un tout nouveau superordinateur nommé Colossus à Memphis dans le Tennessee. Ce monstre de calcul composé de 100 000 GPU H100 de Nvidia a été monté en à peine 122 jours, un temps très court pour ce type de système. Colossus devrait considérablement accélérer l’entraînement des modèles d’IA, y compris le chatbot controversé (et non censuré) Grok. Le projet a coûté environ 3 milliards de dollars et doublera encore de taille avec l’ajout de 50 000 GPU H200 supplémentaires dans les mois à venir.
La construction extrêmement rapide de Colossus a soulevé cependant nombre de préoccupations environnementales, notamment concernant l’impact du système sur le réseau électrique de Memphis et les ressources en eau, sans oublier la pollution de l’air à cause des turbines de refroidissement. Malgré ces inquiétudes, les responsables de la ville ont indiqué que xAI s’était engagé à améliorer les infrastructures locales pour que le fonctionnement de Colossus ne pèse pas trop sur les ressources énergétiques de la région. Elon Musk affirme évidemment que Colossus est le système d’entraînement d’IA le plus puissant au monde, mais d’autres géants de la technologie comme Meta, Microsoft, OpenAI et plus récemment Apple développent également leurs propres infrastructures d’IA, dont on connait encore mal les spécifications.
Un commentaire pour cet article :