xAI : le superordinateur Colossus composé de 100 000 GPU Nvidia est prêt pour l’entrainement

Frederic L.

3 Sep. 2024 • 21:01

C’était une annonce d’Elon Musk, et force est de reconnaitre que la promesse a été (rapidement) tenue. xAI dispose désormais d’un tout nouveau superordinateur nommé Colossus à Memphis dans le Tennessee. Ce monstre de calcul composé de 100 000 GPU H100 de Nvidia a été monté en à peine 122 jours, un temps très court pour ce type de système. Colossus devrait considérablement accélérer l’entraînement des modèles d’IA, y compris le chatbot controversé (et non censuré) Grok. Le projet a coûté environ 3 milliards de dollars et doublera encore de taille avec l’ajout de 50 000 GPU H200 supplémentaires dans les mois à venir.

This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.

Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.

Excellent…

— Elon Musk (@elonmusk) September 2, 2024

La construction extrêmement rapide de Colossus a soulevé cependant nombre de préoccupations environnementales, notamment concernant l’impact du système sur le réseau électrique de Memphis et les ressources en eau, sans oublier la pollution de l’air à cause des turbines de refroidissement. Malgré ces inquiétudes, les responsables de la ville ont indiqué que xAI s’était engagé à améliorer les infrastructures locales pour que le fonctionnement de Colossus ne pèse pas trop sur les ressources énergétiques de la région. Elon Musk affirme évidemment que Colossus est le système d’entraînement d’IA le plus puissant au monde, mais d’autres géants de la technologie comme Meta, Microsoft, OpenAI et plus récemment Apple développent également leurs propres infrastructures d’IA, dont on connait encore mal les spécifications.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

Un commentaire pour cet article :

Sasuke662(via l'app )
4 Sep. 2024 • 09:22

J’avoue que je suis toujours aussi fasciné par cette courses à la technologie ( en tout genre ) Mais les super ordinateur ou calculateur tout particulièrement , car au delà du fait de qui a la plus grosse ça aide aussi pour le monde médical spéciale ecc .. donc bête de voir la suite ^^
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles