Lors de sa conférence annuelle re:Invent, Amazon a présenté deux nouvelles puces dédiées aux lourds calculs d’intelligence artificielle (IA). Le premier de ces processeurs, AWS Trainium2, a été conçu pour la formation et l’inférence de modèles et devrait offrir des performances jusqu’à quatre fois supérieures ainsi qu’une efficacité énergétique deux fois supérieure à celles de son prédécesseur. AWS Trainium2 sera disponible dans les instances EC Trn2 en clusters de 16 puces au sein du cloud AWS, et l’on pourra trouver jusqu’à 100 000 de ces puces dans le EC2 UltraCluster d’AWS pour un total de 65 exaflops de puissance de calcul (soit 650 Teraflops par puce !). Ce cluster de 100 000 puces Trainium pourra former en quelques semaines à peine un grand modèle de langage d’IA de 300 milliards de paramètres ! Pour se faire une idée plus concrète de la puissance de calcul de ce monstre de cluster, disons qu’il est 5 millions de fois plus puissants… qu’une Xbox Series X.
La deuxième puce, Graviton4, est basée sur Arm destinée et se destine aux calculs d’inférence pour l’apprentissage automatique. Cette quatrième génération de la famille de puces Graviton d’Amazon est censée offrir des performances de calcul jusqu’à 30 % supérieures à son prédécesseur, 50 % de cœurs en plus et 75 % de bande passante mémoire supplémentaire. Graviton4 sera disponible dans les instances Amazon EC2 R8g d’ici les prochains mois.
