KultureGeek Matériel Groq : une startup dévoile une puce « maison » taillée pour l’IA… bien plus rapide que les solutions de Nvidia !

Groq : une startup dévoile une puce « maison » taillée pour l’IA… bien plus rapide que les solutions de Nvidia !

2 min.
26 Fév. 2024 • 14:45
0

A peine arrivé au sommet que Nvidia va devoir faire face à un concurrent… dont on ne connaissait même pas le nom en début d’année. Le mardi 20 février, la startup américaine Groq (à ne pas confondre avec le chatbot-troll d’Elon Musk) a en effet dévoilé une puce dédiée à l’IA proprement révolutionnaire : il s’agit en effet du premier LPU (Langage Processing Unit), un processeur qui accélère spécifiquement les calculs des LLM (de type ChatGPT, Llama, Gemini, etc.), et les premiers résultats sont au delà du spectaculaire puisque les requêtes envoyées à un LLM basé sur la technologie Groq sont traitées quasi instantanément, parfois en moins d’une seconde ! Il est d’ailleurs possible de se rendre compte par soi-même de ces performances puisque Groq a ouvert une page qui permet d’utiliser librement un chatbot basé sur ses LPUs. Le chatbot, qui n’est autre que Mistral AI de la startup française éponyme, indique le nombre de mots renvoyés chaque seconde à l’utilisateur, et atteint souvent un score dépassant les 500 mots/seconde. Stupéfiant.

Groq processeur

Cette petite puce est-elle le futur « tueur » de Nvidia ? Les performances sont en tout cas stupéfiantes 

Groq affirme que lors d’un test, sa solution a enfoncé le chatbot Lama 2 (Meta) fonctionnant sur l’infrastructure de cloud Azure, Groq s’avérant alors 20 fois plus rapide que son concurrent direct. Lors de ce même test, Groq a produit 100 tokens (mots) en a peine 0,8 secondes (contre 10,1 seconde pour Lama 2), mais les résultats peuvent être encore plus spectaculaires en fonction des requêtes formulées.

A noter que le fondateur et actuel CEO de Groq n’est autre que Jonathan Ross, qui travaillait auparavant chez Google pour le développement de puces spécialisées dans l’apprentissage automatique (ML). Nvidia a peut-être quelques soucis à se faire, même si Groq n’est pas encore passé à l’étape commerciale.

Signaler une erreur dans le texte

Les sujets liés à ces tags pourraient vous interesser

Désolé, les commentaires sont fermés.

Les derniers articles

GTA 6 Lucia Jason Voiture Piercing

GTA 6 : le hacker à l’origine de la fuite de 2022 plaide coupable

16 Nov. 2026 • 20:59
0 Jeux vidéo

Arion Kurtaj, le hacker qui avait dérobé et diffusé les premières images de GTA 6 en septembre 2022, a plaidé coupable aujourd’hui devant la...

SFR Bouygues Telecoms Logo

SFR et Bouygues Telecom commencent à couper le réseau 2G

16 Nov. 2026 • 19:02
0 Mobiles / Tablettes

Après Orange, c’est au tour de SFR et de Bouygues Telecom de mettre fin à leur réseau mobile 2G. Les deux opérateurs ont lancé les premières...

Planeswalker Magic

Planeswalker : Magic: The Gathering débarque sur Netflix en 2027 avec une série animée

16 Nov. 2026 • 18:14
0 Geekeries

Après plusieurs années de développement et quelques changements de direction créative, Magic: The Gathering va enfin donner naissance à une série...

deals promos

🔥 [#BonPlan] Les promos High-Tech du 16 novembre

16 Nov. 2026 • 18:00
0 Promos

Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici la liste...

Skydio drone

Skydio F10 Lightrunner : ce drone à l’allure asymétrique révolutionne la reconnaissance aérienne

16 Nov. 2026 • 17:35
1 Science

Un drone à l’allure asymétrique peut-il réellement représenter une avancée majeure dans le secteur de la reconnaissance aérienne ? C’est...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site