KultureGeek Matériel et Accessoires Groq : une startup dévoile une puce « maison » taillée pour l’IA… bien plus rapide que les solutions de Nvidia !

Groq : une startup dévoile une puce « maison » taillée pour l’IA… bien plus rapide que les solutions de Nvidia !

26 Fév. 2024 • 14:45
0

A peine arrivé au sommet que Nvidia va devoir faire face à un concurrent… dont on ne connaissait même pas le nom en début d’année. Le mardi 20 février, la startup américaine Groq (à ne pas confondre avec le chatbot-troll d’Elon Musk) a en effet dévoilé une puce dédiée à l’IA proprement révolutionnaire : il s’agit en effet du premier LPU (Langage Processing Unit), un processeur qui accélère spécifiquement les calculs des LLM (de type ChatGPT, Llama, Gemini, etc.), et les premiers résultats sont au delà du spectaculaire puisque les requêtes envoyées à un LLM basé sur la technologie Groq sont traitées quasi instantanément, parfois en moins d’une seconde ! Il est d’ailleurs possible de se rendre compte par soi-même de ces performances puisque Groq a ouvert une page qui permet d’utiliser librement un chatbot basé sur ses LPUs. Le chatbot, qui n’est autre que Mistral AI de la startup française éponyme, indique le nombre de mots renvoyés chaque seconde à l’utilisateur, et atteint souvent un score dépassant les 500 mots/seconde. Stupéfiant.

Groq processeur

Cette petite puce est-elle le futur « tueur » de Nvidia ? Les performances sont en tout cas stupéfiantes 

Groq affirme que lors d’un test, sa solution a enfoncé le chatbot Lama 2 (Meta) fonctionnant sur l’infrastructure de cloud Azure, Groq s’avérant alors 20 fois plus rapide que son concurrent direct. Lors de ce même test, Groq a produit 100 tokens (mots) en a peine 0,8 secondes (contre 10,1 seconde pour Lama 2), mais les résultats peuvent être encore plus spectaculaires en fonction des requêtes formulées.

A noter que le fondateur et actuel CEO de Groq n’est autre que Jonathan Ross, qui travaillait auparavant chez Google pour le développement de puces spécialisées dans l’apprentissage automatique (ML). Nvidia a peut-être quelques soucis à se faire, même si Groq n’est pas encore passé à l’étape commerciale.

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

godeal fêtes de mères 2025

🔥 Célébrez la Fête des Mères avec Godeal24 ! Pour seulement 15,29 €, une suite Office à vie vous attend !

25 Mai. 2025 • 19:41
0 Promos

C’est la Fête des Mères. Comment choisir un cadeau pour la femme qui vous a donné la vie, ou celle qui vous a donné des...

Realme 14T 5G en 3 couleurs

[Test] Realme 14T 5G : un smartphone Android qui bouscule le milieu de gamme

24 Mai. 2025 • 15:50
0 Tests

Realme poursuit sa stratégie offensive : après le 14 « standard », place au 14T 5G, un modèle qui promet de...

Samsung Galaxy S25 Edge Arriere Capteurs Photo

Après Apple, Donald Trump menace Samsung et autres d’une taxe de 25 %

23 Mai. 2025 • 22:28
0 Mobiles / Tablettes

Donald Trump a intensifié ses pressions sur les constructeurs de smartphones en annonçant des droits de douane de 25 % visant non seulement...

Cameraman Match Football

Disney + : la diffusion du foot sera sans surcoût pour la Ligue des champions féminine

23 Mai. 2025 • 20:50
4 Hors-Sujet

Disney+ a officialisé aujourd’hui avoir acquis les droits de diffusion de la Ligue des champions féminine en France et dans le reste...

deals promos

🔥 [#BonPlan] Les promos high-tech du 23 mai

23 Mai. 2025 • 20:23
0 Promos

Chaque jour nous dénichons pour vous des promos sur les produits High-Tech pour vous faire économiser le plus d’argent possible. Voici...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site