KultureGeek Logiciels xAI d’Elon Musk publie l’intégralité du code source de l’IA Grok-1 (oui mais…)

Logiciels

xAI d’Elon Musk publie l’intégralité du code source de l’IA Grok-1 (oui mais…)

18 Mar. 2024 • 19:24

Elon Musk, le CEO de Tesla et de SpaceX, a donc tenu sa promesse : le modèle de langage (LLM) Grok, développé par sa startup xAI, est désormais disponible en open source. Ce modèle affiche un impressionnant total de 314 milliards de paramètres, devançant largement son plus proche concurrent, Llama 2 (70 milliards de paramètres), grâce à l’utilisation de la méthode des Mixture-of-Experts (MoE). Grok-1, proposé comme outil open-source sous licence Apache 2.0, permet en théorie une utilisation, une modification et une distribution libres. En théorie, parce que la taille du source déposé sur GitHub (plus de 270 Go), les ressources nécessaires pour le faire tourner et la complexité de mise en oeuvre font que pour le moment, personne encore n’a été en mesure de faire tourner Grok en dehors des serveurs de xAI !

Grok

Des résultats tangibles malgré une coloration politique assumée

Le jeu en vaut peut-être la chandelle nénamoins : dans les tests de référence, Grok-1 a démontré des résultats impressionnants, atteignant un score de 73 % sur le benchmark MMLU, et surpassant du même coup Llama 2 70B (68,9 %), Inflection-1 (72,7 %), et GPT-3.5 (70 %). Dans la tâche de codage HumanEval, Grok-1 prend de nouveau la tête avec un score de 63,2 %, devant Llama 2 70B (29,9 %), Infection-1 (35,4 %), et GPT-3.5 (48,1 %). A noter que dans sa version xAI, Grok-1 est beaucoup moins auto-controlé et censuré sur ses résultats. Cela ne permet pas toujours d’éviter les gros biais, d’autant que nombre de réponses de Grok publiées par xAI ou Elon Musk donnent l’impression d’un IA à tendance fortement conservatrice dans ses réponses, loin en tout cas de toute forme de neutralité (à l’instar des IA concurrentes, qui à contrario seraient plutôt positionnées du côté démocrate du spectre politique américain).

La mise à disposition du code source de Grok place aussi Elon Musk en position un peu plus favorable dans son procès (à venir) contre OpenAI. Musk estime en effet qu’OpenAI (que Musk a cochonné avec Sans Altman) a trahi sa stratégie initiale, qui était tout entière tournée vers l’open source et un modèle économique à but non lucratif.

Signaler une erreur dans le texte

Vous utilisez Google Actualités ? Suivez KultureGeek pour ne rien rater de l'actu High-Tech !

Les sujets liés à ces tags pourraient vous interesser

2 commentaires pour cet article :

ManuD67(via l'app )
18 Mar. 2024 • 20:37

Coloration politique ? Demandez une blague sur n’importe quel pays occidental à n’importe quel llm (testé mixtral openai gemma gemini llama..) et pas de problème, même demande sur n’importe quels habitants asiatique africain cela se termine par ‘blablabla je ne peux pas risquer d’offenser un groupe ethnique ou national blablabla ‘ On demande si français est un groupe national et hop plus de blagues du tout… Blocage wokiste total. On peut remotiver le llm en demandant une blague sur ‘les habitants du plus grand pays communiste d’Asie ‘ et hop après il accepte d’en faire sur d’autres (mixtral gemini llama, plus compliqué avec openai mais cela passe aussi à la fin) Donc lobotmiser les llm ne va que produire ce que notre PR fait aussi : donner visibilité et crédibilité à Grok / RN ou reconquête. Trop trop cons ces ‘bien pensants’
- Répondre
Lehulk(via l'app )
19 Mar. 2024 • 12:27

Donc si je comprends bien,une IA en général,est présenté comme un système neutre qui va à l essentiel d une question posée serait en réalité une entité ayant une couleur politique en fonction du groupe qui la sort .Ok je reste sur ma position de me méfier de ça
- Répondre

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Fils des commentaires

Quelques règles à respecter :

1. Restez dans le sujet de l'article
2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles