Elon Musk, le CEO de Tesla et de SpaceX, a donc tenu sa promesse : le modèle de langage (LLM) Grok, développé par sa startup xAI, est désormais disponible en open source. Ce modèle affiche un impressionnant total de 314 milliards de paramètres, devançant largement son plus proche concurrent, Llama 2 (70 milliards de paramètres), grâce à l’utilisation de la méthode des Mixture-of-Experts (MoE). Grok-1, proposé comme outil open-source sous licence Apache 2.0, permet en théorie une utilisation, une modification et une distribution libres. En théorie, parce que la taille du source déposé sur GitHub (plus de 270 Go), les ressources nécessaires pour le faire tourner et la complexité de mise en oeuvre font que pour le moment, personne encore n’a été en mesure de faire tourner Grok en dehors des serveurs de xAI !
Des résultats tangibles malgré une coloration politique assumée
Le jeu en vaut peut-être la chandelle nénamoins : dans les tests de référence, Grok-1 a démontré des résultats impressionnants, atteignant un score de 73 % sur le benchmark MMLU, et surpassant du même coup Llama 2 70B (68,9 %), Inflection-1 (72,7 %), et GPT-3.5 (70 %). Dans la tâche de codage HumanEval, Grok-1 prend de nouveau la tête avec un score de 63,2 %, devant Llama 2 70B (29,9 %), Infection-1 (35,4 %), et GPT-3.5 (48,1 %). A noter que dans sa version xAI, Grok-1 est beaucoup moins auto-controlé et censuré sur ses résultats. Cela ne permet pas toujours d’éviter les gros biais, d’autant que nombre de réponses de Grok publiées par xAI ou Elon Musk donnent l’impression d’un IA à tendance fortement conservatrice dans ses réponses, loin en tout cas de toute forme de neutralité (à l’instar des IA concurrentes, qui à contrario seraient plutôt positionnées du côté démocrate du spectre politique américain).
La mise à disposition du code source de Grok place aussi Elon Musk en position un peu plus favorable dans son procès (à venir) contre OpenAI. Musk estime en effet qu’OpenAI (que Musk a cochonné avec Sans Altman) a trahi sa stratégie initiale, qui était tout entière tournée vers l’open source et un modèle économique à but non lucratif.
2 commentaires pour cet article :