La startup française ZML veut réduire la dépendance des entreprises à un seul fournisseur de puces IA. Soutenue par plusieurs figures majeures de l’IA, dont Yann LeCun, la société parisienne vient de présenter ZML/LLMD, un serveur d’inférence capable de faire tourner des modèles de langage open source sur différentes architectures, dont Nvidia, AMD, Google TPU, Apple Metal et Intel Arc !
Accélérer l’inférence sans rester enfermé chez un fournisseur
L’inférence, c’est-à-dire l’exécution d’un modèle déjà entraîné pour répondre aux requêtes des utilisateurs, devient l’un des grands postes de coût de l’intelligence artificielle. ZML veut permettre aux entreprises et aux fournisseurs cloud de combiner plusieurs types de puces, selon leurs besoins de performance, de prix ou de consommation énergétique.
Steeve Morin, fondateur de ZML et ancien vice-président de l’ingénierie chez Zenly, résume ainsi le concept : « L’idée est de redonner aux gens le pouvoir de créer leur propre système et d’obtenir de vrais gains d’efficacité. » La startup affirme vouloir casser les silos logiciels qui limitent souvent les déploiements IA à une architecture dominante.
Un outil gratuit, mais pas open source
Contrairement à son premier framework public, ZML/LLMD n’est pas publié en open source. Le produit démarre toutefois gratuitement, afin de mesurer les usages avant une éventuelle monétisation.
ZML évolue sur un marché très disputé, face à des projets comme vLLM, SGLang ou des plateformes commerciales spécialisées dans l’inférence. La jeune pousse affirme néanmoins viser plus large, jusqu’à travailler au plus près de la conception même des puces.
Un signal fort pour l’IA européenne
Avec 20 millions de dollars déjà levés et une équipe d’environ vingt personnes, ZML semble déjà incarner une nouvelle génération de startups européennes capables de bâtir des briques techniques fondamentales. ZML/LLMD est l’illustration brillante de cette maitrise technologique, dans un secteur pourtant ultra concurrentiel et dominé par quelques géants (Nvidia en premier lieu).
