Un LLM, pour Large Language Model, est un modèle d’intelligence artificielle entraîné sur de grandes quantités de données pour traiter le langage. Il peut notamment produire du texte, résumer un document, traduire ou assister la programmation. Cette appellation désigne le modèle, alors qu’un assistant conversationnel ajoute une interface, des consignes, des outils et parfois un accès à des sources externes.
Le texte est découpé en unités appelées tokens, qui peuvent correspondre à des mots, à des fragments de mots ou à des signes. Pendant l’entraînement, les paramètres du réseau sont ajustés pour apprendre des régularités. Lors de la génération, le modèle exploite le contexte disponible pour construire une réponse. La taille de ce contexte détermine une partie des informations qu’il peut prendre en compte simultanément.
La famille des LLM s’inscrit dans le domaine plus large de l’intelligence artificielle. Des services comme ChatGPT peuvent associer un modèle à une recherche documentaire ou à des outils de calcul.
Une connaissance apprise pendant l’entraînement, un passage fourni dans la demande et une information récupérée en ligne ont alors des origines différentes.
Cette rubrique suit les modèles, leurs méthodes d’évaluation et leurs usages. Les développeurs de logiciels doivent notamment arbitrer entre temps de réponse, consommation de mémoire, coût et qualité sur la tâche visée. Le nombre de paramètres ne constitue pas un classement universel. La formulation des consignes, la qualité des documents transmis et les vérifications du résultat influencent également l’utilité d’un système, en particulier lorsqu’il manipule des informations confidentielles.