Notion · Les bases
SLM (petit modèle de langage)
Un modèle de langage compact, qui tourne sur un ordinateur portable ou un serveur modeste. Moins brillant qu’un grand modèle, mais rapide, peu coûteux et facile à garder en interne.
Comment ça marche
Un petit modèle de langage fonctionne comme un grand, avec moins de paramètres : quelques milliards au lieu de quelques centaines. Il tient dans quelques gigaoctets, tourne sur un portable ou une petite carte graphique, et répond en une fraction de seconde. Il sait moins de choses et raisonne moins bien, mais sur les tâches courantes, bien cadrées, il fait l’essentiel.
Son intérêt pour une entreprise tient en trois points. Le local : il tourne sur place, sans que les données sortent, sur du matériel courant. Le coût : nul à l’usage une fois installé, ou très bas via API. La vitesse : pour une automatisation qui traite des milliers de documents, la différence entre une seconde et dix compte. Et avec un ajustement sur vos exemples, un petit modèle devient excellent sur sa tâche. Il se choisit par test, comme les autres, et se combine souvent à un grand modèle pour les cas difficiles.
Un exemple concret
- La tâche : classer 600 courriers par jour, numérisés, en 15 catégories, et extraire l’expéditeur et l’objet. Données personnelles, donc traitement en interne obligatoire.
- Le modèle : un SLM de 4 milliards de paramètres, ajusté sur 3 000 courriers passés déjà classés, sur un serveur de la collectivité.
- Les résultats : 95 % de classifications correctes, une demi-seconde par courrier, aucune donnée hors du réseau. Le grand modèle testé en comparaison, en ligne, faisait 96 % : exclu de toute façon pour les données.
- L’escalade : les 5 % incertains, signalés par le modèle, vont à un agent humain. Les cas complexes ne vont jamais à un grand modèle externe.
- Le coût : le serveur, déjà présent, et une journée d’ajustement du modèle. Rien à l’usage.
Un petit modèle, ajusté sur la tâche, a fait mieux que ce qu’on attendait, sur un matériel qui existait déjà.
Ce que ça change pour une équipe
- Le local devient facile. Un petit modèle tourne partout, y compris sur le portable d’un dirigeant, sans configuration lourde.
- Les tâches en volume deviennent gratuites. Classer, extraire, trier des milliers de documents : pas de facture à l’usage.
- L’ajustement est accessible. Un petit modèle s’ajuste sur quelques milliers d’exemples en une journée, sur une machine raisonnable.
- Le routage trouve son outil. Le petit modèle pour le volume, le grand pour les cas rares : l’architecture type d’une automatisation économe.
Les limites et les erreurs fréquentes
- Lui demander ce qu’il ne sait pas faire. Un petit modèle qui doit rédiger une proposition commerciale ou raisonner sur un contrat décevra. Tâches ciblées.
- Oublier l’escalade. Un petit modèle sans sortie « incertain » se trompe en silence sur ce qui le dépasse. Il doit pouvoir passer la main.
- Choisir sur la taille seule. Deux SLM de même taille peuvent différer beaucoup selon leur entraînement et leur langue. Le test sur vos cas.
- Figer le choix. Les petits modèles progressent plus vite que les grands. Celui d’il y a six mois est déjà dépassé.
Pour aller plus loin
On parle de SLM en dessous de quelques milliards à une dizaine de milliards de paramètres. Souvent obtenus par distillation, ils excellent sur des tâches ciblées (classification, extraction) après un ajustement, et conviennent aux déploiements locaux.
Où ça se situe chez Opora
Programme 03 · Garder la maîtriseL’IA chez vous, sans que vos données sortent
Mettre un petit modèle au travail sur des tâches ciblées, en interne, et mesurer ce qu’il vaut, c’est un des exercices du programme Garder la maîtrise.
Questions fréquentes
À partir de quand un modèle est-il « petit » ?
Il n’y a pas de frontière officielle. On parle de SLM en dessous d’une dizaine de milliards de paramètres, parfois beaucoup moins : des modèles de un à quatre milliards tournent sur un téléphone. L’idée est un modèle qui tient sur du matériel courant et répond vite.
Un petit modèle peut-il remplacer un grand ?
Sur des tâches ciblées, souvent : classer, extraire, résumer, répondre sur des documents fournis. Sur le raisonnement complexe, la rédaction fine ou les connaissances générales, non. Un petit modèle ajusté sur une tâche précise bat parfois un grand modèle général sur cette tâche ; il ne le bat pas sur tout.
Pourquoi les fournisseurs en publient-ils ?
Parce qu’ils répondent à un besoin : tourner en local, sur des appareils, à faible coût et faible latence. Ils sont souvent obtenus par distillation d’un grand modèle. Chaque grande famille a maintenant ses petits modèles, ouverts ou non.