Fine-tuning

Comment ça marche

Un modèle de langage arrive avec des connaissances générales et une façon de répondre générale. Le fine-tuning consiste à lui faire suivre un entraînement court, supplémentaire, sur vos propres exemples : des paires question-réponse, des documents et leur résumé attendu, des e-mails et la bonne classification. Le modèle ajuste ses paramètres pour reproduire ce que montrent les exemples.

Le résultat est un modèle qui répond dans votre format, votre ton, votre vocabulaire, sans qu’on ait à le lui expliquer à chaque demande. C’est puissant pour les tâches répétitives et bien définies. C’est inutile, voire contre-productif, pour lui apprendre des faits qui changent : pour ça, on lui donne les documents au moment de la question, c’est le RAG.

Un exemple concret

1. Le besoin : classer chaque déclaration de sinistre reçue par e-mail dans l’une de 40 catégories internes, avec un vocabulaire maison que les modèles généraux ne connaissent pas.
2. Première approche : un grand modèle avec une consigne de trois pages décrivant les 40 catégories. Ça marche à 82 %, c’est lent, et chaque requête coûte cher à cause de la consigne.
3. Fine-tuning : 2 500 déclarations passées, déjà classées par les gestionnaires, servent d’exemples. Un petit modèle ouvert est ajusté dessus, en une nuit, sur une machine du courtier.
4. Résultat : 94 % de bonnes classifications, une consigne de deux lignes, des réponses instantanées, et aucune donnée qui sort.

Le travail a été de constituer et de nettoyer les 2 500 exemples. L’entraînement lui-même a pris une nuit.

Ce que ça change pour une équipe

• Les tâches répétitives deviennent très fiables. Classification, extraction dans un format précis, rédaction dans un style imposé : là où un modèle général plafonne, un modèle ajusté excelle.
• Les coûts baissent. Plus de longue consigne à chaque requête, et souvent un petit modèle suffit. Le prix par requête peut être divisé par dix ou plus.
• Le savoir-faire se capitalise. Les exemples qui servent à l’ajustement sont une description précise de la façon dont l’entreprise travaille. Ils ont de la valeur en eux-mêmes.
• Tout peut rester en interne. L’ajustement d’un modèle ouvert se fait sur une machine de l’entreprise ou chez un hébergeur choisi. Le modèle ajusté vous appartient.

Les limites et les erreurs fréquentes

• Vouloir apprendre des faits au modèle. Le catalogue, les tarifs, les procédures changent. Un modèle ajusté sur eux est obsolète dès la première mise à jour. Pour les faits, RAG.
• Des exemples de mauvaise qualité. Le modèle reproduit tout, y compris les erreurs et les incohérences des exemples. Le nettoyage n’est pas optionnel.
• Ajuster avant d’avoir essayé plus simple. Une consigne bien écrite avec des exemples règle beaucoup de cas. Le fine-tuning se justifie quand on a mesuré que ça ne suffit pas.
• Oublier l’évaluation. Sans jeu de test mis de côté, impossible de savoir si le modèle ajusté est meilleur, ou s’il a juste appris par cœur les exemples.