Notion · Les bases
Entraînement
La phase pendant laquelle un modèle apprend à partir d’exemples. Utiliser un modèle pour obtenir une réponse est une autre opération ; vos données ne servent pas automatiquement à l’entraîner, cela dépend du service et du contrat.
Comment ça marche
L’entraînement, c’est la fabrication du modèle. On part d’une architecture aux paramètres aléatoires, on lui présente des quantités gigantesques de texte, et à chaque exemple on ajuste légèrement les paramètres pour que le modèle prédise mieux la suite. Des milliards de fois. À la fin, le modèle a capturé les régularités du langage et une grande part des connaissances contenues dans ses données. Puis vient l’alignement, qui lui apprend à suivre des consignes et à se comporter en assistant.
Cette opération se fait une fois, chez le fournisseur, et le modèle est ensuite figé. C’est ce qui explique trois choses. Le modèle sait ce qu’il y avait dans ses données, jusqu’à une date, et rien d’autre. Ses biais viennent de ces données. Et l’utiliser ne le modifie pas : vos questions ne lui apprennent rien, sauf si le fournisseur décide d’inclure vos échanges dans un entraînement futur, ce que les conditions encadrent.
Un exemple concret
- Question d’un commercial : « Pourquoi l’assistant ne connaît pas notre nouveau produit alors que je lui en ai parlé hier ? » Parce qu’hier était une conversation ; aujourd’hui en est une autre, et le modèle n’a rien appris entre les deux. Pour qu’il le sache, il faut le lui dire à chaque fois, ou le mettre dans un document de référence.
- Question du juriste : « Peut-il connaître la loi votée le mois dernier ? » Non, si elle est postérieure à sa date de coupure. Il faut lui fournir le texte.
- Question de la DRH : « Si je lui donne nos grilles de salaires, est-ce qu’il va les apprendre et les ressortir à quelqu’un d’autre ? » Pas le modèle utilisé, qui ne change pas. Mais le fournisseur peut utiliser les conversations pour un entraînement futur selon le plan : c’est ce qui est écrit dans les conditions, et c’est pour ça qu’on a pris un plan professionnel.
- Question du dirigeant : « Peut-on entraîner notre propre modèle ? » Pas de zéro : des centaines de millions d’euros. Ajuster un modèle existant sur nos exemples, oui, si un cas d’usage le justifie.
Quatre questions, quatre malentendus levés. Ils revenaient dans toutes les discussions depuis six mois.
Ce que ça change pour une équipe
- On sait ce que le modèle sait. Les connaissances générales jusqu’à une date ; rien sur l’entreprise, rien de récent, sauf ce qu’on lui fournit.
- Les attentes se règlent. On arrête d’attendre du modèle qu’il « retienne » ou qu’il « se mette à jour ». On lui donne le contexte.
- La question des données se pose au bon endroit. Ce n’est pas le modèle qui apprend vos données ; c’est le contrat qui dit si le fournisseur peut s’en servir.
- Le fine-tuning se comprend. Ajuster un modèle sur vos exemples est un petit entraînement supplémentaire, ciblé, accessible.
Les limites et les erreurs fréquentes
- Croire que le modèle apprend en conversant. Il ne retient rien. La mémoire et les consignes sont des mécanismes de l’application, pas de l’entraînement.
- Attendre les faits récents. Tout ce qui est postérieur à la coupure est inconnu, et le modèle complète volontiers avec du plausible.
- Confondre entraînement et usage de vos données. Le modèle utilisé ne change pas ; mais vos échanges peuvent nourrir le prochain, selon les conditions. On lit les conditions.
- Rêver d’entraîner son propre modèle. Hors de portée ; le fine-tuning et le RAG couvrent les besoins réels d’une entreprise.
Pour aller plus loin
L’entraînement optimise une fonction de perte en ajustant les paramètres. Il peut comprendre un préentraînement, puis des étapes d’adaptation et d’alignement. Les politiques de réutilisation des données doivent être vérifiées pour chaque fournisseur.
Où ça se situe chez Opora
Programme 01 · Mieux utiliserUn usage responsable et sobre de l’IA
Comprendre que le modèle a appris une fois, sur des données qui ne sont pas les vôtres, c’est la base pour savoir ce qu’on peut en attendre, dans le programme Un usage responsable.
Questions fréquentes
Quand j’utilise un modèle, est-ce que je l’entraîne ?
Non. Utiliser un modèle, c’est l’inférence : il calcule une réponse, et rien en lui ne change. L’entraînement est une opération séparée, massive, faite par le fournisseur. Vos conversations peuvent servir à un entraînement futur si les conditions le permettent, mais ce n’est pas le modèle que vous utilisez qui apprend en direct.
Combien de temps et de moyens ça demande ?
Pour un grand modèle, des mois de calcul sur des dizaines de milliers de processeurs spécialisés, et des investissements de centaines de millions d’euros. C’est pourquoi seuls quelques acteurs entraînent des modèles de fondation. Les entreprises, elles, utilisent ces modèles, et au plus les ajustent par fine-tuning sur quelques centaines d’exemples.
Pourquoi un modèle ne connaît-il pas les événements récents ?
Parce que son entraînement s’est arrêté à une date : la date de coupure des connaissances. Tout ce qui s’est passé après ne figure pas dans ses paramètres. Pour les faits récents, il faut lui fournir l’information, par un document, une recherche ou un RAG.