Non-déterminisme

Comment ça marche

Un programme classique est déterministe : la même entrée donne toujours la même sortie. Un modèle de langage ne l’est pas. Il produit chaque mot en tirant parmi les mots probables, et ce tirage varie. La température règle l’ampleur du hasard, mais même au minimum, des variations subsistent. Et un changement minime dans la demande, un mot, une virgule, peut faire basculer la réponse.

Pour un usage de conversation, c’est sans importance, voire agréable. Pour une automatisation ou un agent, c’est une donnée de conception. On ne peut pas supposer que ce qui a marché une fois marchera toujours. On impose des formats, on vérifie les sorties, on prévoit les cas où le résultat n’est pas celui attendu, et on mesure la fiabilité par des taux sur des jeux de test. Un système fiable construit avec un composant non déterministe, c’est possible, à condition de l’avoir prévu.

Un exemple concret

1. Le départ : une automatisation extrait les montants de bons de commande et les écrit dans un tableur. Testée sur dix bons, dix réussites. Mise en production.
2. Trois semaines plus tard : sur 400 bons traités, 11 montants faux. Les mêmes bons, repassés, donnent parfois le bon montant, parfois non. L’équipe ne comprend pas.
3. L’explication : la température était au réglage par défaut, et la consigne demandait « le montant » sans préciser hors taxe ou toutes taxes. Sur les bons ambigus, le modèle tirait l’un ou l’autre.
4. La correction : température à zéro, consigne précisant le montant hors taxe, sortie structurée avec un champ pour chaque montant, et un contrôle : si la différence entre les deux montants ne correspond pas à un taux de TVA connu, le bon est signalé.
5. Après : 2 erreurs sur 400, toutes signalées par le contrôle avant d’entrer dans le tableur.

Le test initial sur dix bons n’avait mesuré qu’une chance. La fiabilité se mesure sur des centaines, et se construit avec des contrôles.

Ce que ça change pour une équipe

• Les tests deviennent statistiques. Un taux sur un jeu de cas, répété, remplace l’essai unique.
• Les contrôles font partie du système. Format imposé, cohérence vérifiée, cas douteux signalés : la variation est attrapée avant de nuire.
• Les réglages comptent. Température basse et consignes précises pour tout ce qui est structuré.
• La vérification humaine garde sa place. Là où une erreur coûte, le non-déterminisme justifie à lui seul un regard humain.

Les limites et les erreurs fréquentes

• Généraliser un essai. « Ça a marché » sur trois cas ne dit rien. Le jeu de test, plusieurs passages, un taux.
• Ignorer les mises à jour. Un modèle mis à jour par le fournisseur répond différemment. Les tests se rejouent.
• Laisser le texte libre entre deux étapes. Chaque étape réinterprète une sortie variable. Les formats structurés stabilisent la chaîne.
• Chercher le déterminisme parfait. Il n’existe pas. On conçoit pour la variation, et on met le déterminisme là où il existe : dans les règles classiques autour du modèle.