Coût d’un agent

Comment ça marche

Le coût d’un agent vient de trois multiplicateurs. Le nombre de tours de sa boucle : chaque action, chaque lecture, chaque vérification est un tour. La taille du contexte relu à chaque tour : la consigne, les outils décrits, l’historique, les fichiers lus, qui s’accumulent. Et le modèle utilisé, dont le prix par token varie de un à vingt. Une tâche de trente tours avec un contexte qui atteint cinquante mille tokens sur un grand modèle, c’est plus d’un million de tokens facturés.

Les leviers sont connus. Le cache : la consigne et la description des outils, identiques à chaque tour, se facturent à prix réduit. La compaction : résumer l’historique au lieu de le laisser grossir. Les sous-agents : déléguer les lectures volumineuses à des agents dont seul le résultat court revient. Le routage : un petit modèle pour les tours simples, le grand pour les décisions. Et le budget : un plafond par tâche, qui arrête les dérives. Avec ces leviers, le coût d’une tâche se divise souvent par cinq ou dix.

Un exemple concret

1. La tâche : lire un dossier de 30 documents, en extraire les engagements et les échéances, produire un tableau et une note.
2. Première version : un agent, le grand modèle, qui lit les 30 documents un par un dans son propre contexte. 45 tours, contexte final de 90 000 tokens, coût de la tâche : plusieurs euros. Et une qualité médiocre sur les derniers documents, le contexte étant saturé.
3. Seconde version : l’agent principal lance six sous-agents, chacun lisant cinq documents avec un modèle moyen et ne renvoyant qu’un tableau d’extractions. Le principal, sur un contexte de 8 000 tokens, assemble et rédige. Cache activé sur les consignes. Plafond : 300 000 tokens par tâche.
4. Résultat : coût divisé par huit, durée divisée par trois grâce au parallélisme, et une meilleure qualité d’extraction sur tous les documents.

Même modèle pour la synthèse finale, même résultat attendu. La différence est entièrement dans l’architecture du contexte.

Ce que ça change pour une équipe

• Le budget devient un paramètre de conception. Plafond par tâche, modèle par rôle, taille de contexte visée : des choix faits avant de lancer.
• Les tâches longues restent abordables. Avec sous-agents, cache et compaction, une analyse de dossier coûte des centimes, pas des euros.
• Les dérives sont arrêtées. Un plafond atteint est un signal : la tâche était mal cadrée, ou l’agent tournait en rond.
• Le suivi est par tâche. Le tableau de bord montre le coût moyen et les cas aberrants, et les cas aberrants s’expliquent.

Les limites et les erreurs fréquentes

• Pas de plafond. L’agent qui insiste sur une tâche impossible consomme jusqu’à ce qu’on le remarque sur la facture.
• Tout lire dans un seul contexte. C’est à la fois le plus cher et le moins bon. Déléguer les lectures.
• Le grand modèle pour chaque tour. Les tours de lecture et de vérification se contentent d’un modèle moyen. Le grand modèle décide et rédige.
• Ne pas mesurer. Dix tâches réelles, leur coût, leur nombre de tours : c’est la base. Sans elle, le plafond est au hasard et les optimisations à l’aveugle.