Fenêtre de contexte (context window)

Comment ça marche

Un modèle de langage lit tout ce qu’on lui donne en une fois : vos messages, ses réponses précédentes, les documents collés, les résultats d’outils. Cette lecture a une taille maximale, mesurée en tokens : c’est la fenêtre de contexte. Au-delà, ça ne rentre plus. Selon les modèles, elle va de quelques dizaines de pages à plusieurs centaines.

Deux choses en découlent. D’abord, une conversation qui s’allonge finit par remplir la fenêtre ; l’outil coupe ou résume le début, et le modèle perd des informations. Ensuite, plus la fenêtre est remplie, moins le modèle est précis : il retrouve moins bien un détail noyé au milieu, et il coûte plus cher à chaque échange, puisque tout est relu à chaque fois. Une fenêtre large est une capacité, pas une invitation à tout y mettre.

Un exemple concret

1. 9 h : une consultante ouvre une conversation pour préparer une proposition. Elle colle le cahier des charges, 30 pages, et donne ses consignes : ton, structure, ce qu’il ne faut pas promettre.
2. 11 h : la proposition avance bien. Elle enchaîne dans la même conversation sur un autre sujet : relire un contrat, 20 pages.
3. 15 h : elle revient à la proposition. L’assistant a oublié deux de ses consignes et confond un point du contrat avec le cahier des charges. La fenêtre est pleine, le début a été résumé.
4. Ce qu’elle fait maintenant : une conversation par sujet. Quand une conversation s’allonge, elle demande un résumé des décisions prises, le colle dans une nouvelle conversation, et repart propre.

Le même assistant, la même journée, des résultats différents. Seule l’organisation a changé.

Ce que ça change pour une équipe

• Une tâche, une conversation. C’est la règle d’hygiène la plus rentable : elle évite les confusions et garde le modèle précis.
• On choisit ce qu’on donne. Pour une question sur un chapitre, on colle le chapitre, pas le livre. Le modèle répond mieux, plus vite, et ça coûte moins.
• Les gros documents se traitent autrement. Au-delà de ce que la fenêtre peut lire correctement, on découpe, on résume par parties, ou on passe par un système qui retrouve les passages utiles, le RAG.
• Les consignes permanentes vont ailleurs. Plutôt que de répéter ses règles dans chaque conversation, on les met dans un fichier de consignes ou un agent personnalisé, qui les réinjecte proprement.

Les limites et les erreurs fréquentes

• Tout coller par précaution. Dix documents « au cas où » : le modèle se perd, la réponse se dégrade, et la facture monte. Donner ce qui sert.
• Une conversation qui dure des semaines. Elle finit par ne plus rien savoir de ses débuts, en silence. Résumer et repartir.
• Confondre fenêtre et mémoire. La fenêtre, c’est ce que le modèle lit maintenant. La mémoire de l’assistant, quand elle existe, ce sont des notes réinjectées. Ni l’une ni l’autre n’est un apprentissage.
• Croire les chiffres annoncés. Un modèle qui accepte 500 pages ne les lit pas toutes avec la même attention. La qualité se teste sur des questions précises posées sur le milieu du document.