Notion · Coûts et impact

Famille de modèles (choisir la taille)

Un fournisseur propose plusieurs tailles : un petit modèle rapide et peu cher, un moyen pour le quotidien, un grand pour les cas difficiles. Choisir le bon pour chaque tâche divise la facture sans perdre en qualité.

Comment ça marche

Chez chaque grand fournisseur, les modèles viennent en famille. Chez Anthropic, Haiku, Sonnet et Opus, du plus léger au plus puissant, avec des modes de raisonnement. Chez les autres, des gammes équivalentes. Ils partagent une base et diffèrent par la taille, donc par le coût, la vitesse et la finesse. Le petit excelle sur les tâches simples et répétitives. Le moyen couvre l’essentiel du quotidien. Le grand sert aux cas difficiles. Le raisonneur, aux problèmes à étapes.

Le réglage par défaut des outils est souvent le modèle le plus puissant, ou le plus moyen, pour tout. C’est confortable et coûteux. La bonne pratique est de choisir par tâche : classification et extraction au petit, rédaction courante au moyen, analyse complexe au grand, avec un routage automatique quand c’est possible. Chaque choix se vérifie sur un jeu de cas réels, et se revoit quand une nouvelle génération arrive.

Un exemple concret

ExempleLes quatre usages d’une entreprise de conseil, et leurs modèles
  1. Tri et classification des e-mails entrants : 3 000 par mois. Test : le petit modèle fait 97 % de bonnes classifications, le grand 98 %. Petit modèle. Coût divisé par quinze.
  2. Comptes rendus et rédaction courante : test à l’aveugle par les consultants : le modèle moyen jugé équivalent au grand dans 9 cas sur 10. Modèle moyen, le grand sur demande.
  3. Analyse de dossiers complexes et propositions stratégiques : quelques dizaines par mois. Le grand modèle fait une différence nette. Grand modèle, en raisonnement pour les cas qui le demandent.
  4. L’agent de code : le modèle moyen pour les tâches courantes, le grand pour les spécifications et les revues. Réglé dans la configuration de l’agent.

Avant, tout passait par le grand modèle. La facture a baissé de 70 %, et personne n’a vu de différence, sauf sur la vitesse, qui s’est améliorée.

Ce que ça change pour une équipe

  • La facture devient un réglage. Le bon modèle par tâche, c’est souvent la moitié ou plus de la dépense en moins.
  • Les réponses sont plus rapides. Les petits modèles répondent en une fraction de seconde. Pour les automatisations à volume, ça compte.
  • Les décisions se fondent sur des tests. Cinquante cas, deux modèles, une après-midi : la méthode est à la portée de tous.
  • Le vocabulaire des fournisseurs se décode. Quand une nouvelle génération sort, on sait quel rôle chaque modèle remplit, et quoi tester.

Les limites et les erreurs fréquentes

  • Le grand modèle par défaut. Par sécurité, par habitude, par réglage d’usine. C’est l’erreur la plus coûteuse et la plus facile à corriger.
  • Le petit modèle partout. L’économie poussée trop loin dégrade les tâches difficiles. On teste, tâche par tâche.
  • Choisir sur le nom. « Le plus récent » ou « le plus gros » ne veut rien dire pour votre usage. Le test, toujours.
  • Ne jamais revoir. Une nouvelle génération peut rendre le petit modèle aussi bon que l’ancien grand. Les choix se réévaluent à chaque sortie importante.

Pour aller plus loin

Les familles (par exemple Haiku, Sonnet, Opus chez Anthropic) partagent un entraînement et diffèrent par la taille et le coût. Le routage par tâche, mesuré par des évaluations, est le levier FinOps le plus simple.

Où ça se situe chez Opora

Programme 01 · Mieux utiliserUn usage responsable et sobre de l’IA

Choisir la taille de modèle adaptée à chaque tâche, en mesurant, c’est le levier d’économie le plus simple que nous mettons en place dans le programme Un usage responsable.

Voir le programme

Questions fréquentes

Pourquoi plusieurs tailles ?

Parce que les besoins diffèrent. Un petit modèle répond vite et coûte peu, parfait pour classer ou extraire. Un grand modèle raisonne mieux, rédige plus finement, coûte dix à vingt fois plus. Un modèle de raisonnement prend du temps pour les problèmes complexes. Une famille, c’est le même savoir-faire décliné en plusieurs compromis.

Comment savoir si le petit modèle suffit ?

En testant : une cinquantaine de cas réels, les deux modèles, et on compare. Si le petit fait aussi bien sur 95 % des cas, on le prend, et on route les 5 % restants vers le grand. L’intuition est mauvaise conseillère ici : on surestime presque toujours le besoin.

Les noms changent sans arrêt, comment s’y retrouver ?

En raisonnant par rôle plutôt que par nom : le rapide et peu cher, le quotidien, le puissant, le raisonneur. Chaque fournisseur a ces quatre rôles sous des noms qui changent à chaque génération. On choisit le rôle, puis le nom du moment.

Relions ce sujetà votre situation.

Venez avec une situation de travail. Regardons ensemble ce qui peut évoluer : une pratique, une équipe, un outil.