Le fine-tuning est le processus qui consiste à prendre un modèle déjà entraîné sur un énorme corpus généraliste et à poursuivre son entraînement sur un jeu de données plus restreint, spécifique à votre tâche. Vous ne construisez pas de l'intelligence à partir de zéro — vous orientez les poids d'un modèle existant vers votre distribution particulière d'entrées et les sorties que vous voulez obtenir.Concrètement, vous fournissez au processus d'entraînement un ensemble de paires entrée/sortie (« quand le prompt ressemble à ceci, réponds comme cela »), et la descente de gradient ajuste les poids pour que le modèle reproduise ces cibles. Le fine-tuning pratique d'aujourd'hui est le plus souvent économe en paramètres — LoRA et consorts — qui gèle les poids de base et entraîne à la place un petit ensemble de matrices d'adaptation. J'ai fait un doctorat en IA et je vous dirai quand même la vérité peu glamour : 90 % du travail, c'est le jeu de données, pas l'algorithme. Quelques centaines d'exemples propres et cohérents battent dix mille exemples bruités à tous les coups.Le bénéfice qui compte pour celui qui surveille ses coûts est le suivant : une fois qu'un modèle a intériorisé votre format ou votre domaine, vous n'avez plus à le réexpliquer dans chaque prompt. Les instructions migrent du context window vers les poids, et votre prompt par requête devient plus court.
Pourquoi le fine-tuning compte pour le coût en tokens en 2026
Pour les agents de code, la dépense dominante n'est pas la question ponctuelle astucieuse — c'est le même échafaudage expédié à chaque tour. Guides de style, schémas de sortie, « réponds toujours dans cette forme JSON », un mur de conventions dans votre CLAUDE.md. Chacune de ces lignes est retokenisée et refacturée à chaque requête. Au tarif d'Opus 4.8 de 5 $ par million de tokens en entrée, un préambule de 4 000 tokens répété sur une journée de travail agentique grimpe plus vite que les gens ne l'imaginent.Le fine-tuning est l'un des leviers contre cela : intégrez les instructions récurrentes dans un modèle et vous cessez de les payer en entrée. C'est le cousin structurel du prompt caching, qui attaque la même répétition côté inférence plutôt que côté entraînement. Les deux réduisent ce que vous renvoyez ; le fine-tuning déplace simplement la connaissance de façon permanente.Cela dit, je veux être honnête sur le périmètre. Le fine-tuning enseigne le comportement et la forme — le ton, la structure, la façon de mapper une entrée vers une sortie. Il n'enseigne pas de manière fiable des faits, et c'est un mauvais outil pour « connaître votre base de code ». Pour cela, vous voulez de la récupération, pas du réentraînement : le semantic code search et le RAG tirent les fragments pertinents au moment de la requête, de sorte que le modèle raisonne sur du code actuel plutôt que sur un instantané périmé gelé dans les poids il y a des mois. La plupart des économies de tokens que les équipes recherchent proviennent en réalité d'une meilleure récupération et du context engineering, pas du fine-tuning du tout.
Quand NE PAS l'utiliser
Votre connaissance change souvent. Une base de code, un site de documentation, une grille tarifaire — tout ce qui se met à jour chaque semaine ne doit pas être intégré aux poids. La récupération le garde frais ; le fine-tuning le gèle.
Vous n'avez pas d'abord épuisé le prompting. Un bon system prompt accompagné de quelques exemples in-context résout une part étonnante des demandes « il nous faut du fine-tuning », sans aucun run d'entraînement ni nouveau modèle à héberger.
Vous avez moins de ≈ 50 exemples solides. En dessous, le modèle surapprend les particularités de votre petit jeu de données et devient moins bon, pas meilleur.
Vous courez après l'exactitude factuelle. Le fine-tuning n'empêchera pas les hallucinations sur vos données ; ancrer le modèle avec du RAG le fera.
Le surcoût récurrent est structurel, pas comportemental. Si le ballonnement est « l'agent n'arrête pas de lire des fichiers entiers et de déverser des logs de commandes », un modèle sur mesure ne le corrigera pas — l'output filtering et la récupération le feront.
Comment Tokenade s'intègre
Tokenade attaque la même facture par le côté économique, sans run d'entraînement requis. Il se place devant votre agent — Claude Code, Cursor, Codex, Copilot, Windsurf — et coupe les tokens grâce au semantic code search, à l'output filtering, à la skeleton compression et au chargement paresseux des MCP, avec un dashboard pour voir exactement ce que vous avez économisé. Pour la plupart des équipes, c'est là que se trouvent les premiers 60–90 % d'économies, bien avant que le fine-tuning n'en vaille la peine. C'est source-available (MIT), gratuit jusqu'à ≈ 10M de tokens par mois, et Pro est à 19,90 $/mois (hors taxes) avec postes illimités. Tournez-vous vers le fine-tuning quand vous avez mesuré un comportement véritablement répétitif qui mérite d'être distillé — et appuyez-vous sur la récupération et le filtrage pour tout le reste.