Troisième volet de la grande recomposition de l'industrie logicielle par l'IA générative. Après "Quand le SaaS devient trop cher pour être irremplaçable" et "L'ESN, devant la mort du jour-homme", nous allons nous intéresser au "token". Ce concept étrange de découpage des LLMs pour vectorialiser nos connaissances, qui reflète d'une certaine façon le coût de traitement, est en train de devenir une unité de mesure des coûts.

Voici donc un billet sur l'infrastructure et le FinOps des tokens. Une facture illisible de l'IA où la discipline reste à inventer pour sa gouvernance.

Le choix du mot FinOps, n'est d'ailleurs pas un hasard. C'est la bonne nouvelle de ceux qui savent copier-coller. Car cette discipline de gestion des coûts existe déjà. On a dû en poser quelques pierres pour maîtriser les coûts du Cloud, quand on est passé d'infrastructures propriétaires à des infrastructures louées.

Uber a consommé son budget IA de l'année en quatre mois.

Les coupables, ce sont les outils de code agentiques, comme Claude Code ou Cursor, qui sont utilisés chaque mois par 95 % de ses 5.000 ingénieurs. En juin, Bloomberg révèle leur parade : un plafond de 1.500 dollars par outil, par mois et par salarié, avec une procédure de dérogation. Intéressant de voir que l'IA augmente le coût de l'ingénieur, si on augmente sa productivité. C'est même devenu une question à l'embauche des meilleurs : quel est mon package IA ?

Mais le plus instructif n'est pas le plafond. C'est l'aveu du directeur des opérations, Andrew Macdonald. Il dit qu'il est "très difficile de tracer une ligne" entre ces statistiques d'usage et le fait de produire réellement "25 % de fonctionnalités utiles en plus" pour les clients. Bienvenue dans un monde probabiliste ! Remarquez le Cloud nous en avait déjà donné un avant-goût.
On ne sait au dollar près ce que l'on consomme, qu'une fois consommé. Et pire, on ne sait pas toujours ce que cela rapporte.

GreenSI avait décrit le coût des tokens comme un angle mort budgétaire. C'est ce que l'on dit quand on se trouve pour la première fois dans la situation de la DSI d'Uber. Puis, on réagit et on actualise sa vision : le token ne doit plus être un angle mort, mais un compteur. Il doit s'afficher sur chaque facture, dans chaque console d'administration, parfois même dans des classements internes.

Mais il reste ensuite à savoir le lire. Car un compteur mal lu produit deux pathologies opposées :

• la panique, qui plafonne à l'aveugle. Donc forcément elle détruit autant d'opportunités qu'elle n'empêche de catastrophes,
• ou la course, qui prend la consommation pour de la productivité. C'est ce qui est arrivé à Amazon qui raconte avoir mis un compteur pour chaque agent IA développé par un salarié. A priori plus on en a, plus on est productif en leur confiant de petites choses. Vrai ? Eh bien non !
  Car l'humain est joueur. La nature humaine peut vouloir juste monter dans les classements, en créant le plus grand nombre d'agents, même s'ils sont tous inutiles…

La Silicon Valley a connu les deux pathologies en un semestre que nous allons revivre avec la presse spécialisée.

Au printemps, avec les nouvelles versions à la puissance impressionnante, c'est la course. Disney installe un tableau de bord qui classe ses salariés par requêtes et par tokens. Selon Business Insider, l'un d'eux totalise environ 460.000 requêtes Claude en neuf jours. Amazon vise plus de 80 % de développeurs utilisant l'IA chaque semaine, et le Financial Times raconte que des agents sont créés pour rien, juste pour grimper au classement interne.

Le mot tokenmaxxing est né : consommer devient une performance !

Mais avec l'été, la facture trimestrielle arrive. Or les fournisseurs de modèles LLM avaient sifflé la fin du forfait dès l'été 2025 et basculaient en paiement au token une fois le plafond dépassé. Comme on dit parfois, la première dose n'est jamais gratuite très longtemps…

Dans ce contexte les factures flambent. Meta supprime ses classements et instaure des budgets par division. Le New York Times évoque des centaines de millions de dollars dépensés chaque mois chez Anthropic. Adam Mosseri, patron d'Instagram, résume avec beaucoup d'humour : "Ce n'est pas si difficile de construire un incinérateur de jetons, mais cela ne crée pas beaucoup de valeur." 😉

En août, c'est l'âge de raison avec le rationnement. Un mémo de Jay Parikh, VP exécutif de Microsoft, révélé par 404 Media, fixe la nouvelle ligne : "La maximisation des tokens n'est pas ce que nous visons". Ce qui compte, écrit-il, ce sont les résultats pour les clients et pour l'entreprise. Enfin !

Pendant ce temps, chez les éditeurs, on change (occasionnellement en douce) d'unité de facturation. C'est sans doute le point le plus structurant pour un DSI en France, car cela va influencer ses coûts de run à partir de maintenant.

Depuis le 1er juin, GitHub décompte Copilot en "AI Credits" consommés au jeton (token) : crédits inclus dans chaque licence et mutualisés, budgets par centre de coût ou par utilisateur, choix entre dépassement facturé et plafond strict. C'est la carte carburant, livrée par l'éditeur, dont parlait GreenSI dans son dernier billet. Salesforce, quand à lui, est passé en moins d'un an de 2 dollars la conversation (actions illimités) à 0,10 dollar l'action. Intercom facture 0,99 dollar chaque demande résolue sans humain, SAP vend des "AI Units" prépayées en complément de ses licences. Chaque éditeur bat donc désormais sa propre monnaie, sans taux de change !

Pourquoi ce compteur est-il si difficile à lire ? Pour trois raisons que chaque DSI va rencontrer :

• Le prix baisse, la facture monte. À performance égale, le prix du token a été divisé par dix chaque année entre 2021 et 2024, selon a16z (identifié en 2024).
• Dans le même temps, la dépense des entreprises en IA générative a plus que triplé entre 2024 et 2025, de 11,5 à 37 milliards de dollars selon Menlo Ventures.
  Gartner parle de "paradoxe de l'inférence" : confier une tâche à un modèle de raisonnement agentique multiplie au moins par cinq son coût d'inférence.
• Enfin, la mesure devient l'objectif. C'est la loi de Goodhart, bien connue des contrôleurs de gestion. Quand une mesure devient un objectif, elle cesse d'être une bonne mesure. Les agents inutiles d'Amazon en sont l'illustration parfaite.

L'IA est entrée en run sans le pilotage qui va avec !

La part des budgets d'innovation dans les dépenses en modèles de langage est tombée de 25 % à 7 % en un an. Le POC c'est fini. En 2026, l'inférence, c'est-à-dire l'usage des modèles, devrait peser 55 % des dépenses d'infrastructure cloud dédiée à l'IA (Gartner). Nvidia ne s'y est pas trompé avec ses cartes maintenant dédiées à l'inférence. Or une dépense récurrente ne se pilote pas avec les réflexes d'un POC.

Il reste le piège le plus subtil : ne mesurer que le coût.

Dans un billet précédent de 2025, GreenSI détaillait le cas de Klarna qui montrait déjà les limites des agents. Klarna avait fait passer le coût par transaction de son service client de 0,32 à 0,19 dollar, son assistant IA faisant le travail de 700 conseillers. Puis l'entreprise es trevenue en arrière et a recruté de nouveau des humains. Son PDG reconnaissant devant Bloomberg que le coût avait été un critère "trop prédominant", pour "une qualité plus faible". Si un ROI ne tient qu'en supprimant la supervision humaine, c'est que la supervision était décorative, ou que le ROI est faux.

Alors comment poser le problème de la gouvernance des tokens ?

Faut-il pour autant un "comité de pilotage des tokens" et ne prendre que des décisions documentées ?
GreenSI n'y croit pas pour autoriser avant d'engager la dépense, mais plus pour analyser après coût et régulièrement les dépenses.

Et surtout, la discipline qui reste à inventer existe peut-être déjà : c'est celle que l'industrie applique aux matières premières volatiles. Le token se gère comme une matière première, pas comme une licence. D'où l'image de la "carte carburant".

Toute facture d'IA se décompose en trois facteurs : volume × intensité × prix.

• Le volume (dossiers, tickets ou contrats traités) appartient au métier. C'est son succès, à condition que la valeur suive.
• L'intensité (tokens ou crédits consommés par transaction) appartient à la DSI. Elle dépend de l'architecture : taille des contextes, agents qui bouclent, choix du modèle.
• Le prix (euros par token ou par crédit) appartient aux achats. Il dépend du contrat : tarif, dépassement, monnaie de l'éditeur.

L'intensité multipliée par le prix donne le seul indicateur que les trois peuvent partager : le coût par résultat métier. Celui que le VP de Microsoft appelle de ses vœux.

Les contrôleurs de gestion y reconnaîtront l'analyse des écarts (effet volume, effet rendement, effet prix), appliquée à une nouvelle unité. À noter que l'intensité étant un coût par transaction elle intègre bien une logique métier, en plus du coût de la complexité. On combine donc bien les trois responsabilités.

Prenons un cas fictif, mais réaliste : une banque fait pré-analyser ses dossiers de crédit par une IA. Elle en traite 10.000 par mois (le volume), chaque dossier consomme 50.000 tokens (l'intensité), facturés 10 euros le million (le prix). La facture mensuelle s'élève à 5.000 euros, et le coût par dossier de crédit à 5.000 ÷ 10.000 = 0,50 euro, soit aussi 50.000 tokens × 10 euros par million. La facture divisée par le volume ou l'intensité multipliée par le prix : c'est le même indicateur.

Le mois suivant, la facture passe à 7 500 euros. Mauvaise nouvelle ?

Tout dépend du facteur qui a bougé :

• Si la banque a traité 15.000 dossiers, c'est un succès du métier, et le coût par dossier n'a pas changé.
• Si le volume est resté stable, mais que chaque dossier consomme 75 000 tokens, parce que le contexte transmis au modèle a grossi de moitié, c'est un sujet d'architecture pour la DSI.
• Si le tarif est passé à 15 euros le million au renouvellement, c'est un sujet pour les achats.

Voici comment une même facture conduit à trois diagnostics et a trois propriétaires.

Dernier raffinement : si seuls 80 % des dossiers aboutissent sans reprise humaine, le coût par dossier abouti monte à 0,625 euro (5.000 ÷ 8.000). C'est ainsi que la qualité entre dans l'équation. Cela va être essentiel pour intégrer les agents IA dans les processus humains car leur taux d'erreur peut-être très différent.

Alors comment démarrer une gouvernance du token sans construire une usine à gaz ?

Où regarder ?
Le token coule par trois pompes, chacune avec son compteur.

• Les appels directs aux modèles, depuis vos applications et vos agents.
  Le compteur est technique : une passerelle unique (AI gateway) qui identifie l'appelant, applique les quotas et oriente chaque requête vers le bon modèle. Les agents y passent avec leur propre identité : pas de token sans identité. La gouvernance des identités non humaines revient par la porte des coûts.
• Les crédits intégrés aux SaaS (Copilot, Agentforce, Joule…), que la passerelle ne voit pas.
  Le compteur est contractuel : export détaillé de la consommation (le standard FOCUS sait traiter ces monnaies virtuelles), plafonds réels sans recharge automatique, tarif de dépassement négocié avant signature. Les achats y négocient la prévisibilité plus que le prix unitaire.
• Les abonnements individuels, qui peuvent être passés en note de frais...
  Selon Najar dans IT for Business, éditeur de gestion des SaaS (source donc intéressée), 93 % de l'usage des principaux outils d'IA se ferait hors contrat. Même à moitié vrai, c'est un sujet !

Quoi mesurer ?
En creusant les retours de presse du marché américain qui a été confronté au problème en premier (les derniers outils IA ne sont pas déployés en France), GreenSI identifie cinq indicateurs intéressants :

1. La dépense par cas d'usage, ni par modèle ni par utilisateur.
2. Le coût par résultat métier, toujours accompagné d'un indicateur de qualité. C'est la leçon de Klarna.
3. L'intensité et sa dérive. En run, la dérive sournoise ne vient pas du volume, qui se voit mais de l'intensité qui grimpe sans bruit : contextes qui grossissent, agents qui bouclent, montées de version, ...
4. La concentration des coûts sur une population homogène. Selon The Information, un ingénieur d'Uber consommait en moyenne 150 à 250 dollars par mois, quand les plus gros étaient de 500 à 2.000. Quelques utilisateurs font la facture : des seuils bien penséss valent mieux qu'un plafond uniforme.
5. Les crédits achetés versus les crédits consommés. L'inutilisé est du gaspillage, le dépassement une prévision ratée. Les éditeurs l'ont compris et poussent des forfaits que l'on utilise pas en entier de peur de dépasser.

Après avoir identifié ces trois pompes, il faut ouvrir un registre des cas d'usages. L'application ne suffit plus pour suivre les coûts. Chacun aura un propriétaire métier, un responsable applicatif DSI et un acheteur. Pour chaque cas d'usage, faire en amont, une fiche avec trois exigences permettant le suivi :

• Une baseline mesurée avant le test, sans laquelle aucun ROI n'est démontrable après.
• Des critères d'arrêt écrits dès l'entrée. NB: Gartner prévoit l'abandon de plus de 40 % des projets d'IA agentique d'ici fin 2027 !
• Un ROI recalculé au prix catalogue, car beaucoup de pilotes tournent sur des crédits offerts : si le ROI s'effondre, c'était une offre commerciale, pas un business case.

Ces éléments ne sont qu'un éclairage du sujet bien sûr. Mais ils montrent qu'il est temps de passer à la gouvernance du run de l'IA. Nous ne sommes plus en POC. Avec le run, le token est sorti de l'ombre. La gouvernance tient maintenant dans une seule équation, mais elle a trois porteurs, ce qui n'est jamais simple à gouverner. A vous de jouer !