tokens

Économiser des tokens : le compteur dit 45 %, la facture 2 %

Un compteur intégré à l'outil ne peut pas mesurer l'économie de l'outil : il ne voit ni le contrefactuel, ni le cache, ni les retries. Mesuré contre ma facture, le gain réel de quatre outils de compression tombe entre 0 et 15 %, pendant que le cache read, lui, pèse 97 % des tokens et relit chaque token ~36 fois.