TokenTamer: il proxy che taglia le bollette dell'IA senza rompere nulla

Immagina di avere un agente IA (Aider, Cursor, Claude Code, quello che vuoi) che sputa fuori una richiesta da 100k token per compilare una funzione. Metà di quei token sono file che l'IA nemmeno guarda—intestazioni di librerie, implementazioni di funzioni ancillari, roba che il modello conosce già o non serve.

TokenTamer si inserisce tra il tuo agente e l'API come un portiere intelligente. Intercetta il payload, fa il parsing dell'AST del codice (cioè capisce la struttura), e comprime i file "background" in scheletri: mantiene le firme delle funzioni, gli import, la struttura delle classi, ma scarta le implementazioni. Boom. 15k token invece di 100k.

Setup? Ridicolo. È un drop-in: cambi l'API base URL del tuo agente, punti a http://127.0.0.1:8000 e via. Aider: aider --openai-api-base http://127.0.0.1:8000/v1. Per i tool più testardi (Claude Code, Codex) che non espongono il parametro, TokenTamer supporta anche l'intercettazione SSL — tocca fare un po' di magia con i certificati, ma niente di impossibile.

La bellezza: mentre il modello elabora meno token, tu vedi un dashboard in tempo reale che ti dice esattamente quanto stai risparmiando. Parliamo di $2.45 per request in meno. Moltiplicalo per 100 richieste al giorno e... beh, capisci.

Supporta Python nativamente (AST reale), JavaScript, TypeScript, Go, Rust, Java, C#—tutto quello che serve. Configurazione opzionale via yaml se vuoi customizzare cosa preservare (docstring, attributi di classe, etc). Zero latency overhead: la compressione avviene localmente in millisecondi.

La magagna? È ancora giovane (5 stelle su GitHub, ma parliamo di un side project), quindi expect di sbattere la testa su edge case. Non è un miracolo per codebases totalmente caotiche, ma per la maggior parte dei progetti reali funziona benissimo.