Il conto dell'AI arriva sempre

Parliamo di soldi. Più precisamente, parliano del momento in cui i CFO hanno iniziato a guardare le fatture degli strumenti AI per sviluppatori e a dire "aspetta, quanto?"

Non molto tempo fa, gli assistenti AI per il codice sembravano manna dal cielo. Il team sforna feature, i bug calano, e la bolletta mensile è quasi invisibile accanto ai costi di server e stipendi. Poi qualcuno ha fatto due conti e ha scoperto che quella bolletta "quasi invisibile" stava facendo un lavoro di immaginazione notevole.

A scale, quelle sottoscrizioni apparentemente ragionevoli diventano un problema serio. Quando i power user bruciano tra 500 e 2000 euro al mese solo in token, i budget evaporano più velocemente di quanto si possa pronunciare "sprint planning".

Il momento della resa dei conti

Le aziende tech stanno prendendo provvedimenti. Uber ha messo un tetto di 1500 dollari mensili per ogni ingegnere. Microsoft ha tolto le licenze di Claude Code ad alcune divisioni. TechCrunch ha raccontato la storia del "conto dei token che arriva". L'era del buffet illimitato di AI per programmare è ufficialmente finita.

Fai due calcoli: dieci ingegneri con un uso medio di strumenti AI significa tra 5.000 e 15.000 euro al mese. Non è nulla. E quando quel budget finisce il giorno 22 di uno sprint di 30 giorni, le opzioni sono poco allettanti: tutti si fermano, gli ingegneri tornano a scrivere codice a mano (prova a spiegarlo a uno junior), oppure... hai un piano B.

Ed è qui che le cose si fanno interessanti.

Perché guardare al locale

Ho dedicato del tempo quest'anno a esplorare cosa significherebbe far girare un agente di coding completamente su hardware locale. Non perché pensi che un portatile possa sostituire un modello frontier—sarebbe ridicolo—ma perché "abbastanza buono per le cose routine" ha un valore reale quando il budget cloud va in rosso.

L'idea è semplice: e se ogni team avesse un agente locale che gestisce il lavoro noioso e ripetitivo quando la bolletta cloud diventa un problema? Modifiche a file, generazione di boilerplate, scrittura di test, aggiornamento della documentazione. roba che non ha bisogno di una chiamata API da 20 euro per essere completata.

Per team con hardware moderno—soprattutto chi ha Mac con chip M-series e RAM adeguata—questo è più fattibile che mai. L'hardware lo possiedi già. I modelli sono gratuiti. L'unico costo è l'elettricità e il tempo per configurare tutto.

Cosa funziona davvero

Dopo aver testato qualche approccio, sono arrivato a una configurazione sorprendentemente funzionante: un agente di coding locale basato su Qwen3-Coder-30B che gira sul framework MLX di Apple. È altrettanto capace di Claude o GPT-4? No. Ma è gratuito, è veloce, e gira su hardware che avevo già in casa.

Il setup coinvolge tre componenti che parlano tra loro: l'agente stesso (qualcosa di leggero che legge file, fa modifiche, ed esegue comandi bash), un model server che gestisce l'inference, e i pesi del modello veri e propri. Qwen3-Coder-30B è un modello mixture-of-experts, il che significa che ha 30 miliardi di parametri totali ma ne attiva solo circa 3 miliardi per ogni token. Il risultato è prestazioni discrete a una frazione del costo computazionale—pensa a ottenere qualità da supercar a prezzi da bicicletta.

Su un MacBook Pro M4 Pro con 48 GB di RAM, questo setup gestisce i task routine senza problemi. Modifiche a file, piccoli refactor, generazione di test, code review per cambiamenti semplici. L'agente non architetterà i tuoi microservizi né risolverà sfide algoritmiche nuove, ma non è questo il punto. Il punto è gestire l'80% del lavoro che è noioso, non difficile.

Il vero valore

Quello che ha cambiato il mio modo di vedere le cose: un agente locale non riguarda il sostituire l'AI cloud. Riguarda l'assicurazione.

Quando il budget finisce a metà sprint, non vuoi che i tuoi ingegneri girino i pollici aspettando il primo del mese. Un fallback locale significa che le cose noiose continuano a muoversi. Gli senior possono fare il triage di cosa merita i token cloud. I junior possono restare produttivi sui task lineari. Il team non si ferma.

Cambia anche il modo di decidere quali task meritano attenzione cloud. Invece di "usa Claude per tutto", ottieni "usa AI cloud per i problemi difficili, usa AI locale per le cose routine". Su un team, questo sposta i consumi del budget in modi significativi.

Da dove partire

Se sei abbastanza tecnico da fare SSH su un server, sei abbastanza tecnico da configurare un agente locale. Gli strumenti sono maturati parecchio. Progetti come Ollama, LM Studio e il server MLX rendono sorprendentemente diretto far girare un modello capace in meno di un'ora.

L'investimento vero non è tecnico—è nel cambiare il mental model del team. Invece di trattare l'AI cloud come illimitata, la pianifichi. La metti a budget. E hai un'opzione locale quando il budget si esaurisce.

Per startup che guardano ogni euro e team enterprise dove i costi degli strumenti AI sono improvvisamente voci che devono essere giustificate, questo approccio ha senso. La tua bolletta AI cloud potrebbe essere 10.000 euro al mese oggi. Con un fallback locale che gestisce il lavoro routine, potresti portarla a 4.000 euro—e avere un piano di emergenza quando i provider cambiano i prezzi.

Il conto dei token arriva sempre. Meglio avere un piano che farsi trovare impreparati.