Economia dell'inferenza: Anthropic spende 7,33 mld in calcolo, Sonnet 5.5 consuma più token di altri modelli

Il 29 settembre Artificial Analysis ha pubblicato la valutazione di Claude Sonnet 5.5 di Anthropic. Al massimo sforzo, il modello utilizza circa 193.000 token di output per attività dell'Intelligence Index. Si tratta del consumo più alto mai registrato dalla società di test, circa sette volte quello di GPT-6 Astra alla stessa intensità. Non è un round di finanziamento né il lancio di un chip, ma una misurazione che arriva in concomitanza con la più grande comunicazione sui costi dell'anno nel settore.

Il prospetto IPO di Anthropic, riportato per primo da Reuters e ripreso da CNBC e TradingView il 28 e 29 settembre, mostra che l'azienda ha speso 7,33 miliardi di dollari in calcolo e infrastrutture l'anno scorso, più della metà dei 12,65 miliardi di spese operative totali. Sono previsti inoltre 518 miliardi di dollari di obblighi futuri per cloud, calcolo e infrastrutture. Il prezzo per token è diventato lo standard per confrontare i modelli. Artificial Analysis nota che Anthropic ha fissato il prezzo di Sonnet 5.5 identico a quello di Sonnet 5: 2 dollari per milione di token in input e 10 dollari per milione in output, in linea con GPT-6 Sol. Secondo la stessa valutazione, il modello costa circa 7,60 dollari per attività, circa il 50% in più rispetto a Sonnet 5, semplicemente perché emette più token per raggiungere punteggi comparabili.

Il consumo di token è la variabile di costo che nessuno prezza al banco

Al massimo sforzo, dove raggiunge prestazioni vicine a quelle di Opus 5.5, Claude Sonnet 5.5 ha usato circa 193.000 token di output per attività dell'Intelligence Index. È il consumo di token più alto che abbiamo misurato.

Artificial Analysis segnala una riserva: le valutazioni sono state eseguite su una distribuzione pre-release con un bug che interessava gli output strutturati, corretto per la versione pubblica. La società prevede di ripetere i test rilevanti. Sonnet 5.5 ottiene 56 punti sull'Intelligence Index, due punti dietro Opus 5.5 al massimo sforzo, e raggiunge il 64% su Terminal-Bench 4.0 contro il 60% di Opus 5.5 e GPT-6 Astra.

Intanto il costo per servire quel traffico continua a crescere. Secondo un post su getunblocked.com datato 29 settembre, l'azienda instrada il traffico del modello open-weight GLM 5.2 tra Baseten, Fireworks e CoreWeave, scoprendo che i prezzi di listino di CoreWeave sono circa il 45% più bassi di quelli di Baseten. Il router adattivo pesa il costo a 0,7 e la velocità a 0,3, sulla logica che il modello è identico indipendentemente dal provider. Il post è schietto sulla configurazione precedente: una distribuzione round-robin inviava il 51% delle attività a Fireworks, a prezzi più alti del 25% rispetto a Baseten, senza alcun vantaggio.

La memoria è dove vanno i soldi

Sul fronte hardware la pressione non si è allentata. Yahoo Finance ha riferito il 30 settembre che il nuovo CEO di Apple, John Ternus, pianifica licenziamenti su piccola scala in grandi team e la cancellazione di progetti, citando un report di Bloomberg, mentre i costi della memoria si fanno sentire. L'articolo cita l'amministratore delegato uscente Tim Cook, che nella sua ultima call sugli utili ha descritto un'alluvione centenaria sui prezzi della memoria, con aumenti esponenziali. Apple aveva già diffuso a fine luglio previsioni di ricavi caute perché non riusciva a procurarsi abbastanza chip di memoria.

Lo stesso articolo rileva che SK Hynix, Samsung Electronics e Micron hanno in gran parte esaurito la capacità premium di memoria per l'AI per buona parte del 2026, mentre Nvidia, Microsoft, Amazon e Meta costruiscono infrastrutture per l'AI. L'offerta dovrebbe restare limitata fino al 2027. È lo sfondo su cui va letta ogni proiezione sui costi di inferenza: non conta solo quanti token emette un modello, ma quanto costa la memoria all'interno del cluster che lo serve.

Il documento depositato da Anthropic, come riportato da Reuters, mette la domanda in termini netti. I ricavi sono cresciuti di dodici volte nel 2025 fino a quasi 4,6 miliardi di dollari, ma l'azienda ha registrato una perdita netta di 42 miliardi di dollari, inclusi circa 34 miliardi di oneri contabili legati all'aumento del valore stimato di finanziamenti convertibili in azioni. Ha anche avvertito che quasi un quarto dei ricavi proviene da due clienti e che molti dei suoi maggiori clienti non sono vincolati da contratti di lungo periodo.

Una questione di prezzo senza risposta netta

Il divario tra i prezzi di listino per token e il costo reale per attività non è un dettaglio contabile da poco. Artificial Analysis colloca Sonnet 5.5 fuori dalla frontiera di Pareto tra Intelligenza e Costo per attività, con le impostazioni di sforzo più basse dietro configurazioni di GPT-6 Sol che offrono prestazioni equivalenti con meno token di output. L'impostazione ad alto sforzo è descritta come molto vicina a GPT-6 Sol per intelligenza, a un costo per attività praticamente identico.

Altre fonti del dossier puntano nella stessa direzione, anche se non riguardano direttamente l'inferenza. Un post del 29 settembre su flaviocopes.com confronta le commissioni dei fornitori di pagamento su un mese da 10.000 dollari e trova aliquote effettive tra il 3,5% e il 6% per tutti tranne Gumroad al 14,5%. È un promemoria di quanto il confronto apparente tra prezzi dipenda dall'unità scelta: una commissione fissa di 0,40 dollari è lo 0,8% di un ordine da 50 dollari e il 4% di un ordine da 10 dollari.

Resta aperta la domanda se il prezzo dell'inferenza seguirà lo stesso schema. Il prospetto di Anthropic delinea un'azienda che scommette sul fatto che la scala piegherà la curva dei costi, mentre i suoi stessi modelli rendono più caro servire le attività. Secondo quanto riportato in precedenza da Reuters, citando fonti, l'IPO sarà probabilmente rinviata a dopo le elezioni di midterm statunitensi di novembre, con una valutazione attesa oltre i 2.000 miliardi di dollari, più del doppio della stima di 965 miliardi di dollari fatta dall'azienda stessa a maggio.

Gli investitori che valuteranno quel numero dovranno soppesare due documenti pubblicati a un giorno di distanza: un prospetto che mostra 518 miliardi di dollari di impegni infrastrutturali futuri e un benchmark che mostra come il più recente modello di fascia media dell'azienda usi più token di output di qualsiasi altro misurato in precedenza. Nessuno dei due è fatale da solo. Insieme inquadrano la domanda che il settore dell'AI ha evitato per due anni: quanto costa davvero completare un'attività.