Moltiplicano gli strumenti sui costi di inferenza, i prezzi delle GPU restano opachi

L'ultimo contributo al dibattito sui costi di inferenza non è un annuncio di listino, ma un calcolatore. Il 23 settembre Flavio Copes ha pubblicato un Inference Cost Calculator che classifica 27 modelli di OpenAI, Anthropic, Google, xAI, Mistral, OpenRouter e Workers AI basandosi sugli stessi presupposti.

L'utente imposta gli utenti attivi giornalieri, le chiamate per utente, i token di input e output per chiamata e un eventuale tasso di hit della prompt cache. Lo strumento restituisce una bolletta mensile. Avverte però che i dati derivano dai prezzi API pubblicati e ignorano i prezzi batch, gli sconti enterprise, i supplementi per immagini o tool e qualsiasi livello di caching interno.

Questa avvertenza conta più della classifica.

Il benchmark che valuta un'ora di ragionamento

Il 26 settembre StarSkirmish ha pubblicato un confronto di costi diverso. Il benchmark dà a ogni LLM un'ora per scrivere in C++ un bot Protoss per StarCraft: Brood War. Poi fa giocare i bot tra loro e contro avversari umani. Il campo comprende 50 bot LLM da 10 modelli, più 3 bot dimostrativi e 9 bot competitivi umani, per un totale di 62 partecipanti, eseguiti su sandbox Prime Intellect.

Secondo la relazione del progetto, GPT-6 Astra e Claude Opus 5.5 sono appaiati in testa. GPT-6 Sol si colloca nettamente un gradino sopra gli altri. Il benchmark grafizza il punteggio rispetto al costo API medio di un'ora di esecuzione su scala logaritmica, indicando che GPT-6 Sol offre un rapporto qualità-prezzo eccezionale in quel confronto.

Qui il focus è sul costo per capacità, non sul costo per token. Gli autori ammettono un limite: i modelli di ragionamento all'avanguardia traggono beneficio da periodi di ragionamento superiori a un'ora, e sono previste versioni con esecuzione più lunga.

Perché i numeri pubblici sono difficili da verificare

Nessuna di queste fonti fornisce il prezzo di una GPU. Per questo, il dossier include un'indagine pubblicata il 20 settembre da Nexlab, che confronta orchestratori self-hosted come LocalAI, exo, GPUStack, vLLM, Ollama, Xinference e CoderAI. I conteggi delle stelle sono stati estratti dall'API di GitHub il 20 settembre. L'autore dichiara che dove una funzione non è confermata, la tabella lo indica invece di supporre.

Le distinzioni utili dell'indagine non riguardano il prezzo. Distingue se un modello può spanare su più macchine, se un turno successivo viene instradato dove risiede già la sua cache KV o di prefisso, e se il server può affittare una GPU autonomamente. vLLM, con 92.000 stelle in quell'istantanea, supporta il parallelismo tensoriale e di pipeline su Ray e il prefix caching per istanza. Ollama, con 181.000 stelle, gestisce una macchina e un modello alla volta, senza cluster oltre al round-robin di più URL dietro Open WebUI.

È l'hardware, non il software, a incidere sui costi. Il mercato fotovoltaico brasiliano non è una storia di AI, ma pv magazine ha riferito il 26 settembre che i prezzi medi dei sistemi fotovoltaici nel paese sono saliti del 7% tra gennaio e giugno 2026 per impianti fino a 300 kW, secondo lo studio Distributed Energy Solutions di Greener. I costi dei kit per sistemi da 4 kW sono aumentati del 18,3%, da BRL 1,42/W a BRL 1,68/W.

Materia prima diversa, stesso problema: il dato headline si muove perché si muovono i componenti.

Cosa dice la ricerca sul lato dell'output

Un altro tassello del quadro dei costi sta sul lato della domanda. Un paper inviato ad arXiv il 14 settembre e rivisto il 17 settembre, SlopShape, descrive uno strumento con 214 feature che rileva i contenuti web commerciali generati dall'AI dalle sole firme strutturali. Applicato da un LLM e validato contro annotazioni umane, ha raggiunto 98,0 di macro-F1 su aziende tenute fuori dal campione, e 98,1 quando ogni post AI è stato riscritto dal suo stesso modello. L'autore è Jochen Madler di Sitefire.

Un'inferenza più economica produce più testo. Rilevare quel testo è ormai un compito misurabile con un'accuratezza pubblicata, che rappresenta a sua volta un costo infrastrutturale.

Nessuna di queste fonti concorda su quanto dovrebbe costare l'inferenza, perché nessuna misura la stessa cosa. Il calcolatore misura una bolletta ipotetica. Il benchmark misura la capacità per ora di spesa API. L'indagine sugli orchestratori misura funzioni, non fatture. Qualsiasi cifra presa da sola va trattata come un'ipotesi di partenza.