I conti dell'IPO di Anthropic e i licenziamenti in Apple: quanto costa l'inferenza

Due notizie sono arrivate a distanza di un giorno. Descrivono la stessa pressione da due angoli opposti. Il prospetto di Anthropic, visionato da Reuters, impegna l'azienda a 518 miliardi di dollari per cloud, calcolo e infrastrutture nei prossimi anni. Apple, secondo un rapporto Bloomberg di mercoledì, pianifica licenziamenti su piccola scala e la cancellazione di progetti sotto la guida del nuovo amministratore delegato John Ternus.

I numeri di Anthropic sono nei documenti esaminati da Reuters. Nel 2025 i ricavi sono cresciuti di 12 volte, raggiungendo quasi 4,6 miliardi di dollari. L'azienda ha registrato una perdita operativa superiore a 8 miliardi e ha speso 7,33 miliardi in calcolo e infrastrutture l'anno scorso: il triplo rispetto al 2024 e più della metà dei 12,65 miliardi di spese operative totali. Al 31 dicembre disponeva di 20,28 miliardi tra liquidità, equivalenti e investimenti a breve termine.

La perdita non è tutta in contanti.

Circa 34 dei quasi 42 miliardi di perdita netta derivano da un onere contabile legato all'aumento del valore stimato di finanziamenti convertibili in azioni Anthropic. Non si tratta di denaro speso per gestire l'attività. Due clienti hanno generato quasi un quarto dei ricavi l'anno scorso, e il prospetto avverte che molti grandi clienti non sono vincolati da contratti di lungo periodo.

La memoria è il vincolo principale

Il problema di Apple è più comune e, per chi acquista hardware per l'IA, più istruttivo. A fine luglio l'azienda ha fornito una guidance sui ricavi prudente perché non riusciva a reperire abbastanza chip di memoria, mentre i margini subivano la pressione dei prezzi più alti. Nella sua ultima chiamata sui risultati, l'allora amministratore delegato Tim Cook ha parlato di una "piena secolare sui prezzi della memoria, con aumenti esponenziali". Yahoo Finance ha riferito che Ternus vuole evitare ulteriori rincari nel 2027 se la penuria continuerà.

Questa penuria ha una causa: la domanda di memoria ad alta banda e DRAM avanzata per inferenza e addestramento. Yahoo Finance osserva che SK Hynix, Samsung Electronics e Micron hanno esaurito in gran parte la capacità di memoria premium per l'IA per buona parte del 2026, con Nvidia, Microsoft, Amazon e Meta che se la contendono. I fornitori si aspettano un'offerta limitata fino al 2027.

Il costo per servire un modello non è quindi solo una questione di software. È una questione di allocazione della memoria, e Apple ora la paga in termini di organico.

Quanto costa davvero un token

Artificial Analysis ha misurato Claude Sonnet 5.5 di Anthropic rispetto al proprio indice. Il modello raggiunge 56 punti, due dietro Opus 5.5 al massimo sforzo, con prezzi di listino identici a Sonnet 5: 2 dollari per milione di token in ingresso e 10 dollari per milione in uscita. Il problema è il consumo di token. Al massimo sforzo, il modello ha consumato circa 193.000 token in uscita per compito dell'Intelligence Index, il valore più alto misurato dall'azienda: circa il 60% in più di Opus 5.5 al massimo e circa sette volte GPT-6 Astra al massimo. Il costo per compito si aggira intorno a 7,60 dollari, circa il 50% in più di Sonnet 5.

Prezzi per token più bassi non significano automaticamente compiti più economici, motivo per cui il routing è diventato una disciplina a sé. Unblocked, che gestisce carichi di lavoro per agenti, ha descritto come ha spostato il traffico di GLM 5.2 tra Baseten, Fireworks e CoreWeave usando un router adattivo che sceglie un fornitore per ogni richiesta in base a costo e velocità misurati. Con il round-robin, Fireworks ha servito il 51% dei compiti a prezzi superiori del 25% rispetto a Baseten. Un ordine fisso ha spinto Baseten al 98,5%. CoreWeave ha listini circa il 45% sotto quelli di Baseten, ma l'azienda non aveva dati sulle prestazioni per collocarlo.

Il lato della fatturazione ha la sua aritmetica. Flaviocopes ha calcolato quanto costano 10.000 dollari di vendite mensili con 200 ordini da 50 dollari: Stripe trattiene 350 dollari, Creem 470, Paddle 600 e Gumroad 1.450. L'autore dichiara che Creem sponsorizza il sito e afferma che ogni commissione è stata verificata sulle pagine dei prezzi dei fornitori il 29 settembre.

I produttori di hardware inseguono la stessa curva

Ultium Cells, la joint venture di GM per le batterie, ha annunciato martedì che il suo impianto di Spring Hill, in Tennessee, sarà il primo al mondo a produrre in massa celle prismatiche LMR. Secondo l'azienda, offrono una densità energetica superiore del 33% rispetto alle LFP a costi comparabili. Gli aggiornamenti inizieranno più avanti quest'anno e si concluderanno entro il 2028, aggiungendo 500 posti di lavoro. Il primo veicolo con celle LMR è atteso nel 2028.

MaxLinear ha fatto un ragionamento simile sui costi per il networking. Il suo chip DOCSIS Puma 9, annunciato il 29 settembre, supporta DOCSIS 3.1, 3.1+ e 4.0 e, secondo l'azienda, riduce i costi delle apparecchiature presso il cliente dal 30% al 50% rispetto al predecessore. Aggiunge il supporto Wi-Fi 8 e opzioni di memoria DDR5, mentre l'offerta di DDR4 si stringe. I modem basati su questo chip sono attesi nel 2027.

Due note tecniche più piccole vanno nella stessa direzione. Bitdrift ha pubblicato blob-stream, un'alternativa a Kafka progettata per eliminare il traffico di rete tra zone di disponibilità e i broker stateless, sostenendo che i costi tra zone di disponibilità dominano le bollette dello streaming cloud. Radim Marek ha confrontato REPACK (CONCURRENTLY) di PostgreSQL 19 con pg_repack e pg_squeeze su un Hetzner ccx33 e un GCE n2-standard-4, scoprendo che la riscrittura online ha generato 18,8 GB di WAL contro i 33,5 GB di pg_repack sulla stessa tabella.

Niente di tutto questo rende economica l'inferenza. Rende leggibile la bolletta, che è un'altra cosa.