Fornitura di acceleratori AI: SiFive licenzia i design, il T-glass di Nittobo scarseggia

Per anni SiFive ha venduto core CPU RISC-V da affiancare ai motori di calcolo matriciale di altre aziende. A settembre 2024 ha fatto un passo verso la vendita dell'acceleratore completo. The Register ha riportato il 19 settembre che l'azienda ha annunciato la serie Intelligence XM, un design di cluster che i clienti possono licenziare, personalizzare e inviare in fabbrica.

Il cluster di base abbina quattro core CPU RISC-V Intelligence X a un motore di calcolo matriciale interno. Ogni cluster supporta fino a 1TB/sec di banda di memoria tramite un'interfaccia hub coerente. Secondo The Register, dovrebbe fornire fino a 16 TOPS di INT8 o 8 teraFLOPS di BF16 per gigahertz.

Questa formulazione per gigahertz è importante. Non si tratta di un chip finito. Le prestazioni reali dipendono da quanti cluster un cliente colloca su un die, da come sono collegati, da cosa condivide il silicio, dal budget di potenza e raffreddamento e dalla frequenza di clock finale.

John Ronco, SVP e GM di SiFive per il Regno Unito, ha dichiarato a The Register che la maggior parte dei chip basati su questo design userà tra quattro e otto cluster. Questo significherebbe una banda di memoria di picco da 4 a 8TB/sec e fino a 32-64 teraFLOPS di BF16 a 1GHz. La presentazione dell'azienda ipotizza 512 cluster: un chip arriverebbe vicino a 4 petaFLOPS di calcolo matriciale BF16, contro i 2,5 petaFLOPS delle GPU Blackwell di punta di Nvidia. Ronco è stato esitante nel dire fino a che punto il design sia scalabile.

Ronco si aspetta anche che i cluster non vengano usati ampiamente per l'addestramento AI. L'inferenza è un problema limitato dalla banda di memoria, ed è lì che punta SiFive. L'azienda ha dichiarato che pubblicherà un'implementazione di riferimento open source della SiFive Kernel Library per abbassare le barriere all'adozione di RISC-V.

Il collo di bottiglia del packaging che nessuno guarda

Tom's Hardware ha riportato a marzo 2026 che Nittobo, un'azienda giapponese, controlla circa il 90% della fornitura globale di T-glass, un tessuto in fibra di vetro a basso CTE usato nel core organico dei substrati per IC. Il T-glass mantiene dimensionalmente stabili i package grandi e caldi, ed è il materiale preferito per il packaging 2.5D e 3D.

La domanda ha superato l'offerta. Nittobo sta triplicando la capacità del suo impianto di Fukushima, ma Tom's Hardware afferma che la nuova produzione non arriverà sul mercato prima della metà del 2027. I prezzi sono saliti tra il 20% e il 30%, e i tempi di consegna per materiali a valle come i laminati rivestiti in rame si sono allungati dalle normali 8-10 settimane a oltre 20.

"Con l'offerta di T-glass ancora più limitata ora, i fornitori non indicano più tempi di consegna", ha detto Bill Ho, analista di Yuanta.

Bilal Hachemi, analista di Yole Group, ha detto a Tom's Hardware che sostituire il T-glass non è facile perché ha valori specifici di dielettrico e CTE adatti ai chip AI, soprattutto al core organico. Ha anche osservato che l'industria dei substrati per IC ha storicamente operato con margini sottili, quindi anche aumenti modesti della domanda possono innescare carenze.

Il problema del materiale cresce con i package stessi. Dati Nvidia citati da Tom's Hardware mostrano dimensioni dell'interposer che passano da 814mm2 per Hopper a 1.700mm2 per Blackwell, un aumento del 109%, con Rubin e Feynman attesi crescere ulteriormente. Bank of America stima che le vendite di materiali elettronici di Nittobo quasi raddoppieranno, da 40,9 miliardi di yen nel 2025 a 87,7 miliardi di yen entro marzo 2028.

Hachemi ha definito l'approccio diretto di Nvidia a un fornitore di materiali a monte senza precedenti in quella parte della catena di fornitura. Una volta che il maggiore acquirente blocca la capacità, i fornitori rivali di acceleratori competono per ciò che resta.

Esportazioni, proxy e la via di mezzo RISC-V

I design RISC-V sono anche impigliati nei controlli sulle esportazioni. The Register ha riportato il 28 ottobre 2024 che TSMC avrebbe interrotto le spedizioni al progettista cinese di chip Sophgo. L'accusa era di aver tentato di fornire componenti a Huawei in violazione delle sanzioni USA. Reuters, citando due persone a conoscenza della questione, ha indicato Sophgo come il cliente il cui ordine somigliava all'Ascend 910B di Huawei. Sophgo ha negato qualsiasi rapporto d'affari diretto o indiretto con Huawei e ha dichiarato di aver presentato a TSMC un rapporto di indagine dettagliato. Bitmain, un'azienda di apparecchiature per le criptovalute associata a Sophgo, ha anch'essa negato il coinvolgimento.

L'Ascend 910B di Huawei è all'incirca alla pari con l'A100 di Nvidia, vecchio di quattro anni, a 320 teraFLOPS di FP16 o 640 teraFLOPS di Int8, secondo The Register. TSMC ha smesso di fare affari con Huawei nel 2020 in base alle regole statunitensi.

Mettendo insieme i due fili, il mercato degli acceleratori per datacenter assomiglia meno a una corsa tra progettisti di chip e più a una coda. Capacità delle fab, materiale per i substrati e licenze di esportazione fanno tutti da cancello alle spedizioni, e nessuno di essi si muove alla velocità del silicio.