Comment fonctionnent les accélérateurs d'IA : cœurs, clusters et mémoire

SiFive conçoit des cœurs CPU RISC-V pour les puces d'IA d'autres entreprises depuis plusieurs années. La société commercialise désormais une conception d'accélérateur complète. Chaque cluster Intelligence XM associe quatre cœurs RISC-V de la série X à un moteur de calcul matriciel propriétaire, indique The Register.

C'est un changement. Les unités de traitement tensoriel de Google utilisent déjà les cœurs X280 de SiFive pour alimenter leurs unités de multiplication matricielle. John Ronco, de SiFive UK, a précisé à The Register que les conceptions de la société sous-tendent également les cœurs CPU de l'accélérateur Blackhole de Tenstorrent. La différence tient au fait que SiFive intègre désormais son propre moteur matriciel, au lieu de rattacher ses cœurs à celui d'un tiers.

Ce que disent les chiffres, et ce qu'ils ne disent pas

Chaque cluster gère jusqu'à 1TB/sec de bande passante mémoire via une interface de hub cohérente. Il devrait délivrer jusqu'à 16 TOPS en INT8 ou 8 teraFLOPS en BF16 par gigahertz. Cette référence au gigahertz est importante car un cluster n'est pas une puce. Les performances dépendent du nombre de clusters placés sur le die, de leur câblage, des composants adjacents et de la fréquence d'horloge finale.

Ronco prévoit que la plupart des conceptions utiliseront quatre à huit clusters. À 1GHz, cela correspondrait à 4 à 8TB/sec de bande passante mémoire de pointe et 32 à 64 teraFLOPS en BF16. Les supports produit de SiFive suggèrent qu'il est possible d'atteindre 512 clusters. À 1GHz, cela représenterait environ quatre pétaFLOPS en BF16, dépassant les 2,5 pétaFLOPS annoncés par Nvidia pour ses GPU Blackwell haut de gamme. Pour comparaison, une Nvidia H100 délivre près d'un pétaFLOPS en BF16 dense.

Le problème est physique. Maintenir 1GHz sur 512 clusters sans atteindre les limites thermiques ou de puissance reste une question ouverte. Ronco s'est montré prudent quant à l'échelle maximale atteignable. Il estime également que les clusters ne seront pas largement utilisés pour l'entraînement des modèles d'IA. SiFive annonce la publication d'une implémentation de référence open source de sa SiFive Kernel Library.

La bande passante mémoire, goulot d'étranglement récurrent

Les accélérateurs sont conçus ainsi car l'inférence, notamment la phase de décodage, est limitée par la mémoire. d-Matrix, lors de sa présentation à Hot Chips 2026, a résumé le problème : 64 utilisateurs avec un contexte de 1M peuvent générer environ 935GB de KV cache. Sa conception Raptor empile un die logique TSMC N4 sur de la DRAM 3D, avec un empilement face à face de 36 micromètres à 32GB par carte, et un rack de 72 cartes dimensionné pour les modèles de frontière.

Rebellions a présenté une autre approche à Hot Chips 2025. Son REBEL-Quad intègre quatre ASIC de calcul et quatre sites HBM3E pour 144GB de mémoire sur un package Samsung SF4X et CoWoS-S, utilisant UCIe-A comme interconnexion de chiplets. ServeTheHome a observé Llama 3.3 70B tourner sur une carte de développement à 35,5 millisecondes en moyenne par token de sortie.

Fournisseurs, packaging et pression en amont

Rien de tout cela ne peut être expédié sans matériaux de packaging. Tom's Hardware rapportait en mars 2026 que Nittobo contrôle environ 90% de l'offre mondiale de T-glass, le tissu de verre à faible CTE utilisé dans les cœurs de substrats IC. Les prix ont augmenté de 20 à 30%, et les délais de livraison des laminés cuivrés dépassent 20 semaines, contre 8 à 10 en temps normal. Nittobo triple la capacité de son usine de Fukushima, mais la nouvelle production n'atteindra pas le marché avant mi-2027. Bank of America estime que le segment des matériaux électroniques verra ses ventes presque doubler, passant de 40,9 milliards de yens en 2025 à 87,7 milliards de yens d'ici mars 2028.

La dimension politique est tout aussi complexe. TSMC aurait rompu ses liens avec le concepteur chinois Sophgo en octobre 2024, après qu'un client a commandé une puce ressemblant à l'Ascend 910B de Huawei. Sophgo a nié toute relation avec Huawei et affirmé avoir soumis un rapport d'enquête à TSMC.