AI 加速器：无人计入成本的封装瓶颈，以及押注绕开 HBM 的初创公司

Nittobo 的 T-glass 是一种低热膨胀系数玻璃布，用于 IC 载板的有机芯层，即芯片与印刷电路板之间的互连层。据 Tom's Hardware 报道，该公司占据全球约 90% 的市场份额。需求远超供给，导致覆铜板的下游交期从正常的 8 到 10 周延长至 20 周以上，价格上涨了 20% 到 30%。

这一数字的重要性常被低估。每一代 AI 加速器都采用更大的中介层和更复杂的载板，单颗芯片的材料消耗量随之增加。Tom's Hardware 引用的 Nvidia 数据显示，Hopper 的中介层面积为 814mm²，Blackwell 为 1,700mm²，增幅达 109%，Rubin 和 Feynman 还将继续扩大。供应端难以快速响应：T-glass 需要在 1,600 至 1,700°C 下运行的电熔炉。Nittobo 正将福岛工厂的产能扩大三倍，但新增产量要到 2027 年年中才能进入市场。

该报道引用的分析师指出，替代方案难以实现。Yole Group 的 Bilal Hachemi 告诉 Tom's Hardware，替代 T-glass 并不容易，因为其特定的介电常数和热膨胀系数值非常适合 AI 芯片，尤其是有机芯层。元大证券分析师 Bill Ho 表示，供应商已完全停止报价交期。美国银行的 Takashi Enomoto 预计，Nittobo 的电子材料销售额将从 2025 年的 409 亿日元（2.66 亿美元）几乎翻倍，到 2028 年 3 月达到 877 亿日元，营业利润率接近 48%。

一个细节尤为突出。Hachemi 称，Nvidia 直接向上游材料供应商采购，在该产业链中尚属首次。如果最大买家率先锁定产能，其他厂商只能在剩余部分中谈判。

内存带宽是另一堵墙

封装收紧的同时，加速器设计者正就内存展开争论。据 ServeTheHome 报道，在 Hot Chips 2026 上，d-Matrix 展示了 Raptor。这款加速器将台积电 N4 逻辑裸片通过 36 微米面对面堆叠在 3D DRAM 裸片之上。其核心理念是，SRAM 和 HBM 单独均无法胜任推理：SRAM 带宽高但容量小；HBM 容量大，却受限于引脚速度、堆叠层数和封装边缘面积。d-Matrix 指出，HBM4 封装的实际带宽上限约为 20 TB/s。

带宽伴随着功耗成本。ServeTheHome 的文章指出，HBM 的能耗为 2.4 pJ/bit，意味着 100 TB/s 的带宽在 fabric 流量之前就会消耗约 1.92 kW。垂直 3D IO 的能耗约为 0.3 到 0.4 pJ，低约十倍，因为其路径为毫米级，而非厘米级的中介层走线。

d-Matrix 的数据具体且枯燥。每个张量引擎每次访问需要 128B 的 flit，但 256 个通道上的 32B bank 在扣除备用后每通道仅剩 3 个 bank，每次访问返回 96B。两次访问取回 192B 才能交付 128B，在接近 33 TB/s 时浪费约 33% 的带宽。该公司的解决方案是流式分块，将一次部分访问分摊到三个 flit 上，使 384B 输入对应 384B 输出，过量读取降至零。在每卡 32GB、4 位权重和 8 位 KV 缓存的配置下，d-Matrix 表示，72 卡的 scale-up 集群可承载 1M 上下文的前沿模型。

Chiplet 与 RISC-V 授权模式的转变

封装限制和内存取舍正推动厂商采用不同的集成策略。据 ServeTheHome 报道，Rebellions 在 Hot Chips 2025 上展示了 REBEL-Quad：包含四颗计算 ASIC、四个 HBM3E 位点（共 144GB），以及作为裸片间互连的 UCIe-A，基于三星 SF4X 和 CoWoS-S 工艺。该卡支持双 PCIe Gen5 x16，公司在开发板上演示了 Llama 3.3 70B，平均每个输出 token 耗时 35.5 毫秒。

ServeTheHome 指出，选择 PCIe 与 Nvidia 转向 Gen6 的趋势相比显得格格不入，但现场演示更具意义：一颗基于 UCIe 的芯片在公开场合运行，这本身就十分罕见。在计算方面，SiFive 已从向其他公司的 AI 芯片授权 RISC-V CPU 核，转向销售自研加速器设计。The Register 在 2024 年 9 月 19 日报道，SiFive 的 Intelligence XM 集群将四颗 Intelligence X CPU 核与自研矩阵数学引擎配对，每个集群最高提供 1TB/sec 内存带宽，每 GHz 最高 16 TOPS 的 INT8 或 8 teraFLOPS 的 BF16。

SiFive 英国业务高级副总裁兼总经理 John Ronco 告诉 The Register，部分客户仍希望拥有自有硬件，另一些则寻求一站式方案。他预计基于该设计制造的大多数芯片将使用四到八个集群。他对扩展规模持谨慎态度，尽管公司幻灯片显示 512 个集群是可行的。作为参照，Nvidia 顶级 Blackwell 部件标称 2.5 petaFLOPS 的 BF16 性能。

SiFive 已为谷歌张量处理单元和 Tenstorrent Blackhole 提供 RISC-V 设计。CEO Patrick Little 在一份预先准备的声明中称，公司为“七巨头”中的五家供货。The Register 指出，这一说法可能并非全部与 AI 相关。

制裁不断重绘地图

供应链也在被出口管制重塑。The Register 在 2024 年 10 月 28 日报道，台积电据称切断了与中国设计公司 Sophgo 的合作，怀疑其试图向华为供应元件。路透社援引两名知情人士的消息，指认下单那颗类似华为昇腾 910B 芯片的客户。Sophgo 否认与华为有任何直接或间接业务关系，并表示已向台积电提交详细调查报告。与 Sophgo 有关联的比特大陆称这些指控虚假且毫无根据。

The Register 指出比特大陆的记录并不干净：2021 年，检方突袭其台湾办公室，指控两家关联公司试图非法招募台湾工程师。台积电在 2020 年依据美国规定停止与华为的业务往来。

据该报道，华为昇腾 910B 标称 320 teraFLOPS 的 FP16 或 640 teraFLOPS 的 Int8 性能，大致与 Nvidia 四年前的 A100 相当。虽然比当前前沿产品慢，但可获得。在出口上限不断收紧的背景下，这一点至关重要。