1.5张卡换一张B300：PCIe集群如何实现6.87倍吞吐提升

AI竞赛的焦点正在转移。过去大家问“谁买了最好的硬件”，现在问的是“谁把现有硬件用得更好”。中国媒体量子位（qbitai）报道了是石科技（METASTONE）的工作。八张显卡仅靠PCIe总线连接，卡间没有高速互连。团队在这套配置上运行DeepSeek-V4.1-Flash，取得的加速效果远超常规优化。

起点是标准的社区版部署方案。在同一硬件上，输入吞吐量为每秒1932个token。第一阶段优化包括补充缺失的计算内核、替换较慢的FP8内核以及扩大快速通信路径的范围，吞吐量升至每秒5850个token。第二阶段实施注意力算子融合，将计算与通信重叠，并为预填充和生成阶段分别采用不同的并行策略，最终达到每秒13274个token。在最长一百万token的上下文下，整体提升6.87倍。

同一方法，其他模型也有效

METASTONE表示该方法具有更广泛的适用性。在DeepSeek-V4-Flash上，输入吞吐量从每秒14546个token提升至22584个token，即1.55倍。GLM5.3从每秒3236.78个token提升至6222.72个token（1.92倍），首token的P95延迟从141.6秒降至46.6秒，支持的上下文长度从27万token增至105万token。公司还指出，该方法在国产加速器上同样有效。这些芯片与PCIe卡类似，均未列入主流框架的官方支持矩阵。

背后是公司的算力基础。根据METASTONE的数据，其管理超过2万P算力，运营十余个AI计算中心和两个国家超算中心，集群可用性SLA宣称高于99.95%。团队曾三次获得戈登·贝尔奖。

与旗舰卡的差距

客观对比的结果不如“七倍提升”的标题那样震撼。在相同负载点，一张B300的输入吞吐量约为八卡PCIe机器的4.9至5.6倍。在单图生视频任务中，若额外使用LoRA，优势缩小至一张B300相当于1.5至1.7台机器。廉价显卡无法追平顶级硬件，但差距已不再是鸿沟。

未被列入框架支持矩阵的显卡，并未因此失去算力。它损失的算力，被保守的默认配置消耗了。

对中国以外的读者而言，结论很实际。自建硬件上的大多数部署，都是在非旗舰卡上运行vLLM或SGLang服务器。真正的价值不在于增加显卡，而在于工程优化：正确的计算内核、与链路实际带宽匹配的通信方式，以及预填充和生成阶段各自不同的并行策略。DeepSeek-V4.1-Flash拥有5520亿参数，采用MoE架构，以MIT许可证开放，是此类实验的理想平台。该模型每token的KV cache仅为890字节，约为V4-Flash的四分之一。