DeepSeek-V4.1-Flash：PCIe 显卡吞吐量提升近七倍

2026 年 9 月 24 日，QbitAI（量子位）发布了一篇实践报告，介绍了中国公司 METASTONE（是石科技）的工作。团队在由八块 GPU 组成的系统上运行 DeepSeek-V4.1-Flash。这些 GPU 仅通过 PCIe 连接，没有 NVLink，因此缺乏此类模型通常依赖的高速耦合。

起点与终点

作者给出的基准值为每秒 1.932 个 token 的输入吞吐量。第一轮优化包括内核修正、为基于 sparse attention 的预处理选择更快的路径、更换 FP8 dense GEMM 内核以及加速 PCIe IPC 路径。随后，吞吐量达到每秒 5.850 个 token。团队进一步实施了 attention 算子融合、缩短推测解码中的草稿、计算与通信重叠以及显存参数调整。系统最终达到每秒 13.274 个 token，约为起始值的 6.87 倍。据报告称，最高一百万 token 的上下文长度得以保持。

对比测量表明这不是孤例。DeepSeek-V4-Flash 的输入吞吐量从每秒 14.546 个 token 升至 22.584 个 token，倍数为 1.55。模型 GLM 5.3 从每秒 3.236,78 个 token 提升至 6.222,72 个 token。

为什么这对德国有意义

这份报告涉及两个层面。首先是技术层面：当模型运行在没有高速互连的硬件上时，性能损失的很大一部分并非源于硬件本身，而是源于显存与通信路径。优化这些路径带来的收益是倍数级的，而非百分点级的。

第二个层面涉及运营。DeepSeek-V4.1-Flash 于 2026 年 9 月 10 日发布，采用 Mixture-of-Experts 结构，共 5520 亿参数，prefill 阶段激活 80 亿参数，decode 阶段激活 160 亿参数。KV-Cache 为每个 token 890 Byte，约为 V4-Flash 数值的四分之一。该模型采用 MIT 许可证，可处理每张图最多 384 token 的图像，支持通过 vLLM、SGLang 或 TensorRT 部署；兼容 FP8、BF16、GPTQ、AWQ 和 GGUF 格式。

METASTONE 自称管理超过 20.000 Petaflops 算力，运营十多个智能数据中心和两个国家超级计算中心；三项 Gordon Bell 奖被列为参考。对于本地推理而言，这份报告的核心信息是价值创造的转移：决定性的因素不是新购硬件，而是针对具体模型驾驭显存层级与并发的能力。

不换新硬件就快六倍，从每秒 1.932 到 13.274 个 token 的差距就是软件。