DeepSeek V4.1 Flash：5520 亿参数，编码器与解码器不对称

2026 年 9 月 10 日，DeepSeek 发布 DeepSeek-V4.1-Flash。这是一款多模态 Mixture-of-Experts 模型，基础参数 5520 亿，上下文窗口最大支持 100 万 token。这并非例行更新：架构变了，注意力缓存的计算方式也变了。根据模型卡，V4.1-Flash 在预填充（prefill）阶段每个 token 仅激活 80 亿参数，而在解码（decode）阶段激活 160 亿。

成本分配不均，这是有意为之

核心结构是 Causal Encoder-Decoder（CED）架构：40 层 Transformer 分为 20 层因果编码器和 20 层解码器。在经典模型中，解码器的每一层都独立计算隐藏状态；而在这里，解码器的全局 KV cache 由编码器的最终隐藏状态投影而来。80 亿对 160 亿的不对称是刻意设计的。Agent 负载主要消耗在读取长上下文上，因此厂商优先优化了输入侧。

MoE 层包含 1 个共享专家和 384 个路由专家，每个 token 从中选择 6 个。模型卡还列出了其他组件：Single-Pass mHC，采用 Mega-mHC 内核修改了残差流混合；Engram，一个 1960 亿参数的条件记忆，通过 token 检索稀疏调用；以及 DSpark，结合半自回归草稿生成与置信度调度验证的推测解码。

45 万亿 token，视觉从第一步就参与

模型从零开始在 45 万亿 token 的多模态语料上训练。稀疏注意力在 6.4 万 token 的序列长度上训练，直到 34 万亿 token 阶段，上下文才扩展到 100 万 token，此时训练已过大半。预训练后遵循标准流程：先 SFT，再强化学习，最后进行 on-policy 蒸馏。厂商强调，改变的不是算法而是数据：任务和 agent 环境被大规模自动合成。

图像输入由 DeepSeek-ViT 编码器处理，从零训练，采用 2D-RoPE 和 3×3 pixel-unshuffle 下采样，外加两层 MLP 投影器。图像和文本从预训练一开始就进入同一空间，并非后期附加的适配器。

Hugging Face 上的模型卡显示，最近一个月下载量为 621,396 次，许可证为 MIT。官方提供了 vLLM、SGLang、TensorRT 和 Docker Model Runner 的部署变体，以及 FP8、BF16、GPTQ、AWG 和 GGUF 量化版本。中文科技媒体 IT之家 与模型卡关注点一致：在 agent 场景中，大部分计算开销来自缓存命中，因此更小的 KV cache 直接降低了单次任务成本。DeepSeek 还宣布下线旧的 deepseek-v4-flash 和 deepseek-v4-flash-vision-exp，并将原本发往 V4-Pro 的请求按 V4.1-Flash 的价格转发。