决策模型弃用文本生成，小型端侧AI转向读取logit

两者在周二相隔六分钟先后发布。Liquid AI在20:09 UTC发布d1文档，称其为公司首个决策模型。MeerDevelopment在20:16 UTC将Qevi-2B推送到Hugging Face。两者均不生成文本。

Liquid AI的文档对机制描述得很直白。决策模型“评估情境，并在单次调用中针对固定结果集返回校准后的概率，生成token数为零”。API提供三种提问形式：noul（是/否，返回浮点数）、choice（从具名选项中选一个）和score（在有序评分表上给出概率加权位置）。文档示例中，字符串“I have been waiting over three weeks for my order and nobody has responded to my emails”针对问题“Is this message a complaint from the customer?”返回的noul值为0.999。响应中usage.output_tokens报告为0。

读取logit，跳过句子

Qevi-2B走的是另一条路，但终点相同。它是Qwen3-VL-2B-Instruct的完整微调版本。回答图像封闭式问题时，它读取模型即将开始作答位置上的LM-head logit，并限制在允许的答案token范围内。询问照片中是否有梯子，它返回P(Yes) = 0.97。模型卡提醒，调用.generate()并解析文本无法复现公布的数字，“因为那不是模型微调所走的路径”。

宣称的提升幅度很大且具体。与走相同读取路径的基础Qwen3-VL-2B相比，Qevi-2B的域内准确率为0.977，基础模型为0.855；在留出域上分别为0.889和0.745。留出数据上的期望校准误差从0.160降至0.054。模型卡还报告，对单张图像提出多个问题时，推理速度约快21倍，因为问题打包共享了一次图像编码。

有一处注意事项值得细读。训练语料仅覆盖noul和choice两类问题，score类型未经测试。模型卡明确收回了早前的温度建议：在T = 2.45时，留出集上的ECE回到0.160，校准带来的全部收益被抵消。

小、快，专攻分类

这是端侧论证的当前形态。Ailoitte在过去12小时内发布的小模型开发指南从成本角度切入：服务一个7B模型，在延迟、能耗和算力上可能比70B到175B的模型“便宜10到30倍”，引用了NVIDIA 2025年的一份立场文件。指南还指出小模型可本地部署，这对医疗和金融数据至关重要。

Sebastian Raschka在9月29日关于文本分类的文章从另一角度阐述了同一观点。他将Jev描述为一个“过去两周在技术社区引发相当文化现象”的模型，本质上是一个文本分类器，在分类任务上比通用大模型更快更便宜，同时比任务专用模型更通用。他特意说明自己与Jev无关联，也没有免费使用权。

PostHog的jeeves仓库在9月29日更新，为该模式增加了推理能力。Jeeves是一个基于Qwen3.5-9B的9B类Jev模型，使用LoRA和pointer head，通过SFT和CISPO训练。它在留出测试集上总体得分0.889，Jev为0.857，Kev-9B为0.822；在JevBench公开档位上得分0.935，Jev为0.866。思考需要时间：在单张H100上以fp8运行，每个请求中位耗时约3.3秒，不开启思考则为0.3秒。

这些数字并不都指向同一方向。Jeeves总体胜过Jev，但在Transfer上落后（0.746对0.800），在MMLU-Pro 10-way上也落后（0.739对0.840）。它对不可知问题的回答中，有5.5%给出p ≥ 0.9，优于Jev的9.0%，但差于Kev-9B的0.0%。

该品类的市场预测差异很大，值得指出而非取平均。MarketsandMarkets预测SLM市场2025年为9.3亿美元，到2032年升至54.5亿美元，复合年增长率28.7%；wizr.ai引用的数字则是2023年77.6亿美元，2024年至2030年增长15.6%。这两个估计描述的是规模不同的市场。

9月29日这两次发布所暗示的内容更窄也更具体：在分类形态的工作中，输出格式本身正在围绕概率重新设计，而非围绕散文。