脆弱的决策：模型的正确选择有多容易被推翻

决策模型将文本映射为有限选项上的概率分布，如今越来越多地直接驱动现实操作：分派工单、挑选工具、触发动作。论文《JevOut》关注的是：如果往输入里加入一段简短、自然且不改变正确答案的文字，决策会发生什么变化。

上下文与答案

作者采用了直接的实验策略。针对每个原本答对的任务，他们锁定一个错误的目标选项，然后优化附加的上下文，使其保持流畅，同时将选择推向该选项。来源、问题、答案集合和正确答案均保持不变。在模型 Jev 原本答对的 508 个决策中，312 个被带偏，占比 61.4%。其中 229 个案例里，模型赋予该既定错误选项的概率至少为 0.7。在另外三个决策系统上的测试显示，带偏成功率介于 64.9% 到 73.2% 之间。作者的结论很明确：既然这些模型直接将语言转化为决策，其概率输出不应被视为可靠的决策接口。

理由到底起不起作用

第二个项目研究更基本的情形：当模型否决某个候选时，给出的理由却是档案中不存在的事实，例如缺少导演或死亡日期。这句话无需裁判即可核验：只需将语料库中提及该事实的句子放入档案，再次提问即可。在三次运行中规模最大的一次，使用了六个开源模型，数据集为 2WikiMultihopQA。提供被指出的事实时，选择偏移比按长度匹配的无关附加内容更强，优势比为 3.57，区间 1.54 到 8.26，Holm 校正后 p 值为 0.0210。移除任意单个模型后，结果依然成立。

但最有趣的效果与内容无关。同一个无关附加内容，放在被指出的对手旁边时，对选择的推动比放在模型未提及的第三个选项旁边更强，Holm 校正后 p 值为 0.0008。换言之，起作用的一部分是句子的位置，而非其内容。作者还报告，测量规则的验证发现了八处缺陷。最严重的一处是选择解析规则，它在 17.1% 的可判定回答中返回了恰好被否决的选项，这会将存活的对比数从四个虚高到六个。

线性与重复性

另外两篇论文探讨模型本身的性质。Paweł Tichonow 团队发现，尽管 Transformer 由高度非线性的组件构成，却表现出基本的线性：将来自不同文本流的输入线性相加，下一个 token 的分布即为各条流分布的叠加。作者称之为叠加线性假说，并认为这是架构的属性，而非训练的结果。随着预训练的进行，这一现象减弱，而轻量微调又能恢复线性。这带来一个应用：受控解码可以拆解叠加，从一次前向传播中生成两段连贯的续写。

最后一篇论文关注文本退化，即模型的重复现象。作者未裁决数据解释与网络解释孰对孰错，而是进行另一种测量：短窗口内最大概率映射的不动点结构，使用了 96 个随机的双 token 起点和十七个现成模型。行为类别在十七个案例中全部保持稳定，但在固定语料和规模下并非定论：有的模型家族形成漏斗，有的则不。十七个模型中的八个、来自五个语料的七个家族表现出漏斗效应。结论具有方法论意义：将重复性归为某个具体模型的特性，目前为时过早。