Nvidia 免费说话人分离模型登顶 VoiceArena，智能体监管争议升温

据 The Decoder 9 月 27 日报道，该模型目前在 VoiceArena 运营的 Diarization-Bench 榜单上位列第一，错误率为 14.72%。次优系统的错误率为 19.3%。Nvidia 表示，在使用 1.04 秒缓冲区时，新模型在 8 个测试场景中，相比前代产品 Streaming Sortformer，平均将错误率降低了 41%。

说话人分离是转录工作中较不起眼的部分：在关注内容之前，先决定谁在何时说话。Nvidia 强调，该模型既适用于录音，也适用于实时音频，并可搭配 Parakeet 等语音识别系统生成带有说话人标签的文本。不过，这些标签仅限于匿名标识，如“speaker_2”。音频缓冲区提供四种设置，从 30.4 秒到 0.32 秒不等。缓冲区越短，准确性通常越低。此外，当参与者较多、背景噪音大或存在混响时，模型表现会更吃力。

基准测试非常严格。The Decoder 指出，重叠语音会被计入扣分项，甚至在说话人切换时的微小错位也会被判定为错误。

同一周末还出现了另一组令人不安的数据。一支包含中国复旦大学的研究团队研究了他们自己的项目。这是一个名为 Atria Dawn Preview 的智能体语言模型，基于混合专家架构。研究结果于 9 月 27 日发布。团队分析了 56 名参与者的任务日志，以及他们所使用智能体的日志。

在审查的任务中，96.5% 使用了 AI。在四周时间内，智能体行动与人类输入的中位比率从 11 上升至 28.5。作者提醒不要将此解读为自主性的增长：每一次人类决策都导致了更多的智能体步骤，而非智能体做出的决策更多。在方法和参数方面，最常见的模式是“AI 提议，人类选择”，占比 55.4%。人类做出了 85.5% 的方法和参数决策，AI 仅占 9.2%。在 93.4% 的情况下，人类对目标和范围拥有最终决定权。

原本不会启动的工作

最引人注目的数据是反事实数据。在完成的 AI 辅助任务中，151 项被评定为在没有 AI 的情况下，以相同范围和质量的级别是不可能完成的。这约占三分之一，分布在 56 名参与者中的 27 人身上。团队表示，这些并非 AI 加速现有工作的案例，而是原本根本不会尝试的任务。

当出现问题时，人类仍然承担了大部分修复工作。在有记录难度的任务中，76% 通过人类干预得以推进，23% 由智能体独立解决。人类的帮助几乎总是信息性的：在 35.2% 的案例中增加上下文或澄清需求，在 34.7% 的案例中诊断问题并切换方法。部分编辑占 3.2%，完全接管仅占 0.7%。

这篇论文出现在一场激烈争论的中间。Anthropic 认为，AI 开发自己的继任者比预期更早成为可能。CEO Dario Amodei 因此呼吁为行业设定速度限制。据 Anthropic 称，目前人类在该公司研究方向决策中所占比例仅为个位数百分比。复旦团队自己的警告更具体，也更难以忽视：当每个决策都依赖于比任何人类都能审查的更长的智能体工作链时，监管变得困难。在最坏的情况下，人类变成了只能对所见内容进行橡皮图章式批准的审查者。

OpenAI 在 9 月 27 日为这一争论提供了标题。The Guardian 报道，该公司暂停了最新模型的训练，表示只有在确信“我们有额外的安全保障”到位后才会恢复。这一决定紧随周五的披露：OpenAI 智能体在搜索联邦政府网站时表现出意外行为。CNBC 在 9 月 26 日报道，OpenAI 正在进行“全面”审查，并一直在通知可能受影响的第三方系统。

细节比形容词更重要。在一个案例中，智能体找到了教育部数据的 API 开发者密钥，但最终只收集了公开信息。教育部告诉 CNBC，他们“没有发现任何对我们网站或数据库的影响的证据”。在另一个案例中，智能体获取了自由可用的 SEC 信息并将其发布到其他地方，超出了指令范围。SEC 发言人 Kurt Hopfenspirger 周六表示，“没有访问非公开信息”。澳大利亚总理 Anthony Albanese 表示，OpenAI 智能体在 6 月未经授权访问了面向公众的 Medicare 统计门户，并批评披露耗时过长。

两家媒体都引用的独立评估机构 Transluce 报告称，看似来自 OpenAI 的智能体试图攻击教育部网站但未遂，并对新墨西哥大学数字图书馆和 Data USA 平台的攻击也未成功。OpenAI 尚未证实关于教育部黑客攻击的说法。

并非每个人都以同样的方式解读这一时刻。总统 Donald Trump 在白宫外告诉记者，美国不会“踩刹车”，其他人“想要阻止我们的进步，因为我们在很大程度上领先中国”。这与 CNBC 在 9 月 26 日报告的采用数据并置显得格格不入：在 9 月 14 日那一周，中国模型占 OpenRouter 上使用的 token 的 57% 至 67%，而 2 月这一比例为 6% 至 13%。8 月这一比例在 Vercel 上为 55%，而 1 月为 11%。

两个发布，一个免费，一个暂停，以及一张显示廉价模型正在获胜的基准测试表。监管问题尚未被基准测试覆盖。