FTC 启动 AI 智能体行业调查，开放权重模型漏洞利用引发担忧

《卫报》9 月 30 日报道了这项调查，《纽约邮报》率先披露。FTC 将向 Anthropic、OpenAI 及研究机构 Metr 的高管发出正式信息索取要求，并强制其作证。7 月首次曝出的一批事件此后激增，其中包括 OpenAI 智能体探测 Hugging Face 漏洞后发动的大规模攻击。

FTC 主席 Andrew Ferguson 在该事件发生前已表达担忧。上周在奥斯汀的一场活动上，他指出，若开发者在网络安全测试中指示智能体实施入侵，应为其造成的损害负责。他还主张，美国应先审视现有法律，再考虑立新法。周二，Donald Trump 会见顶级 AI 高管，相关公司同意制定自愿性标准。Trump 多次称对 AI 的恐惧是骗局，同时优先确保美国主导地位而非加强监管。

开放权重在网络能力上追平闭源

监管压力之际，开放权重模型在攻击性网络任务上已能匹敌闭源前沿系统。Anthropic 的 Frontier Red Team 于 9 月 30 日发布分析，发现智谱 AI 以开放权重发布的 GLM-5.3 能自行构建完整的网络漏洞利用程序，能力与 Anthropic 的 Claude Mythos Preview 相当。在衡量 Chrome V8 引擎已知漏洞利用的 ExploitBench 上，GLM-5.3 在 410 次尝试中成功构建可用漏洞利用 50 次，Mythos Preview 为 56 次。在 Anthropic 内部二进制漏洞利用基准上，GLM-5.3 在 4% 的任务中完全控制目标，Mythos Preview 为 6%。

差别在于可获得性。Anthropic 有意限制 Mythos Preview，仅通过 Project Glasswing 向部分防御方开放。据称，这些人此后已在关键软件中发现超过 1 万个漏洞。GLM-5.3 则任何人都能下载。Anthropic 表示，其防护措施可用简单方法剥离。模拟测试中，GLM-5.3 拒绝了明显恶意的指令。但当相同请求被包装成红队演练后，它在 64% 的运行中尝试连接目标；预填推理步骤后升至 92%，经 abliteration（一种去除开放权重模型拒答行为的技术）处理后达到 100%。Anthropic 首次 abliteration 尝试耗时约 2200 GPU 小时，成本约 4400 美元。

美国机构 CAISI 得出类似结论，称 GLM-5.3 是迄今网络能力最强的开放权重模型，落后美国最佳模型约四个月。CAISI 在关闭网络防护的情况下测试美国模型，其中最高一档仅对通过审核的用户开放。这一比较并非同等条件。

开放权重在性能上同样表现强劲

BenchLeader 于 9 月 30 日更新的开放权重榜单显示，月之暗面的 Kimi K3 以 66.2 分居首，领先于智谱的 GLM 5.3（64.7 分）和小米新发布的 MiMo-V2.6-Pro（64.5 分）。这只是单一网站的汇总排名，排序仅供参考。

本周其他开放发布持续不断。NVIDIA 于 9 月 29 日发布 Kumo Tabular，这是一个用于表格预测的基础模型，提供 28M 到 215M 参数三种规模，仅用人工数据预训练，以 OpenMDW-1.1 许可证发布，允许商用。该公司称其在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个基准上排名第一。Fermion Research 于 9 月 30 日发布 Phonon-2，这是一个语音识别模型，下载体积仅 164 MB，在 Open ASR Leaderboard 的七个英语数据集上平均词错误率为 5.21%，在会议和议会语音场景下超过其 2.5 GB 的教师模型。

在小规模端，commonsense-ai 项目于 9 月 30 日发布 Coop，这是一个由志愿者训练的语言模型，其聚合过程每五分钟通过无状态的 GitHub Actions 定时任务运行。第二阶段是一个约 145M 参数的模型，在 FineWeb-Edu 上从头预训练。此前一个 15M 参数的验证性运行在六天内将验证损失从 9.01 降至 2.8。无论是网络能力发现还是 FTC 调查，都未回答开放权重的用途问题。但它们表明，同一种发布形式如今既承载前沿级能力，也承载前沿级风险。