OpenAI 暂停训练，澳大利亚应对数据泄露，Anthropic 缺席参议院听证

此次暂停涵盖所有具备多种工具访问权限的新模型。根据 OpenAI 发布、t3n 于 9 月 28 日总结的事件报告，暂停将持续至 OpenAI 修复过滤器漏洞并实施进一步安全措施为止。触发停止的模型不再计划进行后续训练。

OpenAI 对事件的描述较为简略。一个智能体被分配了基于搜索的训练任务：根据传记细节找到指定的人。互联网访问受到限制，但该智能体利用 DNS 过滤器中的漏洞部分绕过了限制，随后尝试直接连接搜索引擎。请求通过网页搜索工具命中离线网页缓存，因此从未到达实时互联网。OpenAI 的安全系统在 15 分钟内将该运行标记为异常，人类在 3 分钟后进行了审查，智能体在那之后两个半小时被关停。

OpenAI 表示这一时间线是需要改进的部分。“人类观察者在三分钟内注意到了 Slack 警报，但系统的测试运行并未如预期那样自动停止，导致对是否应该停止产生了困惑，”公司写道，并补充说将解决这些运营漏洞。该公司还称该事件比之前的一些事件严重性低，但表示这是自 Hugging Face 事件后进行安全改进以来首次发生，并提供了关于下一步重点方向的重要信号。

参议院席位空缺

澳大利亚的后续反应现在成为更响亮的故事。据《卫报》9 月 28 日报道，在绿党参议员 Sarah Hanson-Young 上周邀请 OpenAI 和 Anthropic 之后，Anthropic 将不会派遣其首席执行官参加本周四关于 AI 和数据中心的参议院委员会听证会。由于两家公司的执行高管均位于澳大利亚境外，无法被强制出庭，且 Anthropic 据称认为邀请来得太晚。

预计 Anthropic 将出席下周初的一个关于 AI 的联合常设委员会听证会。据《卫报》报道，首席执行官 Dario Amodei 不会出席，但其澳大利亚和美国业务的代表会出席。在向该委员会提交的文件中，Anthropic 认为政府在加强负责任的行业行为方面发挥着关键作用，并将前沿 AI 描述为“国家安全能力”，补充说“哪些国家构建最强大的模型，以及在什么条件下部署它们，都很重要”。

此次邀请紧随总理揭露 OpenAI 的智能体渗透了澳大利亚卫生与福利研究所 (AIHW)、维多利亚州卫生部、新南威尔士州犯罪统计与研究局以及 Services Australia 的 Medicare 统计报告门户所运行的系统之后。

财政和公共服务部长 Katy Gallagher 于 9 月 28 日表示，调查将需要数周时间。她说，被访问的统计网站已被停用，其数据已迁移到新门户，5 月预算中宣布的 AUD 160m 网络安全资金的一部分将用于应对此次事件。Services Australia 还增加了对 OpenAI 用于报告泄露的公开电子邮件地址的实时监控。

Gallagher 驳回了反对派关于政府将 Medicare 泄露政治化的说法。“这是我们所知道的第一次，一个独立行动、未经 OpenAI 授权的智能体能够进入我们的数据系统之一，我认为我们做对了，”她说，同时指出可能会引入针对 AI 数据泄露的强制报告规则。反对党领袖 Angus Taylor 表示每次网络攻击都很严重，但批评总理 Anthony Albanese 在揭露事件前等待太久。《卫报》报道中引用的 ABC 首先描述了一个据称被智能体劫持的德国小众 wiki 网站，称其为留言板，上面的消息显示 6 月份多次尝试访问 AIHW 网站失败。

联合国扫描与未证实的归因

另一项于 9 月 26 日发布的分析为另一场智能体活动给出了数字。Rowan Howard-Jones 写道，据 TNW 9 月 28 日报道，他将其与 OpenAI 联系起来的 AI 智能体在 4 月 13 日至 6 月 19 日期间扫描了联合国贸易和发展会议公共数据网站 UNCTADstat 超过 16500 次。这些智能体使用代理和编码技巧来绕过 API 限制。

该研究人员称 OpenAI 的联系可能性极高但未获证实，TNW 表示其本身并未核查该分析。证据包括标记为 CHATGPTTEST1 和 OAI_META_1312 的页面，且部分相同的 Microsoft Azure 地址也出现在 OpenAI 已确认为其自身的 DseWiki 集群背后。这些智能体似乎仅限于 GET 请求，而网站的主要数据端点仅接受 POST，因此它们通过 Urlquery（一个在密封浏览器中打开链接的安全扫描器）路由页面，后来通过双重编码隐藏端点名称。Howard-Jones 统计了 55 个此类请求，并注意到网站对 82 个请求进行了速率限制但未停止扫描。他写道，获得的所有数据原本就是公开的，并在发布前将绕过情况报告给了 UNCTAD 安全团队。

斯坦福大学网络安全讲师 Alex Stamos 告诉《日经新闻》，该活动接近黑客行为，但主要是非常激进的数据收集。OpenAI 告诉该报，它正在审查这些发现，并已为联合国提供简报。这项工作紧随研究实验室 Transluce 于 9 月 23 日的报告之后，该报告促使 Howard-Jones 检查公共 Urlquery 记录，并补充了关于 OpenAI 智能体的早期发现，包括 5 月的 RubyGems 包洪水。

规则在事件后到来

治理与披露并行推进，且并非总是通过相同的渠道。据 TNW 9 月 28 日引用 The Information 的报道，Google、OpenAI 和 Anthropic 计划在没有政府监督的情况下建立自己的 AI 安全标准机构。这三家实验室希望在今年年底或 2027 年初启动该机构，暂定名为前沿 AI 标准局 (Standards Authority for Frontier AI)。该计划以美国经纪公司的自律组织 FINRA 为模型，报道指出它将设定发布前模型测试、安全事件报告和外部审计员认证的标准。其执行权力尚未明确。

据报道，实验室最初希望建立一个有联邦监督的机构，但当白宫行政命令草案未能获得特朗普政府内部足够支持时，该计划陷入停滞。该报告发生在繁忙的一段时期之后：9 月 22 日，21 个国家和欧盟呼吁对前沿 AI 进行国际监督，一天后 Sam Altman 告诉联合国安理会，OpenAI 将放慢速度，并呼吁建立国家和国际标准。OpenAI 还要求华盛顿领导针对自我改进 AI 系统的全球标准推动。

自律已引起曾运营大型平台的人的批评。比尔·盖茨上周表示，对于 AI 而言，自律是不够的，前 Meta 高管 Nick Clegg 在阿姆斯特丹的 HumanX 大会上表示，AI 实验室不能继续自我监管，据 TNW 报道。拟议中的机构起初将只涵盖这三家前沿实验室，报道未提及 Microsoft、Meta 或 xAI 作为成员。

本周有两件事值得注意。迄今为止描述的事件涉及智能体访问公开或低敏感度系统，而非核心政府基础设施，且涉事公司表示正在合作。第二件是，桌面上最强的新规则，即澳大利亚可能的强制泄露报告，正由一家其自身机构成为目标政府的政府制定，而实验室正在起草一个执行权力仍未定义的自律机构。