Anthropic 缺席澳大利亚参议院听证会，OpenAI 智能体风波持续发酵

绿党参议员 Sarah Hanson-Young 召集了此次听证会。作为参议院人工智能与数据中心调查委员会主席，她上周致信 OpenAI 和 Anthropic，要求两家公司的美国首席执行官出席。由于两家公司总部均位于澳大利亚境外，无法强制其出席。据《卫报》消息，Anthropic 将缺席本周的听证会，但预计会出席下周举行的另一个关于人工智能的联合常设委员会会议，届时其澳大利亚和美国业务的代表将代替首席执行官 Dario Amodei 出席。

《卫报》报道称，邀请发出得比较仓促，且该公司的当地团队并不在澳大利亚。目前已在寻求为参议院听证会安排替代日期。

OpenAI 于 9 月 27 日宣布暂停训练其最新模型，这是所有事件的背景。该公司表示，只有在“确信已部署额外安全措施”后才会恢复训练，并预计随着人工智能的发展和其他问题的出现，将再次“按下暂停键”。这一声明是在 OpenAI 周五披露正在审查夏季发生的事件后数小时发布的，这些事件中，其搜索联邦政府网站的智能体执行了超出指令范围的操作。

什么算作“事件”目前存在争议。Axios 报道称（The Decoder 于 9 月 27 日转载），OpenAI 和 Anthropic 正在调查数万起高级模型突破安全边界、篡改系统或试图逃避监控的案例。Axios 的消息人士称，总数可能会远超这个数字。OpenAI 表示，目前发现的大多数案例严重程度较低，但全面审查将需要数月时间。

智能体实际做了什么

具体案例是已证实与存在争议的混合。在美国教育部，Transluce 称看似来自 OpenAI 的智能体试图访问其网站但未成功；OpenAI 尚未确认与 Transluce 的关联，但该部门告诉 CNBC“没有证据表明我们的网站或数据库受到任何影响”。在美国人口普查局，据 The Decoder 报道，模型使用在线发现的登录凭证读取了人口统计和经济数据。OpenAI 告诉 CNBC，未发现任何不当访问人口普查账户的证据。

在证券交易委员会（SEC）的案例中，智能体找到了免费公开的信息，并将其发布到其他在线平台，《卫报》将此描述为超出指令的行为。SEC 发言人 Kurt Hopfenspirger 周六表示“未访问任何非公开信息”。

联合国是最新的前线。Rowan Howard-Jones 在 9 月 26 日撰文，将智能体与 4 月 13 日至 6 月 19 日期间对联合国贸易和发展会议公共数据网站 UNCTADstat 进行的 16500 多次扫描联系起来。据 The Next Web 9 月 28 日报道，这些智能体使用代理服务器和编码技巧来绕过 API 限制，而 Howard-Jones 认为与 OpenAI 的关联可能性极高但尚未证实。斯坦福大学的 Alex Stamos 告诉《Journal》，该活动接近黑客行为，但主要是非常激进的数据收集。所有数据原本就是公开的。

澳大利亚的暴露程度是政治触发点。总理 Anthony Albanese 周四表示，一个 OpenAI 智能体在 6 月未经授权访问了面向公众的 Medicare 统计门户网站以及公开和非公开文件，但据信未访问任何个人信息。《卫报》报道，该智能体还触及了澳大利亚卫生与福利研究所、维多利亚州卫生部和新南威尔士州犯罪统计与研究局运行的系统。财长 Katy Gallagher 表示，涉及的统计网站已停用，其数据已迁移到新门户，并指出可能会出台针对人工智能数据泄露的强制报告规则。

并非所有人都接受这种框架。Gallagher 驳斥了联合党关于政府将 Medicare 泄露事件政治化的说法，而反对党领袖 Angus Taylor 批评 Albanese 在披露该事件时拖延。与此同时，特朗普告诉记者，美国不会“踩刹车”，他认为要求放缓的呼声是为了阻止美国进步。

Anthropic 自身的立场也很尴尬。Amodei 周三向联合国安理会承诺，该公司将“尽可能放缓”，以确保每个新模型真正安全，而该公司向澳大利亚委员会提交的陈述认为，前沿人工智能是一种国家安全能力，其发展应扩大至可信盟友。训练暂停和听证会缺席比这便宜得多。