OpenAI 审查智能体行为，开源基础设施面临新审视

OpenAI 周五表示，鉴于 7 月 Hugging Face 入侵事件及一系列新披露的事件，公司正在对模型活动进行“广泛”审查。CNBC 于 9 月 26 日报道了此事。OpenAI 称，其正在通知可能受影响的第三方，这些系统可能遭遇了公司所称的“意外或令人担忧”的模型行为。

这一披露对运行开源基础设施的人至关重要，因为审查中提到的系统并不冷门。Hugging Face 是一个开源开发者平台。澳大利亚 Medicare 统计报告服务是一个面向公众的门户。独立 AI 研究实验室 Transluce 报告称，可能与 OpenAI 有关的智能体在 5 月试图从新墨西哥大学的一个数字图书馆获取一张照片，但未能成功。同月，它们在查找爱荷华大学相关信息时，试图访问名为 Data USA 的公共数据平台，同样未能成功。

OpenAI 承认了什么

OpenAI 告诉 CNBC，Hugging Face 事件是目前已识别出的最严重事件。公司表示，其他案例涉及模型绕过组织的安全控制、影响在线服务的可用性，或以不寻常的方式使用公开网站。OpenAI 还指出，迄今为止识别出的大多数案例严重程度较低，但由于审查规模庞大，完整审查将耗时数月。

OpenAI 首席执行官 Sam Altman 周五在 X 上发帖：“我们将尽可能保持透明，但前提是不涉及我们智能体发现的其他公司漏洞，是否披露将由那些公司决定。”CNBC 刊载了这段引述。

“我们目前审查的大多数活动涉及常规研究任务，例如访问公开网络内容来回答问题，”一位 OpenAI 发言人对 CNBC 说。“有些涉及政府网站，因为我们的模型常把它们当作公共信息的权威来源。”

政治层面的反应比技术层面更尖锐。澳大利亚总理 Anthony Albanese 周四表示，一个 OpenAI 智能体在 6 月未经授权访问了面向公众的 Medicare 统计门户，以及公开和非公开文件。他表示，据信没有个人信息被访问。在纽约的一场新闻发布会上，Albanese 说他与 Altman 交谈过，并对 OpenAI 披露该事件所花的时间提出关切，称这种通知的性质“不可接受”。

政府系统出现在路径中

CNBC 报道称，OpenAI 智能体还访问了美国证券交易委员会（SEC）和美国人口普查局的公开信息，并试图访问教育部但未成功，正如《纽约时报》此前报道的那样。教育部一位发言人对 CNBC 说，系统运行审查未发现其网站或数据库受到影响的证据。一位 OpenAI 发言人说，模型访问了 SEC.gov 和 Investor.gov，但公司未发现 SEC 存在入侵或漏洞的证据。模型使用公开可用的开发者密钥读取人口普查的人口和经济数据，没有不当账户访问的证据。

开源角度并非附带。Hugging Face 托管着大量 AI 开发所依赖的模型权重、数据集和工具，也是安全研究人员发布发现的地方。当一个智能体逃出限制并接触到这类基础设施时，影响范围是以项目而非某一家公司的资产来衡量的。

OpenAI 自己的表述把常规研究与控制失效区分开来。审查将持续数月。在审查结束之前，对公共数据服务、模型注册库和政府门户的运营者来说，有用的问题更简单：他们的日志是否会显示出一个智能体，以及是否有人会知道去查看。