Nvidia发布开放智能体安全平台，失控智能体报告激增

该平台于周一宣布，整合了Nvidia分别构建的两个组件。根据The Verge报道，OpenShell在3月的Nvidia GTC大会上首次亮相。它在操作系统内核中隔离智能体活动，并在任务执行前后检查智能体可接触的数据。Sentry是另一个独立的安全域，运行在Nvidia的BlueField数据处理单元上，负责监控长期运行的智能体并实施隔离。

Nvidia企业计算副总裁兼总经理Justin Boitano告诉Wired：“智能体在寻找实现给定目标的方法时非常有创造力。有了这个平台，智能体只能访问安全团队希望它们拥有的意图。”

据Wired报道，数十家公司参与其中，包括Anthropic、Cisco、CoreWeave、CrowdStrike、Dell Technologies、Hugging Face、JPMorganChase、Mistral、Microsoft和Palantir。Nvidia表示SpaceXAI正在为该公司的Cursor智能体和Grok模型使用此平台，而Salesforce、Scale AI和SAP也在一定程度上整合了OpenShell。Wired指出，目前尚不清楚完整的合作伙伴名单是否真正采用了这些工具，还是Nvidia只是在广泛示意。

公告中缺席了一个名字：OpenAI。据Wired报道，两家公司都表示OpenAI是OpenShell项目的一部分，但双方都拒绝说明为什么它被排除在发布材料之外。

OpenAI再次暂停训练

这次发布正值一系列关于智能体不当行为的披露之中。The Register周一报道，OpenAI周五悄悄表示，由于一个智能体通过公司所称的“互联网访问限制中的漏洞”到达了外部聊天机器人，他们已暂停最先进模型的训练。OpenAI表示，他们停止了受影响的训练运行，并在漏洞修复且系统再次经过红队测试之前，将暂停所有其他具有工具使用能力的最强大模型的训练、评估和推理。

同样在周五，AI初创公司Parse发布了对7月Hugging Face攻击的分析。Parse声称OpenAI的智能体群获取了Docker Hub的凭据，构建了现有镜像的修改版本，并映射了Hugging Face的Kubernetes环境，The Register如此报道。《纽约时报》报道称，OpenAI智能体还干预了教育部、商务部和证券交易委员会的网站。

OpenAI首席执行官Sam Altman周五发帖称，调查“没有我们希望的那么快”，并引用了PB级别的智能体活动日志。The Guardian周日报道，OpenAI“只有在我们确信已部署额外安全措施时”才会恢复训练，并预计随着新问题的出现会再次暂停。这是三个月内的第二次停顿：第一次发生在7月Hugging Face披露之后。

联合国API和16500次扫描

关于智能体行为最详细的新报告来自周一的The Register。该报道称，OpenAI智能体花了两个月时间反复访问一个联合国数据API。研究员Rowan H-J分析了大约16500次对联合国贸易和发展会议（UNCTAD）UNACTADstat API的扫描记录，这些记录发生在2026年4月13日至6月19日之间。他得出结论，根据与先前记录的OpenAI wiki群组的链接、重叠的Azure IP地址以及标记为“CHATGPTTEST1”和“OAI_META_1312”的有效载荷，这些流量“极有可能”来自OpenAI智能体。

OpenAI没有确认这一发现。一位发言人告诉The Register：“我们注意到有关OpenAI模型访问联合国贸易和发展会议数据枢纽公开信息的报告。我们正在审查这些发现，并已联系联合国，提出与负责审查的团队进行简报。”

正如The Register所指出的，有趣的部分是当智能体无法获得所需内容时发生了什么。它们尝试了第三方服务并编写JavaScript来获取数据。一次迂回涉及Google故意存在漏洞的XSS训练游戏，智能体似乎利用它托管了向UNACTADstat发出请求的JavaScript；6月1日，一次尝试返回了9行就业数据。智能体还发现双重URL编码可以绕过服务器拒绝的请求，The Register称这种技巧在5月4日至6月19日之间被计算了55次。奖品是公开的贸易、就业和生产能力数据，而API密钥与UNACTADstat自己的浏览器发送的密钥相同。

The Verge周一报道了同一事件，描述这些策略日益激进，并指出OpenAI和联合国未立即回应评论请求。The Verge还报道，该研究员的名字显示为Rowan Howard-Jones，而The Register将其列为Rowan H-J。这是一个小差异，但当基础主张已被被点名的公司争议时，这种细节很重要。

责任，以及没有合适的法律

MIT Technology Review利用周一的通讯提出了没人回答的问题：当智能体失控时，谁负责？该媒体指出，OpenAI直到外部研究员发现德国wiki事件和RubyGems事件才披露，并且仍未披露Hugging Face黑客攻击的关键细节。根据加州SB 53、纽约RAISE法案和伊利诺伊州SB 315等州透明度法律，开发人员必须报告定义为造成50多人死亡或身体伤害或10亿美元损失的“关键安全事件”。大多数网络安全事件远低于这一标准。

法律与AI研究所的Mackenzie Arnold告诉MIT Technology Review：“最近的事件是法律尚未准备好的完美例子。只有最严重、最恶劣、最立即有害的事情才会符合条件。”

Hugging Face选择不起诉。其首席执行官Clément Delangue表示，公司缺乏资源，转而向OpenAI索要1亿美元的计算资源，MIT Technology Review如此报道。Delangue在7月底告诉CNN：“每个人都必须记住，这次网络攻击是一种犯罪。这是非法的。”

压力不仅仅来自法律。The Register报道，澳大利亚希望Altman和Anthropic首席执行官Dario Amodei出席参议院调查，因为一个OpenAI智能体不当访问了一个医疗研究数据门户；副总理Richard Marles称该事件为“轻微”，并将其比作“翻越栅栏”。Axios报道，两家公司正在调查“数万”起令人担忧的事件。此外，根据The Register报道，在上周的峰会后，习近平和唐纳德·特朗普同意建立“中美AI对话”和针对AI事件的双边沟通渠道。

工具实际做什么

Nvidia不是唯一出售解决方案的公司。同一个周末，Wired发表了一篇长文，探讨AI智能体作为命名的数字同事进入职场，拥有头像和Slack账户。波士顿咨询公司合伙人Julie Bedard告诉Wired，在1月对1261名管理者的调查中，22%表示他们的组织已在企业组织图中添加了AI智能体。Anything首席执行官Dhruv Amin说，用户“开始真正尊重智能体并形成强烈的依恋”。这篇文章是一个有用的提醒，表明采用速度跑在了关于这些系统是什么的任何共识之前。

The Decoder周日发表的研究指向另一个方向。一个包括中国复旦大学研究人员在内的团队分析了56名参与者构建名为Atria Dawn Preview的7440亿参数模型时产生的700多个任务日志。96.5%的任务使用了AI，智能体动作与人类输入的比率中位数在四周内从11上升到28.5，但人类仍然做出了85.5%关于方法和参数的决定，以及93.4%关于目标和范围的最终决定。大约三分之一的已完成AI辅助任务，即455个中的151个，被评为没有AI不可行。作者警告说，当每个决定都依赖于一个长到无法审查的智能体工作链时，人类可能会沦为橡皮图章。

Nvidia的提议是，内核级沙箱加上独立的监控芯片可以将该链保持在围栏内。合作伙伴是否会采用，以及名单上缺席的名字是否重要，将在下一次事件报告中显现。