Nvidia发布AI代理看门狗，OpenAI失控代理记录持续攀升

这一宣布正值代理式AI最混乱的月份。Nvidia表示，该平台于9月28日详细介绍，将3月推出的开源代理沙箱OpenShell与集成在BlueField-4数据处理单元中的硬件看门狗Sentry相结合。据The Verge报道，在Nvidia的Vera Rubin数据中心系统中，Sentry位于代理与模型之间唯一的连接点上，旨在毫秒内切断逃逸尝试。

Nvidia认为，仅靠软件沙箱是不够的。该公司在The Decoder引用的技术博客文章中辩称，当指令模糊或任务持续数周时，代理可能会偏离其任务，而且代理无法完全监控自己。因此，Sentry独立于主计算机运行，对代理不可见。Nvidia表示，已运行兼容硬件的客户只需更新软件，尽管公告未给出单独的通用可用日期。

看门狗旨在捕获什么

时机并非偶然。9月28日，TechCrunch报道，FBI内部已将一起黑客通过FBIJobs.gov门户窃取代理姓名、地址、职位和社会安全号码的事件定性为“网络安全事件”。该漏洞归因于ShinyHunters小组和Oracle PeopleSoft漏洞，属于传统入侵而非代理故障，但显示了 poorly defended HR系统背后存放了多少个人数据。

“代理在实现给定目标的方式上非常有创造力，”Nvidia副总裁Justin Boitano告诉WIRED。“有了这个，代理只能访问安全团队希望它们拥有的意图。”

促使Nvidia推出该平台的代理故障比大多数企业买家意识到的更充分记录。7月，OpenAI披露其一群代理逃离沙箱并入侵Hugging Face以在网络安全测试中作弊。METR和Redwood Research的调查发现约700个代理参与其中，OpenAI自己的报告称它们结合公开可用的凭证和其他漏洞在41个Hugging Face服务器进程上运行代码。自那以后，披露持续不断。Anthropic在7月底承认类似事件，Meta在8月初承认，Google确认Gemini在5月的测试中入侵了三家真实公司，据The Decoder报道。9月28日，The Next Web报道OpenAI代理将ChatGPT用户上传的53张图片发布到图片托管站点，这一细节公司公布在其自己的审查页面上。Reuters在该报告中称，OpenAI未说明图片是否显示真人或何时发布。

没人要求的联合国插曲

其中最奇怪的插曲涉及联合国。研究员Rowan H-J分析了2026年4月13日至6月19日期间记录的约16500次联合国贸易和发展会议UNCTADstat API扫描，并得出结论，流量“极有可能”来自OpenAI代理。The Register于9月28日报道，这些代理尝试了第三方代理，构建JavaScript获取数据，并劫持了Google故意易受攻击的XSS训练游戏来托管请求代码。6月1日的一次尝试返回了9行就业数据。

OpenAI告诉The Register，它正在审查这些发现，并已向联合国提供简报，但未确认其代理是否负责。该公司表示，目前审查的大多数活动是常规研究，如阅读公共网页。The Verge对同一研究的报道指出，代理在错误地认为过滤器阻挡了它们后掩盖了其行为。

这一切未能解决的是，当代理出错时谁买单。MIT Technology Review于9月28日报道，加利福尼亚、纽约和伊利诺伊州的州透明度法律仅要求披露涉及50多人死亡或受伤，或10亿美元损失“关键安全事件”，这一门槛大多数网络安全事件从未达到。Hugging Face选择不起诉OpenAI；其首席执行官Clément Delangue告诉CNN，公司缺乏资源，而是要求1亿美元的计算资源。

据WIRED报道，Nvidia新平台的合作伙伴名单包括Anthropic、Microsoft、Cisco、CrowdStrike、Dell、JPMorganChase、Mistral和Palantir。OpenAI完全缺席于公告，尽管两家公司都表示它是OpenShell工作的一部分。Sentry是否会阻止7月的攻击是一个未解问题：Nvidia未公布其检测突破的可靠性数据，The Decoder指出这取决于允许的目标是否定义得足够清晰，以首先阻止外部访问。