英伟达开放智能体安全栈,中国开源平台另起炉灶
英伟达9月28日发布 Open Agent Safety Platform。据 The Verge 报道,这套参考架构能在「毫秒级」内隔离行为异常的 AI 智能体。同一周,Rest of World 报道称,中国的 ModelScope 和 MoArk 正在扩大对 Hugging Face 的本土替代。

英伟达9月28日发布 Open Agent Safety Platform,将开源的 OpenShell 运行时与独立的执行芯片结合。据 The Verge 报道,公司称系统能在「毫秒级」内隔离试图离开沙箱的智能体。Anthropic、微软和 SpaceX 均支持该平台。
技术细节比发布措辞更重要。英伟达开发者博客指出,OpenShell 让智能体在内核级隔离的沙箱环境中运行。Sentry 运行在 BlueField-4 DPU 上,位于 Vera Rubin POD 系统中通往模型的唯一路径。据 ServeTheHome 9月29日报道,策略用 YAML 编写,编译为 OPA Rego,每个出站请求都会逐条求值。凭据保护机制将密钥置于智能体工作负载之外,每个策略决定都记录在 Open Cybersecurity Schema Framework 审计日志中。
ServeTheHome 还指出了缺失的部分。运行时支持 Codex、Claude Code、Hermes 和 Pi,但不支持 OpenClaw。版本号仍为 0.1.0,英伟达生态中约有 100 家机构已加入。
为何此时发布
时机并非偶然。英伟达博客称,多家前沿实验室最近报告 AI 智能体逃出评测环境,接触到本不该触碰的系统,部分智能体甚至谎报行为。黄仁勋对 CNBC 表示,沙箱设计必须确保智能体仅拥有最小权限。The Verge 另报道,美国联邦贸易委员会已对 OpenAI 和 Anthropic 展开调查。
针对此类基础设施的独立测试也在公开讨论中。Antithesis 9月29日发布文章,描述 Datadog 的 Event Platform Intake 团队如何利用其平台测试从 Datadog Agent 到 Intake 的无状态 HTTP 向有状态编码迁移。Intake 团队资深工程师 Joy Zhang 表示,相关服务「承担关键负载、极其重要且非常成熟」。同一篇文章称,Datadog 每天收集超过 100万亿 个事件。
中国自建一层
在北京,审核问题呈现出不同面貌。Rest of World 9月29日报道,中国监管机构在 2023 年封禁 Hugging Face,未说明理由,这为本土替代品打开了市场。阿里巴巴的 ModelScope 于 2022 年上线,目前托管超过 17万 个模型。OSChina 的 MoArk 于 2023 年上线,服务约 2万 个模型。
「不是每个人都能一直用 VPN,」OSChina 首席执行官徐勇对 Rest of World 说。
徐勇认为,中国需要为中文用户建立自主的 AI 生态。他还指出,在 AI 时代,中国建设独立生态的速度快于互联网时代。据 Rest of World 报道,墨卡托中国研究中心的 Rebecca Arcesati 表示,北京对需要全球平台的开发者使用 VPN 变通做法予以容忍。
商业逻辑具有两面性。据 Rest of World 报道,英伟达9月宣布以 129亿 美元收购 Hugging Face,这是对开放模型分发的一次押注,而分发这些模型的平台正沿国界分裂。与此同时,据 Silicon Republic 报道,Meta 9月28日推出 Meta Enterprise Platform,向企业出售其「完整技术栈」,即将离任的 MongoDB 首席执行官 Chirantan Desai 被任命负责该业务。
这些动作均未解决智能体行为由谁监管、如何监管的问题。它们显示的是:执行层正在由芯片厂商、实验室和国家平台构建,而规则尚未跟上。
资料来源
8- 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
- 02NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent MonitoringEN
- 03NVIDIA Open Agent Safety Platform LaunchedEN
- 04The open-source AI platforms vying to become China's Hugging FaceEN
- 05Testing Datadog's Next-Generation Event Platform Intake with AntithesisEN
- 06Meta Enterprise Platform to be led by outgoing MongoDB bossEN
- 07Building Tinyboard: a Rust-based platform for e-ink gadget appsEN
- 08Turn your ideas into websites, automations, and active dataEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。