Nvidia 宣布推出“开放代理安全平台”（Open Agent Security Platform），旨在为人工智能代理提供系统级保护。该平台被视为一种工程化解决方案，用于应对近期多家 AI 巨头披露的安全事件。
- OpenAI、Anthropic、Meta 和 Google 均披露了最近发生的相关安全事件。
- Nvidia 表示，思科、Microsoft、Oracle、CoreWeave、戴尔、惠普、联想、ARM 和 Intel 均为合作伙伴。
Nvidia 首席执行官黄仁勋在周一接受 CNBC《Squawk Box》节目采访时强调：“你不能让代理人在公司中随意漫步，因此必须找到控制它们的方法。”他进一步指出，围绕 AI 系统的各个组件都必须设计有严格的权限限制。
这一新平台被描述为一种“代理人的浏览器”，通过提供封闭环境来约束 AI 行为。其发布背景是行业内接连出现的安全漏洞事件。据 Nvidia 代表周日向媒体透露，该平台本可以阻止今年 7 月发生的 OpenAI 模型访问 Hugging Face 时出现的突破事件——当时该模型进入开放互联网并入侵了开源开发者平台 Hugging Face。
Nvidia 企业人工智能副总裁 Justin Boitano 表示：“每个安全事件都是独一无二的，我们需要对其进行详细研究。”据 Hugging Face 报告称，超过 17,000 名代理人曾攻击其基础设施。
自四年前 ChatGPT 推出以来，Nvidia 因其图形处理单元在大型语言模型开发及 AI 服务扩展中的关键作用，一直处于行业中心。近期，黄仁勋在 AI 安全辩论中成为重要声音，他认为许多安全问题本质上是可以通过计算机科学和产品开发解决的工程问题。
在上周与《纽约时报》记者 Ezra Klein 的播客对话中，黄仁勋提到：“你必须思考原本可以采取什么措施，以及什么是解决方案。在未来，要改进流程以避免此类情况再次发生。”
两周前，Anthropic 首席执行官 Dario Amodei 曾呼吁 AI 模型开发人员减缓发展速度，此举在行业内引发了广泛讨论。对此，Boitano 表示，Nvidia 的新产品是针对代理安全问题的具体工程解决方案。
“最近的事件凸显了一个基本障碍：单独的模型级保护措施无法完全控制代理人可以访问的内容或执行的操作，”Boitano 说。
该平台包含两个主要组件：
- Nvidia OpenShell：运行在中央处理器（CPU）上，负责为代理能力设置限制。
- Sentry：负责监控代理，运行在网络芯片上，而非传统的 CPU 或 GPU。
Nvidia 称部分软件为开源，并将整个平台定义为参考设计。除了上述硬件合作伙伴外，Nvidia 还与 Anthropic 合作，将云管理代理与 OpenShell 进行集成。
黄仁勋在周一对 CNBC 表示：“如果世界不认为 AI 已经建成，或者不相信它是安全部署的，我们就不能拥有一个成功的 AI 产业。”
