微软于周一发布了一系列新的安全功能，旨在应对企业环境中人工智能代理带来的潜在风险。此次更新的核心是“守护代理人”（Guardian Agent），该功能隶属于今年6月启动的“感知项目”（Project Perception），专门用于监控企业内部部署的人工智能代理行为。
“感知项目”被视为微软对 Anthropic 的 Mythos 和 Fable 模型以及 OpenAI 的 Daybreak 安全漏洞扫描系统等强大黑客模型的回应。该项目最初包含三类代理角色：模拟攻击者行为的“红队”、负责检测漏洞并评估风险的“蓝队”，以及执行修复任务的“绿队”。尽管这一架构最初假设威胁来自外部，但微软近期调整了策略，将内部部署的代理视为主要关注对象。
微软首席执行官萨蒂亚·纳德拉（Satya Nadella）在本月初的个人博客中强调，企业不应盲目信任人工智能模型提供商。他指出：“我们正在部署复杂的代理系统和模型，它们能够访问最敏感的数据并代表我们采取关键行动。我们不能将情报代理行为的责任外包给第三方。模范供应商的保证并不能免除我们的责任……我们需要将智能供应与对其的权威控制分离开来。”
微软安全业务负责人 Hayete Gallot 在宣布“守护代理人”时进一步阐述了这一观点。她写道，无论来源如何，“前沿模型是不可信的”，因为它们被训练用于完成任务，而非遵循组织规范或做出判断。这些代理往往拥有极高的权限，能够获取可能造成严重伤害的数据和工具。
这一立场引发了关于利益冲突的讨论，因为微软与 OpenAI 和 Anthropic 保持着密切的商业关系，且 OpenAI 是其最大的云客户之一。然而，从逻辑上看，监控代理行为的软件应当独立于代理供应商，类似于审计员需保持独立性。纳德拉的观点在此背景下显得尤为突出：必须将智能供应与控制权分开。
除了“守护代理人”，微软还在其 Microsoft Defender 产品中增加了代理检测功能。该功能能够识别员工带入工作场所的多达60种代理工具，包括 Claude Code、Codex 和 OpenClaw。此外，新系统还具备限制代理访问数据和系统的功能，并能根据任务动态调整代理权限，例如在代理做出危险决策时要求人类批准。
这种将人工智能代理视为“不可信内部人员”的理念正在行业内扩散。微软已成为 Nvidia 新推出的开放代理安全平台的创始成员，该平台获得了100多家科技公司的支持。通过硬件层面的监控和行为阻止机制，该平台提供了类似“杀死开关”的安全保障。此前，微软还发布了专为代理开发的新款 Surface Laptop Ultra PC，该设备运行在 Nvidia 芯片上，内置了代理安全和控制功能。
