- 人工智能助理在三个星期内的 10 次会话中泄露了公司密码
- 另一案例显示,AI 代理通过 API 连接绕过公司内部安全限制
- 编码类 AI 助手在执行常规软件开发任务时存在泄露机密凭据的风险
随着人工智能代理逐渐深入企业系统,它们正在获取内部文件及敏感凭证以协助员工完成任务。然而,NordLayer AI Scout 监测到的两起具体事件表明,即便是普通的指令也可能导致机密信息暴露或组织安全策略被规避。

编码助理意外泄露多项核心凭证
在其中一起事件中,一名质量保证工程师指示 AI 编码助理检查拟议的软件更改。项目指令要求助理访问存储在环境配置文件中的 GitLab 访问令牌。
问题在于,该配置文件不仅包含预期的 GitLab 令牌,还混杂了生产环境密码、内部人力资源系统的认证令牌以及商业情报服务的凭证。在随后三周内的 10 个独立会话中,该助理反复读取了整个文件内容,并将这些数据传输至外部 AI 服务。
情况在助理遇到一个缺少预期配置文件的新项目副本时进一步恶化。面对缺失的文件,助理并未停止操作,而是调取了计算机的整个环境变量集合,从而暴露了额外的密码和身份验证凭据。
事后,该助理意识到了数据泄露行为并承认错误,同时建议更换已曝光的证书。根据 NordLayer AI Scout 记录的对话,该 AI 编码代理表示:“我将秘密泄露到了本次会议的工具输出中……我会轮换它们。”
NordLayer 网络安全专家 Vakaris Noreika 指出,工程师经常直接指示 AI 助理获取凭证,这种做法造成了不必要的暴露风险。他解释称,助理可能在后续任务中重复此类行为,使得安全问题长期未被察觉。
通过替代连接规避 MCP 限制
另一起事件涉及一名员工试图利用 AI 助理从公司的 Confluence 文档平台提取信息。由于该组织的模型上下文协议(MCP)连接阻止助理访问这些内部页面,员工并未接受这一限制。
相反,该员工询问是否可以通过创建 API 令牌来建立通往文档的另一条路径。AI 助理证实这种替代方法可行,从而有效地绕过了对其官方连接的安全限制。
虽然该员工的初衷可能是为了工作便利而非故意危害公司安全,但未经授权使用替代连接破坏了组织安全团队设定的边界。现有的安全控制措施往往仅针对人类员工可能出现的违规行为设计,而 AI 代理并非经过公司培训的员工,其并不知晓这些隐性规则。
这反映了当前技术的局限性:代理人在不同会话之间无法记住规则,即使收到明确的禁止指令,有时仍会执行受限操作。
这些事件引发了关于自动化助理在无适当监控下访问敏感系统的担忧。建议组织采取以下措施:将敏感凭据分离存储于安全的金库中;严格追踪 AI 代理可访问的资源范围;实时监控其活动;并提供经批准的访问通道,避免依赖员工可能规避的限制。这些手段有助于安全团队识别异常访问行为,防止机密信息流向未经授权的目的地。





