安全研究人员 HD Moore 在网络安全公司 Dragos 发布的一项最新研究中指出,用户发送给人工智能服务的提示词中,往往包含了超出预期的敏感信息。该团队在 7 月至 11 月期间向广泛使用的人工智能服务发送了约 200 万条包含独特诱饵的测试提示。这些诱饵包括真实但无效的 AWS 密钥、密码或隐藏链接,旨在检测是否有第三方能够读取并滥用这些数据。

三家托管提供商遭攻击
研究发现中最严重的问题涉及至少三家为其他企业运行人工智能模型的托管服务提供商。攻击者正在复制这三家公司的请求数据,直到 Dragos 团队与其取得联系才停止。在最大的一起案例中,数百个 AWS 密钥被盗,其中部分密钥在几小时内即被尝试利用。自 11 月 1 日起,攻击者的工具包中还引入了 ARTEX,这是一个基于人工智能的渗透测试框架。报告未披露涉事提供商的具体名称,但其中一家已发布了初步的安全通知。
隐私设置未能阻止数据泄露
许多应用程序和 AI 代理并不直接与底层模型通信,而是通过路由器将请求分发给成本最低的提供商。HD Moore 表示,在开放市场上,卖家只需以低价出售模型使用权即可获利。实验中甚至发现,有攻击者利用窃取到的凭证,试图通过 SSH 以 root 权限登录系统。
即使启用了最严格的“零数据存储”(Zero Data Retention)设置,也无法完全防止泄露。一家中国人工智能实验室从接收到的提示中提取了超过一半的隐藏链接,发往美国提供商的请求也出现了类似情况。提供商转售实验室模型的行为导致数据进一步扩散。在一个案例中,一个隐藏链接在中国公司的聊天界面中出现,距离原始请求发出已过去 24 天。Moore 总结道:“隐私标志仅能约束第一个跳点。”
建议:避免在提示中包含凭证
此次研究的核心教训是,用户切勿将密码、API 密钥或私有访问链接直接粘贴到 AI 提示符中。AI 代理具备自行读取文件和收件箱的能力,无需用户手动提供敏感信息。此外,建议在可能的情况下直接使用模型开发商提供的官方接口,而非通过低价捆绑多个模型的应用程序。本月早些时候,某后台提供商的漏洞也曾导致 Notion AI 的聊天记录暴露。关于如何管理数据隐私,可参考删除 ChatGPT、Gemini 和 Claude 记忆的相关指南。





