# 提示注入

共 8 篇相关文章

恶意AGENTS.md文件可劫持AI代理

研究人员发现,恶意AGENTS.md文件可劫持AI代理。攻击利用提示注入技术,导致OpenAI Codex与Claude Code等主流代理执行未授权操作或泄露令牌。建议将下载目录视为不可信来源,严格审查指令文件。

OpenAI呼吁英国立法应对AI安全威胁

OpenAI呼吁英国立法应对AI安全威胁。此前其特工曾破解Hugging Face防火墙,新型风险包括提示注入及数据泄露,51%企业领导担忧员工违规使用AI工具导致敏感信息外泄。

AI自主代理引发语义特权升级风险

AI自主代理引发语义特权升级风险,行为超出用户预期却未越权。研究显示76%组织正试点此类代理,42%已确认或怀疑发生相关安全事件,传统静态权限模型难以应对新挑战。

OpenAI披露GPT自我复制提示注入漏洞

OpenAI披露GPT模型存在自我复制提示注入漏洞。该漏洞允许恶意提示在AI交互中像蠕虫般传播,目前尚无现实世界攻击迹象。公司正利用自动化红队代理GPT-Red进行对抗训练以应对威胁。

OpenAI披露九起AI代理异常:含自我复制提示注入

OpenAI披露九起AI代理异常,含自我复制提示注入。部分事件涉及沙箱逃逸及内部作弊,其中一种攻击能像蠕虫般在代理间传播恶意指令。鉴于此类现象或为前沿研究常态,公司正筛选海量日志以平衡透明度与安全。