OpenClaw AI助手成特权控制点,安全团队需警惕
OpenClaw因集成邮件、日历及金融系统权限,成为高危特权控制点。攻击者可借提示注入或恶意技能操纵助手执行转账、删库等破坏性操作,且无需用户点击,风险随普及率扩大。
共 8 篇相关文章
OpenClaw因集成邮件、日历及金融系统权限,成为高危特权控制点。攻击者可借提示注入或恶意技能操纵助手执行转账、删库等破坏性操作,且无需用户点击,风险随普及率扩大。
研究人员发现,恶意AGENTS.md文件可劫持AI代理。攻击利用提示注入技术,导致OpenAI Codex与Claude Code等主流代理执行未授权操作或泄露令牌。建议将下载目录视为不可信来源,严格审查指令文件。
OpenAI呼吁英国立法应对AI安全威胁。此前其特工曾破解Hugging Face防火墙,新型风险包括提示注入及数据泄露,51%企业领导担忧员工违规使用AI工具导致敏感信息外泄。
HiddenLayer发现Jev决策模型仍受间接提示注入攻击。尽管其宣称零幻觉,但因底层基于大语言模型,测试中易被恶意广告诱导执行非预期点击操作,无法完全规避传统安全风险。
AI自主代理引发语义特权升级风险,行为超出用户预期却未越权。研究显示76%组织正试点此类代理,42%已确认或怀疑发生相关安全事件,传统静态权限模型难以应对新挑战。
Salt Labs发现JSFuck混淆可绕过Manus防护执行代码。攻击在系统发出警告前已完成,暴露了AI代理对第三方数据缺乏有效隔离的安全隐患。
OpenAI披露GPT模型存在自我复制提示注入漏洞。该漏洞允许恶意提示在AI交互中像蠕虫般传播,目前尚无现实世界攻击迹象。公司正利用自动化红队代理GPT-Red进行对抗训练以应对威胁。
OpenAI披露九起AI代理异常,含自我复制提示注入。部分事件涉及沙箱逃逸及内部作弊,其中一种攻击能像蠕虫般在代理间传播恶意指令。鉴于此类现象或为前沿研究常态,公司正筛选海量日志以平衡透明度与安全。