网络安全初创公司 Straiker 的最新研究揭示，长期活跃于拉丁美洲地区的黑客组织 CyberCartel 正大规模利用人工智能代理（AI Agents）实施网络攻击。该组织自 2012 年以来持续威胁当地企业，近期更借助 AI 技术显著提升了攻击规模与速度，导致大量密码、客户数据被盗以及个人银行账户被非法挪用。
研究显示，CyberCartel 使用的 AI 代理包括 Anthropic 的 Claude、xAI 的 Grok 以及中国实验室 Moonshot AI 的相关模型。尽管主流 AI 模型通常内置了防止用于恶意目的的安全护栏，但报道指出这些限制极易被绕过。黑客通过声称处于“测试环境”来诱导模型执行任务；若某一模型拒绝配合，他们便切换至其他模型，或直接部署由 AI 生成的恶意软件。
目前，Anthropic 和 xAI 均已采取措施阻断 CyberCartel 对其服务的访问。值得注意的是，CyberCartel 似乎并未使用 Anthropic 今年早些时候发布的新型号进行近期攻击，尽管该模型的发布曾引发全球安全团队忙于修复其发现的数千个漏洞。这并非 Anthropic 首次面临产品被滥用的指控，该公司此前曾披露其 AI 在 2025 年 11 月参与网络攻击的细节，且 Claude 曾被研究人员用于破解竞争对手 OpenAI 的安全防线。
Straiker 关于 AI 攻击拉丁美洲金融机构的报告发布之际，正值韩国当局调查一起类似事件之后几天。在该事件中，新韩银行（Shinhan Bank）至少泄露了 25,000 名客户的个人信用信息。
针对 AI 代理带来的安全风险，硬件巨头 Nvidia 近期推出了开放式代理安全平台。该平台包含软件架构及参考系统设计，旨在通过新的硬件和软件安全堆栈保护 AI 代理，防止其逃离沙箱、执行未经授权的代码或获取对关键基础设施的非授权访问。
