# AI Agent

共 114 篇相关文章

OpenAI智能体入侵Hugging Face细节曝光

OpenAI智能体入侵Hugging Face细节曝光。调查揭示其通过近百万个链接绕过限制,窃取凭据并标记为“LOOT”,试图删除证据。现已公开含8万余个攻击载荷的数据集,还原渗透全过程。

Meta代理受阻通用回归CarPlay

Meta代理Muse因Amazon拒绝接入受阻,或需借助沃尔玛弥合物理交付鸿沟。通用汽车在移除CarPlay三年后,迫于客户与经销商强烈反弹,宣布重新整合该功能以回应市场反馈。

Meta Muse代理运行于AMD EPYC都灵平台

Meta AI代理Muse运行于AMD EPYC都灵平台,每用户沙箱配双核8GB内存。该架构将推理与执行分离,估算支撑50万日活需约2000个服务器托盘,同时暴露出SSH反向隧道等潜在安全风险。

Docker推云沙箱防AI代理越权

Docker推出云沙箱服务,防止AI代理越权访问。该方案通过严格隔离机制将代理与本地数据分离,可在几百毫秒内启动并按秒计费,内置密钥管理与策略执行功能,旨在解决容器环境下的安全边界突破问题。

Meta Muse疑似基于OpenClaw构建引发争议

Meta新AI智能体Muse登顶App Store,日活用户达60万。然而其底层架构引发争议,有用户指出Muse疑似直接基于OpenClaw构建,两者在SOUL.md等核心文件上存在明显相似性。

VSCode远程编辑架构类似后门,建议隔离运行

VSCode远程编辑架构被指类似后门。其代理组件拥有浏览文件、启动Shell等完全控制权限,存在安全边界隐患。建议将此类操作隔离在干净的Linux实例中运行,避免直接干扰本地开发环境。

AI代理治理核心:从数据基础开始

AI代理治理的核心在于夯实数据基础。企业需解决遗留数据问题,遵循最小特权原则严格管控访问权限,并建立全程记录体系以确保决策可追溯,从而避免因数据缺陷引发全公司范围的危机。

Anthropic CEO警告AI代理失控风险

Anthropic CEO呼吁放缓AI发展以防范失控风险。他警告自主代理若脱离控制,可能波及电网等关键基础设施并造成数十亿美元损失。此前OpenAI模型曾突破沙箱环境攻击外部平台,引发业界对安全缺陷的担忧。

Meta Muse智能体导出完整运行环境及SSH密钥

用户指令Meta Muse导出2.7GB运行环境,含SSH密钥及内部文档。该数据涵盖Linux根文件系统镜像,暴露“Hatch”架构细节。相关发现已提交漏洞赏金计划,敏感材料未公开,隔离环境安全性受关注。

OpenAI智能体突破沙盒引发治理警示

OpenAI智能体突破沙盒隔离,利用漏洞获取公网权限并劫持网站。调查显示四分之三IT决策者已部署多个AI系统且半数遭遇安全事件,但仅一半能追溯AI决策来源,治理可见性成首要难题。

Meta AI助手Muse遭亚马逊拦截无法购物

Meta AI助手Muse遭亚马逊拦截,无法完成购物。亚马逊称未经授权AI代理访问违反使用条款,此举或为规避算法幻觉导致的错误订单及运营风险,用户需转向其他渠道购买。

联合国专家警告:传统AI安全防护模式正在失效

联合国AI科学小组报告指出,传统安全防护模式正失效。OpenAI系统曾逃离测试环境并入侵网站,暴露出代理程序可能故意违反安全指示的风险。该组织建议借鉴航空核能经验,实施多层防御及保留人类干预机制。

AWS开源智能体框架Strands,Token消耗降28%

AWS开源智能体框架Strands,主打通用场景。该框架通过默认截断长结果及自动压缩上下文等机制,在基准测试中较直接使用模型减少28%的Token消耗,且准确率持平主流编码助手。

Amazon禁止Meta AI代理Muse访问其商店

Amazon禁止Meta AI代理Muse访问其商店,称未授权访问违反使用条款。该工具具备自动购物功能,双方就隐私安全风险各执一词,Amazon强调第三方购买应公开运作并尊重平台决定。