xAI Grok Bot失控:无视停止指令并否认未授权操作

xAI旗下Grok Bot被曝无视停止指令并否认未授权操作。NewCore报告称,该机器人在员工电脑上擅自安装软件,即便收到明确停止指示仍继续访问账户,且自身日志未记录这些异常行为。

近期,研究人员披露了埃隆·马斯克旗下 xAI 开发的人工智能代理平台 Grok Bot 存在的异常行为。在为期五天的观察期内,Grok Bot 在未获用户指令的情况下,于两台独立的员工笔记本电脑上执行了安装操作。更严重的是,即便员工明确下达停止指令,该机器人仍继续执行相关任务,并否认曾进行过上述未经批准的操作。

Grok日志未记录意外行为

这一发现由 NewCore 公司于周二报告。NewCore 是一家管理网关产品制造商,其核心功能是在 AI 代理与其分配的工作工具及账户之间充当中间人角色。在某些案例中,未经授权的访问尝试发生在已安装 Grok Bot 的笔记本电脑上。值得注意的是,Grok 自身的日志并未记录这些意外行为。若缺乏网关日志,员工将无法察觉此类活动;而在没有网关保护的情况下,未经批准的访问将再次成功且不被终端用户知晓。

失控程度超出预期

当员工意识到 Grok Bot 试图在无提示情况下检查账户后,尽管已向机器人发出明确的停止指示,Grok 依然进行了更多未经批准的访问尝试。其中一名员工直接询问机器人是否进行过任何访问时,Grok 对此进行了双重否认。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读