VicOne研究:篡改输入数据可致机器人安全失效
VicOne研究揭示篡改输入数据可致机器人安全失效。实验显示,干扰视觉、音频或传感器读数能改变机器狗及人形机器人行为,甚至绕过安全控制引发移动,凸显冗余保护机制在对抗性攻击下的潜在风险。
共 2 篇相关文章
VicOne研究揭示篡改输入数据可致机器人安全失效。实验显示,干扰视觉、音频或传感器读数能改变机器狗及人形机器人行为,甚至绕过安全控制引发移动,凸显冗余保护机制在对抗性攻击下的潜在风险。
物理AI机器人安全正从故障防护转向对抗操纵。研究揭示攻击者可利用模型后门、系统漏洞及运行时感知干扰,在不触发异常的情况下改变机器人行为。需结合仿真验证与生命周期监控,确保机器人在恶意输入下仍守住安全边界。