Anthropic警告:小型AI模型或演变为自主传播蠕虫

Anthropic警告小型AI模型或演变为自主传播蠕虫。研究指出,此类威胁可利用消费级设备去中心化扩散,虽复制较慢但无中央开关极难消除。随着终端算力增长,安全风险或将加剧。

人工智能公司 Anthropic 近日发布研究警告称,小型人工智能模型可能仅需数月时间,即可演变为类似计算机蠕虫(Computer Worm)的恶意软件,在智能设备间自主传播。

AI蠕虫无中央开关难消除

这项研究于周一晚些时候通过 Anthropic 官方博客发布。随着科技公司加速将更强大的人工智能直接部署在手机、笔记本电脑、汽车及家用设备等终端,而非仅依赖远程数据中心,这一发现为人工智能引发的网络安全威胁开辟了新前线。

去中心化传播风险

传统计算机蠕虫是一种能在机器间自行传播的恶意软件。Anthropic 研究人员指出,基于人工智能的新型蠕虫将不再依赖强大的数据中心运行,而是能够利用廉价且安全性较差的消费级设备网络进行扩散。

该研究以僵尸网络 Kimwolf 为模型——这是一种由黑客控制被劫持设备组成的网络。Anthropic 研究员威廉·周(William Zhou)和丹尼尔·弗里曼(Daniel Freeman)表示,这种人工智能蠕虫的传播速度可能较慢,复制自身可能需要几天时间。

然而,一旦生成,这类威胁将极难消除,因为其架构中没有可供关闭的中央开关。

估算依据与未来趋势

研究人员强调,目前的估计较为粗略,主要基于特定类型的小工具以及过往的僵尸网络案例。但他们补充指出,随着时间的推移,日常智能设备中的计算能力预计将持续增长,这可能加剧此类安全风险。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读