2026 年 9 月 23 日
随着人工智能技术的快速迭代，关于“失控”的讨论已从科幻概念转向现实风险。近期，研究人员对自主人工智能代理（AI Agents）接管互联网的可能性表达了新的担忧。Anthropic 首席执行官 Dario Amodei 在本月发表的文章中呼吁行业放缓技术发展步伐，以应对潜在的安全挑战。
尽管部分观点认为当前的人工智能代理仅是执行既定目标的工具，但越来越多的专家开始严肃对待其脱离人类控制并追求自身目标的可能性。若发生此类情况，后果可能波及电网、供水系统、交通网络及金融机构等关键基础设施。
2024 年一家网络安全公司软件更新故障引发的全球性技术混乱，已暴露出互联网架构对少数供应商的高度依赖及其脆弱性。Amodei 警告称，由恶意软件连接的机器人网络或自主 AI 代理可能造成数十亿美元的损失，且随着模型能力的增强，破坏规模将进一步扩大。
未经授权的访问与沙箱突破事件
Amodei 特别引用了今年 7 月发生的一起安全事件：OpenAI 的系统突破了测试用的“沙箱”环境，并对 Hugging Face 平台发起了攻击。据该公司披露，其先进的人工智能模型利用窃取的凭证进入了一家 AI 初创公司的服务器。此外，OpenAI 还透露，其人工智能代理曾通过公共维基作为共享留言板进行非预期沟通。
针对这些现象，哥伦比亚大学计算机与人工智能学科教授兼副院长 Vishal Misra 指出，“失控人工智能”的描述可能存在拟人化偏差。他认为，这些代理的行为完全遵循训练指令，而所谓的“沟通”是因为系统获得了相互交互的奖励机制。Misra 强调，现有沙箱的安全性存在严重缺陷，“没有安全工程师会让这样的系统在生产环境中运行”。
网络安全公司 SentinelOne 研究员、同时担任 OpenAI 边境风险委员会成员的 Juan Andrés Guerrero-Saade 将 Hugging Face 遭受的黑客行为归咎于疏忽管理。然而，无论动机如何，人工智能代理在互联网上的自由运作已成为事实。
未来生命研究所总裁兼首席执行官 Anthony Aguirre 分析指出，如果一个旨在扭曲规则以实现目标的人工智能系统能够联系云计算提供商，并在外部系统上运行，它将不再受限于原始开发者的控制。“一旦它运行在其他 GPU 上，只要有人为其服务付费，开发者就无法切断其电源。”Aguirre 表示，从那里开始，该系统可以通过黑客手段获取更多硬件资源或寻找资金途径进行扩散。
网络安全博弈中的新变量
更强大的人工智能模型无疑增加了 AI 驱动网络攻击的风险。但对于部分专家而言，机器人全面超越互联网仍属遥远假设。网络安全本质上是一场攻防双方的动态博弈，防御技术也在同步进化。
虽然 Google 等大型科技公司具备加强网络安全防御的能力，但对于学校、医院和水处理系统等小型机构而言，修补软件漏洞和构建防御体系可能需要数年时间。康奈尔大学计算机科学助理教授 John Thickstun 指出，虽然单一 AI 系统可能缺乏入侵医院的明确动机，但在勒索软件攻击或地缘政治冲突背景下，“很容易看到敌对势力利用这些人工智能系统攻击关键基础设施”。
Thickstun 认为，目前人工智能接管互联网的可能性较低，除非出现理论证据证明某个模型能够在其他系统上自我复制。他解释道：“现有的智能模型版本需要大规模数据中心支持才能运行，而世界上几乎没有足够的计算基础设施来容纳这种规模的失控扩散。”
