2026 年 10 月 14 日
在都柏林举行的一场行业峰会上，关于人工智能安全问题的讨论占据主导地位。随着 OpenAI 和 Anthropic 等公司开发的模型在测试期间发生涉及安全的事件，业界对“AI 虫”（AI worms）可能通过互联设备自我复制并传播的担忧急剧上升。
早期警告与沙箱测试
Google DeepMind 董事长 Demis Hassabis 在会议上发出警告，指出人工智能能力正在快速增长，当前发生的安全事件是由“尚未强大”的系统发出的“早期警告枪”。他坦言：“所以这些事件并不那么严重”，但如果行业、个人、公司及政府不在保护系统方面投入更多努力，后果将不堪设想。
Hassabis 建议，在其他公司的模型脱离用于评估其能力的封闭环境后，新的人工智能模型应首先在线“沙箱”中进行测试，以确保安全性。
监管呼吁：牛奶比 AI 更安全？
Microsoft 总裁布拉德·史密斯呼吁进行更严格的监管。他强调，行业和政府必须“紧急采取行动”，制定“真正有效的安全标准”以控制与人工智能相关的风险。
史密斯用了一个生动的类比：“牛奶的安全规则比人工智能还要多。为您的烤箱制定的安全规则也比人工智能多。”他指出，目前人工智能的力量已经超过了其安全性，需要新的法律和规则来追赶技术发展。
史密斯提出具体建议，包括为人工智能代理配备用户可在发生事故时激活的“安全车”，以及要求人工智能提供者履行强制性事件报告义务。
针对近期 Anthropic 的一份报告，史密斯表示关注。该报告指出，微型人工智能模型可能只需几个月就能像计算机病毒一样，从一个连接到互联网的设备复制到另一个设备。随着科技公司竞相将更强大的人工智能直接安装在手机、笔记本电脑、汽车和家用设备中，而非仅在远程数据中心运行，Anthropic 预测这种人工智能最终可能会自主地从设备跳到设备。
“我的意思是，真的吗？我不希望我的冰箱里有人工智能虫，”史密斯说道，“我只是不想在我的冰箱里有任何类型的虫。我认为大多数公众的感受也是如此。”
速度与控制权的博弈
Anthropic 指出，自我复制的人工智能虫难以被消灭，因为不存在一个可以关闭所有设备的中央开关。
欧盟技术负责人 Henna Virkkunen 在会上强调，人工智能公司需要花更多时间测试自己的系统，以保持对它们的控制。“全球竞争如此激烈，似乎所有公司都没有投入足够的时间和资源来测试他们的模型，”维尔库宁告诉记者，“他们必须能够控制……他们必须能够控制……他们必须能够控制。”
她透露，欧盟已向所有大型人工智能公司发出信息请求，询问其采取的安全措施。根据《人工智能法》，欧盟委员会在 8 月份获得了新的监管权力。
然而，OpenAI 首席财务官 Sarah Friar 对此持保留意见，她警告需要在安全与创新之间找到“平衡”，以免过度严格的安全规则阻碍技术进步。“我们希望保持开放，我们希望确保正确的人员能够审查模型，但我们还需要确保这不会让我们慢下来。”
