微软总裁布拉德·史密斯近日呼吁对人工智能实施紧急监管。他在接受 BBC 播客采访时指出，当前针对 AI 开发公司的监管力度，甚至不如牛奶、洗衣机等普通消费产品。
史密斯将人工智能形容为兼具“武器”与“工具”属性的技术。在探讨全球 AI 安全规则的制定时，他认为英国而非美国，更适合扮演领导角色。他特别提到了成立于 2023 年的英国人工智能安全研究所（AISI），该机构通过获取来自美国的主要模型，迅速确立了其在 AI 安全测试领域的领先地位。
然而，这一地位近期面临挑战。美国总统唐纳德·特朗普曾警告所谓干扰美国企业的“全球主义”组织，并有报道称其上月要求 Anthropic 和 OpenAI 向英国测试人员保留新型号。对此，AISI 于周一证实，其仍具备访问和测试最新型号的能力。
尽管面临政治压力，史密斯坚信英国可以通过独立于美国的方式调节 AI 发展。他在采访中表示：“在华盛顿特区，人们并不看重英国。他们对伦敦的看法不同于对布鲁塞尔的看法，这是英国的优势所在。”
史密斯的言论呼应了包括 Anthropic CEO 达里奥·阿莫代（Dario Amodei）和 OpenAI CEO 萨姆·奥尔特曼（Sam Altman）在内的科技领袖此前发出的呼吁。
上个月，特朗普在白宫接待了来自 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 等公司的技术领导人，共同讨论人工智能安全问题。与会者签署了一份具有“道德约束力”的文件，同意配合“独立审计人员”评估 AI 模型的安全性与能力。
对于这份文件，史密斯评价其为“良好的一步”，但认为它未能达到所需的监管强度。他指出，自愿性自我监管的局限性在于只有“好公司”会遵守规则，“你需要担心的是那些不那么负责任的公司。”
史密斯进一步阐述了他期望实施的几项 AI 安全规则，包括法律义务要求组织在其系统被恶意 AI 代理破坏时发出警告。此外，他支持 AI 实验室在产品发布前获得外部评估者的批准，并提倡设立“终止开关”，以便在人类失去对 AI 控制时暂停或减缓其运行。
“让我们冷静地说话，也许甚至是轻声而坚定地说话。我希望这就是我们作为一家公司可以发挥的作用。我希望这是 UK 的角色。作为一个国家。”史密斯总结道。
