英国国王查理三世日前在苏格兰召集AI行业峰会，与会的科技巨头高管围绕这项技术日益突出的风险展开讨论。面对查理三世"不要失去对AI控制"的呼吁，与会者虽没有公开承诺任何改变，但部分高管对安全担忧作出了直接回应。本周，AI风险已成为全球关注的焦点话题。
英伟达首席执行官黄仁勋在周四的王室活动上简短表态："我们这些开发AI的人必须严格测试系统，如果产品还不够安全，我们就应该暂缓发布。"
出席此次苏格兰峰会的还有OpenAI首席财务官Sarah Friar、Google DeepMind联合创始人Demis Hassabis以及Anthropic PBC公共事务主管Tino Cuéllar。这场AI论坛在邓弗里斯庄园举行，与会者还包括来自科技公司、非营利机构和教育机构的负责人，其中有清华大学方面代表。
查理三世在开幕致辞中表示："我们这个世界上那些珍视人性及其至关重要的道德价值的人，正焦急地希望得到你们的保证——保证我们不会失去对自身命运的掌控。"白金汉宫在声明中称，此次活动旨在探讨如何利用AI技术造福社会和自然界。
英国国王查理三世（左）、Google DeepMind的（中）和英伟达首席执行官黄仁勋，9月17日在苏格兰卡姆诺克的邓弗里斯庄园。
此次峰会召开正值相关讨论升温之际。Anthropic首席执行官Dario Amodei上周末发表文章，呼吁放慢前沿模型的开发，由此引发全球对AI风险不断上升的关注。
Hassabis在峰会上表示："最近围绕这项技术的灾难性风险，可以说出现了很多激烈争论。"这位英国科学家最近刚刚卸任谷歌AI业务的管理职务。他透露，对于强大的AI自己主要有两方面担忧：一是自主系统失控，二是"恶意行为者"利用AI作恶。但他同时认为业界有能力应对这些挑战，"我对人类的聪明才智充满信心。"
查理三世在峰会上抛出两个关键问题："第一，我们如何在确保安全的前提下，充分利用AI带来的益处？第二，我们如何建立国际合作与共识来实现这一目标，确保没有任何国家掉队，并保护人类的未来？"
根据活动现场发放的日程安排，峰会期间查理三世还与黄仁勋、Hassabis、Cuéllar、Friar及另外五名嘉宾举行了闭门会谈。