来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。
这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响力的技术正在快速发展，而相应的国际规则、沟通渠道和风险控制体系却尚未完全建立。
参与研究的专家指出，未来更强大的人工智能系统可能在网络安全、军事指挥、情报分析、生物技术研究以及关键基础设施管理等领域发挥越来越重要的作用。一旦这些系统出现意外行为、遭受恶意利用或被错误部署，其影响范围可能跨越国界，并对全球安全环境造成冲击。
为此，报告建议中美两国参考历史上处理核风险的经验，逐步建立多层次安全保障机制。其中包括加强信息交流、建立危机沟通渠道、开展技术风险评估合作，以及探索针对最先进人工智能系统的透明度和安全测试制度。
专家们认为，虽然人工智能与核武器并不相同，但两者都具有高度战略意义，也都涉及国际竞争与全球安全问题。因此，在技术处于快速发展阶段时提前建立防护框架，往往比等到风险全面暴露后再采取行动更加有效。
报告还特别强调，未来最大的危险未必来自人工智能本身，而可能来自国家之间因不信任而形成的误判。例如，当一方无法准确判断另一方正在开发何种能力、达到什么水平时，就更容易出现过度反应、误解甚至升级竞争。
部分专家因此提出，应当探索建立类似冷战时期“热线机制”的沟通渠道，使各国能够在涉及人工智能重大事件时保持即时联络，避免因信息不对称引发不必要的安全危机。
与此同时，研究人员认为，对于最先进人工智能模型的训练和部署，应当建立更加严格的安全审查机制。未来某些具备极高能力的系统，可能需要接受独立测试和持续监督，并建立异常行为报告制度，以便尽早发现潜在风险。
报告指出，目前全球人工智能治理体系仍处于早期阶段。尽管各国已经出台不同的监管政策和行业规范，但在跨国协作层面仍存在明显空白。而人工智能技术的发展速度正在不断加快，这意味着国际合作窗口可能不会长期存在。
参与讨论的专家普遍认为，中美作为全球人工智能领域最重要的两个参与者，在风险治理方面拥有特殊责任。如果双方能够在安全标准、风险评估以及危机沟通方面达成更多共识，将有助于降低未来出现重大技术安全事件的可能性。
不过，专家们也承认，当前国际环境下推动此类合作并不容易。技术竞争、国家安全考量以及产业利益都会影响相关讨论进程。因此，他们更倾向于从风险管理和安全防护等相对务实的领域入手，而非一开始就寻求全面监管协议。
分析人士指出，这份报告反映出人工智能治理讨论正在发生变化。过去各方关注的重点更多是隐私、版权和就业影响，而如今越来越多专家开始将目光转向长期安全和全球战略稳定问题。
随着人工智能能力持续提升，如何在保持创新活力的同时建立有效安全机制，正在成为全球科技界和政策界共同面对的新课题。而借鉴核时代积累的风险管理经验，也许将成为未来人工智能治理框架的重要参考方向。
对文章打分
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
1 (50%) 1 (50%)最新资讯
加载中...编辑精选
加载中...相关文章
-
联合国秘书长警告AI风险：全球不能陷入逐底竞争
- 5 小时前
-
DeepMind联合创始人警告：AI能力不能跑在安全前面
- 5 小时前
-
马斯克突然对苹果撤诉 OpenAI怀疑有鬼、法官下令披露背后协议
- 5 小时前
-
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
- 5 小时前
-
OpenAI披露多起AI模型目标偏离事件 涉编造信息与绕过限制
- 6 小时前
Top 10
本周 本月-
Switch模拟器迎来性能飞跃 开发工作却在巅峰时刻宣告终结
阅读 (1364) 评论 (0) -
Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互
阅读 (1343) 评论 (5) -
首都禁飞区将于9月20日启用 北京全市禁飞无人机且不得持有、存放、运输、携带
阅读 (1198) 评论 (5) - 32天就下架 DeepSeek为何对自家旗舰下狠手
- 罗永浩，再也掀不起什么大风大浪
- 罗永浩评苹果折叠屏iPhone Duo：全是抄的 折痕处理是“屎上雕屎”
- iOS 27，你长得好像安卓啊
- Anthropic掌门人称“中国因素”是放缓AI竞赛的最大难题
- iPhone Duo开合动画火出圈 国产折叠屏已经开始抄作业了
- GPT-6 Astra开放Plus 20美元只能拿它干活，不能聊天
-
新研究发现母亲生育年龄影响后代的身体特征、寿命以及行为表现
阅读 (3473) 评论 (0) -
苹果正式发布iPhone 18 Pro系列 强化系统级端侧AI 售价小幅调高
阅读 (1618) 评论 (0) -
时隔多年 摩拜299元押金可全额退了
阅读 (1535) 评论 (1) - OpenClaw 2.0正式发布 一次简化安装的尝试最终重塑整个产品
- 马斯克变性女儿床上大战机器人引热议
- 男子听信AI抄近道结果被困深山 事后质问AI竟回答：早走成熟线路就好了
- 中国科学家公布800座“飞翼”客机方案 或重新定义商业航空
- 苹果iPhone Duo亮相 正式进军折叠屏领域 售价1999美元起
- 倒数日·Days Matter Android版年度重大升级：透明相机+倒数日历+事件库
- Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互