微软 CEO 纳德拉：AI 模型需配备“紧急刹车”机制
图片来源：丹·德龙
2026 年 10 月 10 日，太平洋时间下午 2:47，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）在社交平台 X 上发布文章，呼吁业界重新评估人工智能的信任体系。
纳德拉指出，不能将超级智能视为一组嵌套的黑盒，简单地接受或拒绝其建议、答案和行动。他主张一种新的治理方法，即“将模型与主导其工作的带分开”，并将控制和保护措施外部化。
根据纳德拉提出的框架，每一个有意义的模型行动都必须记录有“防改的人类可读证据”。此外，系统中的授权人员必须始终具备中途暂停或关闭模型任务的能力。
纳德拉强调，我们必须假设模型可能被泄露，并从一开始就对其进行控制。他将这种安全理念比喻为给 AI 模型安装一个“紧急车”（Emergency Brake），以确保在必要时能够立即停止运行。
这一表态紧随 Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）发布更为谨慎的 AI 开发计划之后，反映了科技巨头对前沿模型安全性关注的升级。
