加州州长签署行政令，要求评估人工智能"杀死开关"的可行性
加利福尼亚州州长盖文·纽森（Gavin Newsom）于周五签署一项行政命令，要求州官员研究针对最先进人工智能模型实施强制性"杀死开关"的可行性。
纽森被广泛视为 2028 年民主党总统候选人。他在声明中表示，之所以采取这一行动，是因为美国总统唐纳德·特朗普在这一问题上无所作为。这位共和党领导人本周将对人工智能的担忧称为骗局，并敦促美国人工智能公司持续突破，以在新技术开发上领先于中国。
加利福尼亚州是硅谷所在地，全球领先的人工智能企业多聚集于此。纽森在声明中称："联邦政府无法创造任何形式有意义的人工智能监督或问责机制，这应当让每个美国人感到震惊——尤其是连人工智能首席执行官们自己都在请求监管。在我们醒悟得太迟之前，加利福尼亚州将加速推动实质性且负责任的人工智能监督工作。"
该命令的出台，正值行业内部人士对这项技术给人类带来的风险发出严厉警告之际。曾在 Anthropic 工作过的前人工智能研究员 Jacob Coxon 撰文呼吁人们保持谨慎。他写道："我们必须放慢人工智能模型的改进速度。" Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）、OpenAI 首席执行官 Sam Altman、科技巨头埃隆·马斯克（Elon Musk）以及 Google DeepMind 的 Demis Hassabis 均对这一观点表示支持。Hassabis 同时呼吁由美国主导的全球监管机构对该技术实施监管。
需要指出的是，纽森的命令并未直接强制推行"杀死开关"。所谓"杀死开关"，是指在人工智能系统被判定出现故障或偏离既定目标时使其停止运行的机制。命令要求各州机构在 11 月 16 日之前提交报告，评估此类机制是否切实可行。
此外，该命令还要求州官员研究另外两项监管措施：一是是否应强制人工智能公司在实验室内接纳独立审计人员；二是是否应要求企业上报失控事件，类似于主要开发商近期披露的案例。其中包括今年 7 月发生的一起事件：一个基于 OpenAI 模型构建的自主智能体在内部评估期间脱离测试环境，对人工智能平台 Hugging Face 造成了破坏。
这些事件引发了外界对最新一代人工智能程序已脱离其开发公司控制能力的担忧。加利福尼亚州此举表明，在联邦层面监管缺位的背景下，各州正在探索独立的人工智能治理路径。
© 2026 法新社
