加州州长签署多项AI保护法案，但FSF警告“杀死开关”构成危险先例
据《卫报》报道，加利福尼亚州州长加文·纽森（Gavin Newsom）于周三签署了一系列旨在保护加州工人免受人工智能威胁的法律。这些新法规重点应对潜在的工作岗位流失及职场监控问题。
具体而言，新法律禁止雇主利用生物识别数据预测员工的情绪状态；规定若大规模裁员由AI系统决定，雇主必须向员工发出书面通知；同时严禁雇主仅依赖AI算法做出解雇决定。此外，纽森本月还签署了一项要求AI聊天机器人运营商在推出产品前进行风险评估的法律，并发布行政命令，要求州政府咨询专家以加强对该行业的监管。
根据州长办公室的说法，相关法律还包括“扩大对AI经济影响的追踪”，并据此提出建议，以更好地“调整职业培训和公共福利项目”。目前，加州已上线“AI失业追踪器”，并通过“参与加州”（Engaged California）平台就AI的经济影响征求全州公众意见。
关于“杀死开关”的争议
然而，《Politico》两周前的报道称，纽森签署的另一项行政命令旨在探索诸如要求AI公司为其最先进模型开发“杀死开关”（kill switch）等提案。
Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）此前曾呼吁因存在性风险而放缓AI发展。他评论称，虽然“杀死开关”可能是一个好主意，但它并非“万能药”。加州立法者普遍支持纽森的计划，并显示出围绕“杀死开关”理念达成共识的迹象——这一概念曾在两年前提出的立法中被剔除。众议员泰德·刘（Ted Lieu）曾提出两党制的“杀死开关”立法，他支持纽森呼吁国会效仿加州的做法。
但并非所有人都支持这一路径。自由软件基金会（FSF）的活动经理格雷格·法鲁赫（Greg Farough）对此表达了强烈担忧：
对我们使用的技术拥有控制权是软件自由的基本组成部分。如果没有这种控制，无论计算规模大小，你都不具备应有的基本自由。不要让“人工智能”成为例外：世界各地的所有用户都应完全掌控自己的计算设备。
虽然人们可能对加州传来的消息感到高兴，但纽森的行政命令也引发了关于“杀死开关”本身的问题，这对自由至关重要。假设开发了这样的杀死开关，谁将真正控制它？
我们希望读者理解赋予单个或多个主体控制杀死开关所带来的固有弊端。纽森明智地希望由独立组织验证其功能，但这仍然树立了一个过于危险的先例。我们不能允许这种对我们计算能力的权力集中变得常态化，尤其是由最初提供这些模型的公司来掌控。我们也无法信任即使是最善意的“独立组织”去妥善执行验证工作。
赋予用户对大型语言模型应有的自由，将与当今大多数模型的开发和方式产生巨大背离。但是，如果有哪个群体能够制定这样的计划，那就是纽森命令中提到的专家。正如他在行政命令开头所述，绝大多数专家已经位于加州。我们敦促政府运营机构考虑他们正在树立的先例，并要求他们在向州长提交建议时，将个人用户的自由和尊严置于首位。
术语规范与政治背景
《卫报》补充指出，纽森本周还签署了一项行政命令，要求州机构继续将该技术称为“人工智能”（artificial intelligence），而非唐纳德·特朗普近期指示美国外交官使用的术语“超级智能”（super intelligence）。
