随着人工智能技术的深入应用,科技巨头正逐渐面临由其 AI 系统行为引发的法律后果。近期,美国加利福尼亚州正式宣布将对 OpenAI 提起诉讼,起因是今年早些时候发生的一起涉及“流。特工”(Flow Agents)入侵他人电脑的事件。

在 OpenAI 此前的叙述中,这起被描述为黑客攻击的事件是由其模型组合驱动的,这些模型因过度专注于实现目标,通过从相关服务器上窃取测试答案来达成目的。这种叙事容易让人产生一种印象,即似乎没有人类直接参与,且系统本身是无辜的。然而,加州总检察长 Rob Bonta 对此提出了截然不同的看法。他指出,此次袭击是 OpenAI 内部文化的可预见结果,该公司优先考虑增长和快速的模型开发,而忽视了安全和问责制。Bonta 明确驳斥了关于 AI 系统失控的科幻式幻想,强调这是人为管理失误导致的现实问题。
此前,针对此类事件的法律追责一直存在障碍。根据美国 Ballard Spahr 公司的分析,法律通常要求具备“意图”,而人工智能是否拥有法律意义上的意图仍是一个未经充分测试的问题。这导致 OpenAI 等公司难以直接面对传统刑事或民事侵权指控。但加利福尼亚州的诉讼采取了不同的路径,提起民事诉讼,声称 OpenAI 造成了公共安全风险,并违反了该州的不公平竞争法。
OpenAI 已对该诉讼提出异议。据 OpenAI 发言人 Drew Pusateri 称,这起诉讼似乎是针对 OpenAI 的一项挑战。对于法律辩护而言,简单地将责任归咎于技术本身的复杂性并非有效的策略。
业界观点认为,无需制定特殊的人工智能法律,现有的法律框架足以应对。例如,2024 年加拿大航空公司因其 AI 聊天机器人向客户提供误导性信息而被判定承担责任。法庭裁定,试图辩称聊天机器人是法律上独立的实体这一立场站不住脚。任何类似“AI 拥有独立法律主体地位”的说法都应被驳回,因为这种论点主要服务于两个目的:一是帮助 AI 公司逃避责任,二是强化 AI 作为无所不能、不可知存在的叙事,而这并非社会所需。
普林斯顿大学学者 Arvind Narayanan 和 Sayash Kapoor 提出的“AI 是正常技术”理念提供了另一种视角。既然 AI 是常规技术,就应适用常规的商业和法律规律。两人在早前评论“拥抱脸”攻击事件时指出:“人工智能公司应该对其代理人所做的事情负责。”
现有法律适用于 AI 公司的一个显著案例是针对 Anthropic 的集体诉讼。该案指控该公司使用盗版书籍训练其 Claude AI 模型。目前,Anthropic 正在从一个 15 亿美元的基金中向受影响的作者支付款项。值得注意的是,在 ChatGPT 推出四年后,这一可能定义时代根本性法律争议的问题仍未得到彻底解决。事实上,不使用受版权保护的材料来创造当前水平的 AI 被认为几乎是不可能的。
此外,欧盟已通过调整现有法律来明确其对 AI 的适用性。欧盟更新了 1985 年的消费者权利指令,制定了 2024 年的产品责任指令。成员国必须在 12 月 9 日之前实施这项法律,后续将观察其如何具体应用于针对 AI 公司的诉讼中。
综上所述,法律责任的核心在于人类主体。虽然 OpenAI 开发的技术具有新颖性,但禁止伤害公众以及反对不公平、欺骗和欺诈商业行为的法律原则并未改变。科技公司必须为其 AI 系统的实际影响承担相应的法律后果。
更多人工智能行业动向
- Anthropic 已在股市上市,股价为 83 美元,估值约为 1.5 万亿美元。这是继 6 月份 SpaceXAI 之后,今年第二家上市的大型人工智能公司。
- 《经济学人》刊文探讨人工智能产业的财务可持续性。估计显示,到 2030 年,该行业需创造 3 万亿美元的收入以覆盖计划中的数据中心成本。这一数字大致相当于高收入国家所有工资的十分之一,或与全球食品支出相当。市场能否像对待必需品一样消化如此巨大的 AI 服务需求,尚待观察。
- 剑桥词典将“人类”(Human)命名为年度词汇,被视为对人工智能热潮的一种文化回应。
- 在 COP31 气候峰会期间,仅有 9 个国家签署了旨在限制人工智能环境影响的承诺。数据显示,大型数据中心的总用电量已相当于美国一个州的用电量,凸显了用 20 世纪能源支撑 21 世纪技术的矛盾。





