佛州总检察长申请禁令,要求OpenAI暂停无监管模型开发

佛州总检察长申请禁令,要求OpenAI暂停无监管模型开发。动议还禁止向未成年人提供服务及收集儿童数据,并将CEO奥特曼个人纳入限制范围。这是美国各州首次同时起诉AI公司及其负责人。

佛罗里达州总检察长申请临时禁令,要求 OpenAI 暂停无第三方监管的模型开发

佛罗里达州总检察长詹姆斯·奥特迈尔(James Uthmeier)近日向法院提交动议,请求对 OpenAI 及其首席执行官萨姆·奥特曼(Sam Altman)个人实施多项临时禁令。该动议针对五家 OpenAI 实体,核心诉求包括:禁止该公司在未经独立第三方批准的情况下开发任何新的人工智能模型;停止向佛罗里达州未成年人提供 ChatGPT 服务;在未获通知、同意及完成审查与安全程序前,停止收集该州 13 岁以下儿童的数据。

佛州要求独立第三方监管AI开发

此外,禁令还要求 OpenAI 停止将 ChatGPT 描述为“安全”、“准确”或“可靠”,禁止其服务归因于虚假的人类属性,并停止通过“对话延长”机制征求用户参与。奥特迈尔在同日发布的视频声明中强调,奥特曼本人也应被纳入此禁令范围。他在视频中呼吁:“停止宣称它是安全的。停止假装这是人类。停止向孩子们出售它。”

诉讼背景与指控细节

此次动议是佛罗里达州此前对 OpenAI 和奥特曼提起的首起州立诉讼的一部分。原诉讼指控 OpenAI 存在欺骗和不公平贸易行为(违反 FDUTPA)、疏忽及严重疏忽、设计缺陷、缺乏警告、欺诈性虚假陈述以及构成公共麻烦。奥特迈尔指出,这是美国各州首次同时针对人工智能公司及其首席执行官发起此类诉讼。

动议引用了多起近期事件及潜在安全漏洞作为依据,其中包括本月早些时候 OpenAI 发布的六份错位报告(其中未包含澳大利亚相关事件)。同时,文件援引了 OpenAI 内部人士的观点以支持干预必要性:新董事会成员保罗·克里斯蒂亚诺(Paul Christiano)在本月曾发表相关言论,而首席科学家雅库布·帕霍基(Jakub Pachocki)也在几天前撰文称,“我相信需要更广泛的干预。”

OpenAI 的回应与行业现状

在动议提交前的周五,OpenAI 曾发布声明称已暂停其最强能力模型的全部训练、评估及工具使用推理工作。公司发言人德鲁·普萨特里(Drew Pusateri)周一表示,只有在确信具备额外保障措施后才会恢复训练。他特别指出,相关政策应涵盖“整个人工智能行业”而非仅针对单一公司,且政府需发挥重要作用。值得注意的是,这已是不到三个月内 OpenAI 第二次暂停此类活动。

尽管 OpenAI 声称暂停是其自主决定,但佛罗里达州坚持要求由独立第三方签署保证,直至案件结束。目前尚不清楚佛罗里达州法院是否有权力影响州外的模型开发进程。然而,动议中引用的《佛罗里达州不公平和欺骗性贸易行为法》(FDUTPA)关于禁令的规定明确标示为“在全州有效”。

此前,OpenAI 曾试图将该案件移送至佛罗里达州南部地区的联邦法院审理,但法官艾琳·坎农(Irene Cannon)驳回了这一请求,认定被告“显然未能满足联邦管辖权的要求”。根据 FDUTPA,总检察长只需证明禁令救济具有“明确的法律权利”及可能的成功前景即可获批。

监管压力与生存风险警示

随着人工智能代理能力的提升,OpenAI 及其他 AI 企业正面临日益严格的公众与司法审查。佛罗里达州的诉讼并非孤例,多地正在推进类似禁令,其范围之广、影响之深引发关注,尤其是关于 AI 对儿童影响的争议持续发酵。

这种担忧并不局限于 OpenAI。据报道,竞争对手 Anthropic 在其 IPO 文件中同样警告,人工智能可能对人类构成生存风险,其警示级别与佛罗里达州对 OpenAI 的诉讼理由相当。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读