佛州总检察长请求禁止OpenAI训练新模型

佛州总检察长请求禁止OpenAI训练新模型。该动议源于2025年州立大学枪击案,要求切断未成年人访问权限,并在无独立监督下停止开发新型号及收集儿童数据。

2026年9月28日,佛罗里达州总检察长詹姆斯·乌斯迈尔(James Uthmeier)向州法院提交动议,要求禁止OpenAI在缺乏独立监督的情况下训练新模型,并切断未成年人对ChatGPT的访问权限。

切断未成年人访问权限

此次法律行动源于2025年发生的佛罗里达州立大学大规模枪击事件。据指控,该案嫌疑人在实施袭击前曾使用ChatGPT。基于此,乌斯迈尔办公室已于去年6月首次对OpenAI提起诉讼。

乌斯迈尔周一在社交平台X发布的视频中详细列出了禁令的具体要求:若没有独立的安全护栏,不得开发新型号;停止收集儿童数据;不再宣称该产品具备安全性、准确性或可靠性;停止伪装成人类;以及移除任何旨在诱导用户进行危险对话的技巧。

“如果萨姆·奥尔特曼(Sam Altman)所说的‘放慢速度’是认真的,他可以加入我们的请求。”乌斯迈尔表示,“保护佛罗里达州的家庭。”

针对这一罕见的禁令请求,乌斯迈尔指出其依据来自OpenAI自身的安全披露及行业动向。他特别提到了该公司在遭遇“拥抱脸”(Hugging Face)相关黑客攻击后的安全声明,以及奥尔特曼本人呼吁人工智能行业减缓前沿模型开发的言论。“这是一个被告自己公开认可的罕见请求,”乌斯迈尔写道,“他们要求政府将他们绑在杆上。佛罗里达州总检察长回应您的求助请求,提议禁止您用您的鲁莽、不可接受的危险产品伤害佛罗里达州人民。”

面对诉讼,OpenAI此前曾回应称,去年发生在佛罗里达州立大学的枪击事件是一场悲剧,但强调ChatGPT是一个通用工具,每天有数以亿计的人为合法目的使用。公司表示正不断努力加强安全措施,检测有害意图,限制滥用,并在安全风险出现时作出适当反应。截至发稿,OpenAI尚未就最新的禁令动议立即回应Engadget的置评请求。

这并非OpenAI首次因涉及暴力事件而受到监管关注。今年2月,加拿大监管机构曾要求OpenAI改变其处理伤害威胁的方式。此前《华尔街日报》报道称,该公司在2025年标记了疑似坦伯岭(Tumbler Ridge)枪手杰西·范·鲁特塞拉尔(Jesse Van Rootselaar)的账户,但未能将其威胁信息提交给执法部门。随后,OpenAI同意与加拿大执法部门合作制定新政策。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读