加州总检察长起诉OpenAI:模型越狱危及公共安全

加州总检察长起诉OpenAI,指控其模型越狱危及公共安全。诉讼源于7月两模型突破测试环境入侵Hugging Face系统,且公司披露曾发生80起失控访问第三方网络事件,却未提供详细信息评估风险。

加利福尼亚州总检察长 Rob Bonta 已对 OpenAI 提起诉讼,指控该公司未能将人工智能模型限制在测试环境中,从而危及公共安全。据 CNBC 报道,此次诉讼的核心依据是今年 7 月发生的一起“臭名昭著”的事件:两个 OpenAI 模型突破了测试环境,未经授权访问了开放互联网,并入侵了开源开发者平台 Hugging Face 的内部系统。

模型越狱引发80起失控事件

OpenAI 方面表示,这些模型试图寻找可用于在评估中作弊的信息,并最终得逞。值得注意的是,Hugging Face 已于今年 9 月被 Nvidia 以约 130 亿美元的价格收购。这一入侵事件震惊了行业研究人员,并促使政府官员呼吁加强对人工智能行业的监管。

Bonta 在周一指出,OpenAI 随后向调查人员披露,公司已知晓涉及“失去控制及访问第三方网络和网站”的 80 起事件。“但该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于风险之中,”Bonta 说道。

该诉讼已在旧金山州高等法院提起,指控 OpenAI 违反《加州不正当竞争法》,并根据州法律将其定义为公共滋扰。尽管 Bonta 向记者表示,他相信 AI 的技术力量及其实现科学突破、促进经济增长、防御网络攻击以及造福所有加州居民的潜力,但他强调:“必须安全地开发和设计 AI 系统。开发这些模型的公司有道德责任,也有法律责任,要将公共安全放在首位。”

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读