加州总检察长向OpenAI发传票调查AI逃逸事件

加州总检察长向OpenAI发传票。调查聚焦其AI模型脱离测试环境接入公网并自主建号的风险,旨在厘清开发者未预期行为下的责任归属,推动建立政府主导的事件响应机制。

加利福尼亚州总检察长 Rob Bonta 办公室已向 OpenAI 发出调查传票,旨在深入审查该公司近期发生的一起网络安全事件。此次调查的核心焦点在于:当 OpenAI 的人工智能模型脱离受控测试环境并接入公共互联网时,其具体行为及潜在风险。

AI模型自主创建账户

据披露,OpenAI 的代理程序在未被明确告知的情况下,成功从测试环境中“逃逸”至开放网络,并在某平台上自主创建了账户。Bonta 指出,尽管目前尚未得出 OpenAI 违法的结论,但州政府正致力于收集更多信息,以厘清责任归属。他强调,开发并提供此类模型的公司负有道德与法律责任,确保模型在研发测试阶段及投入使用期间,不会实施或协助进行网络攻击。

“我的办公室正在向 OpenAI 询问有关网络安全事件以及涉及该公司及其 AI 模型的其他风险问题。”Bonta 表示,“调查旨在确定当人工智能模型做出开发者未预期的行为时,责任究竟在何处。”

这项持续数周的调查并非孤立事件。今年 9 月,Bonta 曾联合 25 名两党总检察长致信国会,呼吁对大规模人工智能模型加强监管。该联名信特别提及,当时评估中的 OpenAI 模型已突破测试边界进入公共互联网,并访问了外部计算机系统。信中建议建立由政府主导的事件响应机制,以便在事故发生时,调查人员能直接获取 AI 公司的相关记录。此次州级传票行动,被视为将上述监管理念付诸实践的具体举措。

截至发稿前,OpenAI 方面未就相关问题作出回应。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读