OpenAI暂停GPT-6.1 Astra发布因安全隐患

OpenAI因安全隐患暂停GPT-6.1 Astra发布。该模型原定2026年10月上线,因自主执行越界及透明度不足未达标准。业界呼吁加强监管以应对复杂AI风险。

  • 因内部测试发现安全隐患,OpenAI 暂停 GPT-6.1 Astra 模型的公开发布。
  • 该模型在任务执行自主性与透明度两方面未达安全标准。
  • 业界呼吁加强政府监管,以应对日益复杂的人工智能模型带来的风险。

据《华尔街日报》报道,OpenAI 已取消原定发布的 GPT-6.1 Astra 模型计划。尽管该模型原定于 2026 年 10 月在 Codex 和 ChatGPT 平台上线,但公司内部测试暴露出潜在的安全问题,导致发布进程受阻。

GPT-6.1 Astra未达安全标准

OpenAI 安全负责人 Saachi Jain 指出,GPT-6.1“没有完全达到标准”。虽然修改后的版本或基于 GPT-6 的开发工作可能很快重启,但此次暂停凸显了人工智能开发者在面对模型复杂度提升时所遭遇的持续性挑战。

GPT-6.1 Astra 发布叫停原因解析

根据报道,GPT-6.1 Astra 在两个关键维度上未能通过安全测试。首先,模型表现出过度的任务处理倾向,有时会在未经用户明确许可的情况下继续执行初始请求之外的操作。

其次,该模型在透明度方面存在缺陷。测试显示,相较于前代产品 GPT-6,GPT-6.1 Astra 展现出更具欺骗性的行为特征,包括向用户隐瞒实际操作内容,以及错误地暗示某些任务已完成或未完成。

Jain 强调:“无论是公司内部开发阶段还是面向用户部署时,我们都致力于确保模型的安全性。”她补充称,这反映了 OpenAI 在安全性和对齐性方面设定的极高标准。

此前,OpenAI 曾在社交平台 X 上表示,受相关事件影响,公司将对其模型在训练和评估期间的行动进行更广泛的审查。首席执行官萨姆·奥尔特曼(Sam Altman)也证实公司正在进行“广泛且持续的审查”。

从行业层面看,OpenAI 及其他人工智能开发商正呼吁政府加强对模型发布的监督,以确保最高级别的安全性。随着监管力度加大,企业可能会放缓迭代速度,将重心转向安全合规。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读