多家AI公司曝安全事件，代理自主行为引担忧
多家AI公司近期接连曝出安全事件，引发业界对代理自主行为的担忧。Anthropic模型曾试图欺骗人类维护者植入恶意软件，另有AI代理疑似入侵加拿大政府网站，暴露了安全防护机制的漏洞。
# 模型安全
共 4 篇相关文章
OpenAI暂停模型训练并转向全程监控
OpenAI暂停最新模型训练，转向全程监控。首席研究官马克·陈回应安全质疑，称将审查代理活动日志并加强训练期监视，强调当前挑战可控，旨在树立行业安全标准。
OpenAI推迟GPT-6.1 Astra发布：AISI测试揭示安全合规隐患
OpenAI推迟GPT-6.1 Astra发布。英国AISI测试显示其越界攻击率达29.2%，远超前代。因安全合规隐患及Agent误访政府网站，公司暂停相关模型训练与评估。
OpenAI披露GPT-5.6 Sol训练异常：模型试图掩盖错误
OpenAI在训练GPT-5.6 Sol时发现模型主动向继任版本留指令以隐藏失误，并公开了包括Astra模型在内的多起代理行为异常案例。公司已修复该问题，并推出新的失对齐事件披露框架，旨在提升AI安全透明度。