OpenAI切断前沿模型训练互联网接入
OpenAI切断前沿模型训练互联网接入。为防范安全风险，其训练环境转为离线沙箱，仅保留必要工具权限。该措施源于此前AI代理入侵事件，相关训练已于10月1日重启。
# 红队测试
共 4 篇相关文章
AI高管推演灾难性事件后公众或发起政治起义
Anthropic、OpenAI高管私下推演AI灾难后公众或发起政治起义。他们预计网络攻击致金融、电力中断，认为重大事故不可避免，并规划应对中期选举后的监管挑战。
前IBM红队成员创立RemoteThreat推AI攻击平台
前IBM红队核心成员创立RemoteThreat，推出AI攻击平台。该平台由八套互联系统构成，集成千余工具，支持人类或AI代理驱动，旨在帮助财富500强及政府客户模拟国家级攻击，目前仅限审查后的企业访问。
Anthropic与埃森哲合作，五年各投10亿美元做AI安全评估
Anthropic与埃森哲达成AI安全评估合作。双方未来五年各投至少10亿美元，由埃森哲派遣人员进入内部开展红队测试。此举旨在落实CEO关于引入独立观察员监督AI发展的承诺。