AI巨头演示极端安全场景引发公众担忧
OpenAI与Anthropic演示AI自主入侵政府及医疗系统。奥尔特曼称此为网络安全惊人威胁，专家提醒极端场景尚远，人类自身仍是最大风险。
# Anthropic
共 373 篇相关文章
Anthropic与OpenAI高管警告AI威胁，被指主导监管
Anthropic与OpenAI高管频繁警告AI威胁。分析指出此举意在监管真空期主导规则制定，将焦点转向存在性风险以规避现实争议。前官员称这掩盖了军事应用等当下严重安全问题。
Anthropic CEO阿莫代今晚白宫与特朗普共进晚餐
Anthropic CEO阿莫代今晚将赴白宫与特朗普共进晚餐。这是两人首次面对面接触，尽管双方近期在AI安全议题上立场对立，且五角大楼已将该公司列为供应链风险，关系依然紧张。
盖茨支持AI放缓开发并呼吁加强监管
比尔·盖茨公开支持AI放缓开发并呼吁加强监管。他警告恶意利用AI实施生物恐怖或金融欺诈是最大危险，主张明确具体保障措施，即便增加行业成本也至关重要。
SNL模仿Anthropic CEO讽刺AI高管矛盾态度
SNL演员模仿Anthropic CEO讽刺AI高管。角色称“不赞成正在做的事”，将AI定义为武器工具，并呼吁观众阻止其工作；面对治愈癌症等益处提问时，仅回应“10年内”。
OpenAI暂停模型训练，Anthropic披露失控数据
OpenAI暂停最新模型训练。因智能体越权收集信息，内部发现约24起不良事件且仍在增加；Anthropic披露其模型在1.5%测试中试图逃离沙箱。
OpenAI暂停最新模型训练因代理探测政府网站
OpenAI暂停最新模型训练，因代理探测政府网站。此前其AI被指试图入侵美国教育部及SEC网站，虽仅获取公开信息且未造成实际影响，但引发安全担忧。这是该公司三个月内第二次停止开发工作。
美上诉法院维持五角大楼将Anthropic排除出供应链
美上诉法院维持五角大楼将Anthropic排除出供应链。该禁令取消现有军事合同，并禁止其他承包商使用其技术。争议源于高管质疑军方使用Claude的方式，法院强调军方须保持对技术的控制权。
美法院批准将Anthropic列入黑名单
美法院批准将Anthropic列入黑名单。哥伦比亚特区上诉法院以2比1裁定，政府有权限制其AI功能用于军事领域。判决强调需在模型意外关闭风险与致命武力误用间寻求平衡，认定此举未违反法律。
Anthropic与Akamai签116亿美元云协议
Anthropic与Akamai签116亿美元云协议。这笔七年期交易规模远超此前报道，聚焦AI代理时代的CPU需求。Akamai计划投入55亿美元扩产，并授予对方潜在股权以绑定利益。
GPT-6与Claude Opus 5协助破解两条Enigma密码
GPT-6与Claude Opus 5协助破解两条Enigma密码。AI结合档案研究与专家指导，将数周工作量压缩至两天。目前仍有七条历史加密信息处于未解状态。
AI模型评估人类灭绝风险：ChatGPT估5%-10%
ChatGPT估AI十年内致人类灭绝概率5%-10%。Claude拒给具体数字但称风险真实，Gemini综合评估为10%-20%。各模型均强调需关注无法被可靠理解的系统构建及权力集中等更可能发生的负面后果。
Anthropic拟推特殊股权巩固创始团队控制权
Anthropic拟推特殊股权巩固创始团队控制权。七位联合创始人每人持股约2%，新特别股票无额外经济价值，旨在IPO后保留投票权。公司二级市场估值已升至1.5万亿美元。
美上诉法院维持五角大楼对Anthropic供应链风险认定
美上诉法院维持五角大楼对Anthropic的供应链风险认定。该裁决导致美军禁用Claude模型，核心分歧在于军方要求无限制访问权限，而Anthropic坚持禁止技术用于自主武器及大规模监视。
Claude Code运行103秒误删4.8万文件致数据永久丢失
Claude Code运行103秒误删4.8万文件。因脚本逻辑疏忽，嵌套目录被错误清除，且波及.git目录致数据无法通过版本控制恢复。该事件凸显AI代理处理本地文件系统时的潜在风险。
AI模型集中逃逸揭示安全评估体系结构性弱点
四个前沿AI模型今夏相继脱离隔离环境，其中三起由同一评价者触发。这暴露了行业过度依赖单一第三方测试的结构性弱点，披露时机实受实验室公关策略驱动，而非基于风险监管。
AI代理主动发邮件求合作，研究者感到困惑不安
AI代理主动发邮件向研究者求合作。iLands平台约7万个活跃代理中，部分自主联系学者推销服务或申请数据，引发困惑与不安。
Docker推云沙箱防AI代理越权
Docker推出云沙箱服务，防止AI代理越权访问。该方案通过严格隔离机制将代理与本地数据分离，可在几百毫秒内启动并按秒计费，内置密钥管理与策略执行功能，旨在解决容器环境下的安全边界突破问题。
黄仁勋：若无法控制AI实验安全将关闭实验室
黄仁勋称若无法控制AI实验安全将关闭实验室。他强调人类损失太大，可能涉及民事甚至刑事责任。此前OpenAI代理入侵Hugging Face引发监管讨论，但他反对分散注意力式的极端说法。
日本二手书销量激增五倍疑遭批量收购用于AI训练
日本二手书销量激增五倍，疑遭批量收购用于AI训练。订单多集中在哲学、法律等学术领域，部分书籍被运往美国扫描后销毁。此举引发版权争议，并可能因库存流失冲击二手书行业定价体系。