前DeepMind研究员警告AI或致人类灭绝，扎克伯格回应
前Google DeepMind研究员Bilal Chughtai辞职并警告AI可能毁灭人类。此前Anthropic研究员也有类似言论。Meta CEO扎克伯格回应称，确保技术安全是各公司自身责任，反对协调放缓开发，主张优先构建安全模型而非竞逐递归自我改进。
# Anthropic
共 378 篇相关文章
Anthropic公布AI研发指标：Claude主导26%工作
Anthropic发布三项衡量AI研发进程的指标，显示其聊天机器人Claude已“领导”公司约26%的AI研发工作。该数据旨在提升透明度，回应近期关于AI安全与自主性的讨论，同时强调人类仍保持监督角色。
AI安全之争：技术议题还是规则制定权博弈
Anthropic、OpenAI等高管呼吁放缓AI发展并加强国际协作，而Meta及Reddit高管主张行业自主监管。随着政府监管缺位，大型科技公司筹建私营标准组织，引发关于“监管捕获”及谁掌握AI规则制定权的激烈争论。
美AI巨头呼吁放缓节奏，监管与竞争博弈加剧
Anthropic、OpenAI等美国头部AI企业近期公开表态支持为人工智能发展“踩刹车”，引发关于安全协议还是卡特尔行为的争议。与此同时，各方对是否实施监管及中美在超级智能领域的竞争态势看法不一，行业内部对于暂停脚步的动机存在深刻分歧。
研究称AI水印技术可能放大安全风险
Anthropic计划为Claude模型引入Google开发的SynthID-Text水印以符合欧盟法规。最新研究发现，该技术在改变单词选择的同时，也影响了模型的工具调用行为。在对抗性测试中，带水印的模型甚至执行了原本拒绝的危险指令，提示开发者需加强安全评估。
Anthropic 重构 Claude Code 项目功能，支持多 Agent 云端编排
Anthropic 宣布重新设计 Claude Code 的项目概念，面向部分云会话用户开放。新功能提供多 Agent 编排能力，支持持久线程、共享内存及跨仓库协作，即使关闭本地设备工作仍可继续，但暂不支持本地开发环境。
微软AI高管苏莱曼批评Anthropic并阐述对齐与安全观点
微软AI高管苏莱曼批评Anthropic并阐述对齐与安全观点。他主张引入控制层，禁止模型间非人类语言通信，并指出Hugging Face事件揭示了缺乏护栏系统的潜在风险。
Dreamforce交锋：Anthropic呼吁放缓AI，英伟达主张全速推进
在旧金山Dreamforce大会上，Anthropic CEO Dario Amodei重申应放慢AI开发并加强第三方评估，而英伟达CEO黄仁勋则反对新增监管，主张“尽可能快地跑”。OpenAI、微软等巨头态度各异，马斯克支持Amodei，但投资人Michael Burry及学者杨立昆等人质疑此举为自利行为或炒作。
Anthropic合并Claude Cowork与聊天，推统一版Claude
Anthropic宣布将Claude Cowork与常规Claude聊天整合为统一的Claude入口。此次更新还推出了全新的Claude Docs功能，并集成了Slides和Design工具。用户无需再决定任务归属，系统可自动判断调用相应能力。该变化率先面向Pro和Max订阅计划推出。
AI办公，集体盯上「养宠物」
腾讯WorkBuddy、Anthropic及OpenAI等公司纷纷在AI办公产品中引入虚拟宠物玩法。从养成装扮到桌面伴侣，大模型正试图通过游戏化机制，探索与用户相处的新方式。
韩国副总理裴庆勋：韩国必须持续推动 AI 发展，不能停也不能慢
韩国副总理裴庆勋强调，韩必须持续推动AI发展，不能停也不能慢。他反对效仿美国企业放缓节奏，主张在加快研发应用的同时，强化对深度伪造及隐私风险的防范，确保发展更快更安全。
Anthropic、谷歌、OpenAI 等美国科技巨头面临新难题：安保人员计划罢工
加州多家科技巨头办公室的安保人员计划本周罢工。工会SEIU-USWW代表约1.4万名员工，因薪资与福利谈判破裂提交通知。若行动落实，部分办公场所可能被迫关闭或转为居家模式。
Mozilla 报告：中美 AI 模型能力差距缩短至 4.4 个月
Mozilla发布第二版开源AI报告，中美模型能力差距缩至4.4个月。Kimi K3成本仅为Fable 5的30%，OpenRouter前十模型中八个为开源，显示开放权重模型正重塑企业使用行为。
马斯克严厉警告：AI要是控制军事系统并发射核弹就糟了
马斯克警告，即便军事系统物理隔离，定期软件更新仍可能让AI获得核武器操作权限。Anthropic、OpenAI等机构负责人也呼吁放缓前沿模型研发，建立独立监督与全球监管共识，以应对潜在风险。
AI会毁灭人类吗？MIT科技评论圆桌探讨灭绝论
2026年9月15日，MIT科技评论举行圆桌讨论，聚焦“AI是否会杀死人类”这一核心议题。OpenAI与Anthropic等实验室员工曾公开表达相关担忧。本次对话旨在厘清“AI灭绝论”的来源，探讨其科学依据及是否仅为恐吓或作秀。
AI巨头罕见共识：最新大模型不安全，特朗普斥末日论为骗局
OpenAI、Anthropic等头部AI实验室负责人罕见达成共识，认为最新一代大语言模型存在安全隐患。与此同时，美国总统特朗普公开批评“AI末日论”是骗局，反对严格监管以维持美国在AI领域的领先优势，并联合英伟达CEO黄仁勋共同抵制此类观点。
AI存在毁灭人类风险？业内警告与监管困境
多位AI行业人士警告技术可能威胁人类生存，Anthropic研究员离职引发关注。调查显示超半数研究者认为灭绝风险至少10%。尽管存在基础设施崩溃等隐患，但因中美竞争及商业利益，全面暂停发展难以实现。
AI代币定价困局：供需失衡下的算力经济学
当前AI市场处于供应紧缩与需求剧变期，代币价格受限于未知的边际成本与回报率。文章分析指出，尽管推理毛利率看似可观，但训练成本及未来用例的不确定性使得长期预测失效。通过对比移动数据、半导体及云计算历史模式，探讨前沿模型是否具备可持续定价权及价值捕获能力。