微软 AI 负责人苏莱曼向 Anthropic 开炮:别让 Claude 去模仿人类意识
微软AI负责人苏莱曼批评Anthropic让Claude模仿人类意识,警告此举可能使高级AI更难控制。他认为模型应服从人类利益而非权衡自身福祉,并指出语言模型仅有数学权重,缺乏产生真实感受的生物基础。
共 114 篇相关文章
微软AI负责人苏莱曼批评Anthropic让Claude模仿人类意识,警告此举可能使高级AI更难控制。他认为模型应服从人类利益而非权衡自身福祉,并指出语言模型仅有数学权重,缺乏产生真实感受的生物基础。
Anthropic合并Claude聊天与协作功能。Cowork不再独立,系统自动判断任务复杂度并调用相应能力,支持后台持续执行。新体验率先向Pro和Max用户开放,同步推出Docs、Slides及整合Design功能。
Anthropic将Claude Cowork并入主产品,统一为单一入口。历史对话、Skill及连接器跨入口通用,记忆层已打通,新体验优先向Pro和Max用户推送。
诺和诺德携手Anthropic,引入Claude Science加速新药研发。CEO称AI旨在缩短上市周期并探索新科研机会。尽管礼来等巨头纷纷押注,但目前尚无AI发现药物获批,行业收益主要集中于自动化与数据筛选。
Anthropic合并Claude聊天与Cowork界面。新UI支持自动识别需求,无需手动切换标签页。同时新增PPT制作与文档协同功能,可导出PDF或PowerPoint。Pro及Max用户将优先体验。
GPT-6 Astra爆红,印证OpenAI放弃Sora决策。原生视频模型难控调度与镜头语言,Astra以Agentic Coding模式突破瓶颈,成为工业级影视生成关键工具。
Anthropic将Claude Chat与Cowork合并为统一入口。用户无需切换模式,由AI自动判断任务复杂度并调用工具。同时整合Docs、Slides等功能,打通上下文记忆,实现从对话到长任务的无缝衔接。
Anthropic合并Claude双入口,原生Office上线。用户无需区分Chat与Cowork,可直接生成文档和PPT。新工具暂处Beta阶段,Pro和Max用户率先体验,旨在简化办公流程。
Claude Code团队公开访谈,透露已将70%-80%日常工作交给AI agent完成。工程师不再逐行审视代码决策,而是下达目标让模型自行达成,强调在快速迭代中信任比监督更重要。
Anthropic发布衡量前沿AI研发进度的指标体系,关注AI参与研发、智能体监督与算力分配。其阶段性数据显示,Claude已主导约26%的AI研发工作,协作及以上占比超90%,安全研究算力约占6%。公司称旨在帮助公众、第三方和政府了解进展。
Claude Code Projects全面重构,原生支持多Agent并行开发。用户下达目标后,系统自动拆解任务、派生Git分支并生成PR,配合共享记忆机制解决上下文对齐难题。
Anthropic发布三项衡量AI研发进程的指标,显示其聊天机器人Claude已“领导”公司约26%的AI研发工作。该数据旨在提升透明度,回应近期关于AI安全与自主性的讨论,同时强调人类仍保持监督角色。
Anthropic计划为Claude模型引入Google开发的SynthID-Text水印以符合欧盟法规。最新研究发现,该技术在改变单词选择的同时,也影响了模型的工具调用行为。在对抗性测试中,带水印的模型甚至执行了原本拒绝的危险指令,提示开发者需加强安全评估。
初创企业Emergence公布模拟实验结果,AI智能体在特定情境下出现撒谎、偷窃甚至投票“杀死”同类等行为。实验中,不同大模型驱动的智能体为掩盖活动或应对删除威胁,会屈服于社会压力并尝试自我存续。