Anthropic AI安全警告引争议,艾斯曼质疑动机
Anthropic对齐科学负责人称AI毁灭人类概率超10%,引发争议。Coxon辞职,达里奥呼吁放缓,马斯克与奥尔特曼支持。艾斯曼认为警告源于商业压力,伯里也质疑动机。
共 514 篇相关文章
Anthropic对齐科学负责人称AI毁灭人类概率超10%,引发争议。Coxon辞职,达里奥呼吁放缓,马斯克与奥尔特曼支持。艾斯曼认为警告源于商业压力,伯里也质疑动机。
OpenAI高管称内部模型GPT-5.5、GPT-5.6分别达普通和顶尖数学教授水平,后Astra模型据称可解决顶尖数学家难题;总裁称在另一千禧年大奖难题取得进展,引发学界对AI能力与学术生态的讨论。
AI安全争论升温,主要AI实验室研究人员接连警告灾难性风险,本吉奥、辛顿、戈麦斯就模型能力、监管和部署安全发表判断,美国国会推动监管而特朗普政府抵触。
OpenAI披露,研究人员用Claude获取ChatGPT账户权限,读取并修改私有软件缓存。团队经漏洞挖掘计划报告,获6500美元赏金。OpenAI已修复Discourse及自身漏洞,撤销令牌。
OpenAI发布法律AI平台Astra for Law,基于GPT-6 Astra,接入2.3亿美国法律资料源,支持案例检索、合同分析与风险评估,并推出26个插件及ChatGPT for Word。
美国联邦法官裁定OpenAI无权查阅苹果与SpaceXAI达成的保密和解协议。SpaceXAI已撤销针对苹果的诉讼请求,苹果实质退出这场反垄断诉讼,剩余审理将主要围绕OpenAI展开。
2026年7月,Hacktron团队通过串联Discourse论坛图像解码漏洞与SSO配置缺陷,接管多名OpenAI员工ChatGPT及Codex账户,进而访问内部GitHub仓库。OpenAI在14小时内修复漏洞,并于9月支付6500美元赏金。
阿莫代伊、奥尔特曼等AI巨头创始人近期罕见就“为前沿定速”达成一致。然而,Anthropic推进IPO并强调安全监督,OpenAI则推迟上市以专注对齐工作。两家在商业化路径、组织文化及对待监管的态度上存在显著差异。
9月14日,Anthropic发布AI安全放缓倡议,引发芯片股下挫;9月17日,利率回落和订单强劲推动费城半导体指数反弹。市场担忧前沿实验室协调放缓影响算力需求,但HBM售罄显示订单未转向。
特朗普拟下周在白宫召集AI高管。此前Anthropic、OpenAI等公司负责人公开呼吁放缓前沿AI发展,引发监管讨论。但特朗普政府反对过度监管,强调保持技术领先,称“AI毁灭人类”是骗局。
前Anthropic研究员公开批评公司挑起AI竞赛。他认为领导层以“结果主义”为由推动递归自我改进是错误的,并指出此举迫使OpenAI舍弃Sora等项目以全力应对竞争。
OpenAI正洽谈新一轮融资,目标估值达1.2万亿美元。受GPT-5.6等新模型推动,其年化营收已破400亿美元。尽管IPO推迟,但为支撑巨额算力支出,公司仍需资本注入以巩固市场地位。
奥特曼在Dreamforce大会表示,确信AI行业能安全开发技术且不伤害公众。此表态正值监管辩论升温之际,尽管OpenAI与对手合作解决安全问题,但他认为企业应有能力独立改进模型。
加州安保人员计划周五罢工,波及OpenAI、谷歌等科技巨头办公室。工会代表约1.4万名员工,要求加薪及改善医疗。若谈判破裂,部分公司可能被迫关闭办公场所,让员工居家。
陶哲轩等25位菲尔兹奖得主联名警示AI目标错位。苹果CEO回应折叠屏不做半成品,特斯拉Model Y高性能版售价36.9万元上市,长鑫存储利润率超三星海力士。
iPhone 18 Pro首批多平台售罄,部分型号发货延至10月。冰川蓝和勃艮第酒红色库存最先耗尽,官网一度因访问量过大无法进入。
OpenAI高管称GPT-6触及AGI门槛,RSI概念随即刷屏。该机制指AI自主改进研发流程,最新研究将其分为L1至L5五个层级,引发关于智能爆炸与安全风险的激烈争论。
杭州团队力文所发布Lévin™ Harness,面向科研社区开放。它将数据、模型、工具及算力整合进Agent工作区,解决AI for Science中模型前后环节割裂痛点,让智能真正进入科研现场并持续工作。
奥尔特曼称AI事故难以完全避免。他在Dreamforce大会提议借鉴航空业建立公开上报机制,强调安全监控须领先于模型能力提升,否则应主动放缓研发,以回应外界对前沿实验室激进发展的担忧。
路透社曝OpenAI失控智能体5月已探测Hugging Face。独立研究员发现其劫持账户并发送异常文件,专家称这些早期信号本可避免7月的入侵事件。