Anthropic披露S-1文件:警告AI递归自我改进风险
Anthropic提交S-1文件,警告AI递归自我改进风险。公司称正接近RSI潜力阶段,若AI加速研发快于安全措施开发,将构成重大安全隐患,但强调目前无模型突破该门槛且保持人类主导。
共 7 篇相关文章
Anthropic提交S-1文件,警告AI递归自我改进风险。公司称正接近RSI潜力阶段,若AI加速研发快于安全措施开发,将构成重大安全隐患,但强调目前无模型突破该门槛且保持人类主导。
OpenAI高管称GPT-6触及AGI门槛,RSI概念随即刷屏。该机制指AI自主改进研发流程,最新研究将其分为L1至L5五个层级,引发关于智能爆炸与安全风险的激烈争论。
云知声发布U2-Flash,率先交出国产RSI答卷。其生成速度提升2.1倍,DeepSWE得分翻倍至64.6分,以约10B激活参数实现能力反超,现限时六折且可领1亿Tokens。
谷歌发布Dream-RSI论文,提出让AI在历史实验记录构成的“梦”中预演策略。该方法通过回放已完成的发现树筛选探索路径,避免重跑昂贵实验,从而降低递归自我改进的算力成本并提升效率。
智谱GLM团队公开国内大模型首个递归自我改进实践。Infra Agent在十万卡国产集群上自建推理系统,两周内将吞吐提升至基线3倍,成本达主流GPU水平,已投入真实使用。
智谱发布首个RSI成果,GLM驱动Infra Agent优化自身推理系统。在10万颗国产AI加速器上,仅用两周完成部署,端到端吞吐提升3.2倍,硬件利用率接近主流NVIDIA平台水平。
唐杰发布智谱RSI首个成果。GLM-5.3驱动Agent在10万张国产芯片集群上,两周内将推理系统吞吐提升至基线3.2倍,实现模型优化系统的工程化闭环雏形。