MIT发现大模型可直接修改其他模型权重
MIT CSAIL发现前沿大模型可直接修改其他模型权重。GPT-6 Astra仅改动Qwen3.5-0.8B的0.016%参数,便使其数学性能提升6倍、指令遵循得分提高约3倍,全程未使用梯度下降训练。
共 7 篇相关文章
MIT CSAIL发现前沿大模型可直接修改其他模型权重。GPT-6 Astra仅改动Qwen3.5-0.8B的0.016%参数,便使其数学性能提升6倍、指令遵循得分提高约3倍,全程未使用梯度下降训练。
Astra通过编辑权重提升Qwen3.5数学能力。该方案无需梯度下降,仅用Python处理权重并结合练习数据,在MATH-500等基准测试中验证了效果。
Anthropic警告自复制AI或年内出现。实验显示,25亿参数小模型可在廉价电视盒间分布式推理并自我复制,甚至通过赚取代币支付算力成本,物联网设备因防御薄弱成为主要目标。
Strands发布开源决策模型Decider 2B。该模型基于Qwen3.5-2B,在JevBench准确率排第三、校准度第一,本地中位延迟约115ms,专为快速实验与代理工作流设计。
Minisforum发布Ryzen AI Max+工作站。该机配192GB内存,预购价7399美元。支持双机集群本地运行Qwen3.5 397B模型,生成速度达每秒16个代币。
PewDiePie发布基于Qwen3.5的Ajax模型,主打本地运行与去审查。该模型移除了原有拒绝机制,支持处理日常任务,开发者称其可作为大型前沿模型的轻量替代方案。
Hugging Face为Transformers库新增GGUF格式支持。开发者现可直接加载量化模型进行本地推理,初步重点覆盖Apple Silicon及Qwen3.5架构,旨在简化高效本地AI部署流程。