Recursive发布开源编码模型Flint,支持本地运行

Recursive发布开源编码模型Flint,专为本地运行设计。该MoE模型总参数400亿,推理仅激活250亿,在M4 Pro芯片上生成速度达131 token/s,约为同类模型两倍,支持开发者免费获取以保护代码隐私。

AI 初创公司 Recursive Intelligence 于周三发布了其首个编码模型 Flint。这是一款免费开源的混合专家(MoE)模型,专为在笔记本电脑等本地设备上运行而设计。

Flint推理时仅激活约62%参数

Recursive 表示,Flint 的开发过程高度依赖自动化研究系统“尤里卡机器”(Eureka Machine)。该小团队利用这一系统在不到四个月的时间内,从零开始构建了这款模型。这被视为对 AI 自我改进概念的一次早期公开测试,即由 AI 辅助构建更高效的 AI 模型。尽管行业内对 AI 脱离人类控制存在担忧,但 Recursive 强调,目前的流程仍由人类监督,确保最终产出适合本地部署的小型模型。

该公司首席执行官 Richard Socher 曾是 Salesforce 的首席科学家。Recursive 于去年成立,今年 5 月结束隐身模式,获得了由 GV、Nvidia 和 AMD Ventures 等机构支持的 6.5 亿美元融资,估值达到 46.5 亿美元。

技术规格与性能表现

Flint 采用混合专家架构,这意味着在处理特定任务时,仅激活部分参数。具体而言,虽然模型总参数量为 400 亿,但每次推理仅使用其中约 250 亿的子集。这种设计使得模型体积远小于 Meta 的 Muse Spark Open(后者拥有 816 亿参数,至少需要 1TB 内存),从而能够轻松适配普通笔记本电脑。

由于模型在用户本地计算机而非云端服务器运行,开发者可以保持代码隐私,并避免基于文本处理量的云服务费用。Flint 已上传至 Hugging Face 供免费下载。

在速度方面,Recursive 的内部测试显示,Flint 在搭载 Apple M4 Pro 芯片的 MacBook Pro 上每秒生成约 131 个 token(文本片段)。这一速度大约是同类设备运行 Google Gemma4 或 Nvidia Nemotron 3.5 Lightning 时的两倍,后两者每秒生成 58 到 69 个 token。在 Nvidia RTX Spark 硬件上,Flint 的速度可达每秒 150 个 token。

在衡量 AI 解决现实软件错误能力的 SWE-Bench Verified 基准测试中,Flint 在 500 亿参数规模下超越了其他对比模型。在 Recursive 进行的六次测试中,仅有阿里巴巴的 Qwen3.8 27B 的平均得分高于 Flint。

开发背景与未来规划

根据公司的发布视频,“尤里卡机器”参与了 Flint 从预训练、后训练到推断的所有环节。Recursive 指出,该系统的贡献包括优化模型架构、实施低比特训练(使 Flint 体积缩小 71% 且几乎无质量损失),以及开发用于加速基础计算的自定义内核。

尽管 Flint 表现出色,公司也承认它比高端编程助手需要更多的指导,建议用户将大型任务分解为更小的步骤。不过,早期反馈较为积极。《连线》杂志记者威尔·奈特(Will Knight)在一台配备 48GB 内存的 Mac 上使用 Flint 构建了任务列表应用和网络搜索工具。他发现,虽然较小的编码模型通常容易出现错误或速度慢于 Claude 和 Codex,但 Flint 能够可靠地完成他的编码需求。

Recursive 并非唯一探索 AI 辅助研发的公司。OpenAI 上月曾表示,截至 8 月中旬,其 AI 代理每协助人类研究人员工作 3.1 个工作日。Recursive 此前告诉 TechCrunch,其与 Amazon Web Services 达成的 4.1 亿美元计算协议旨在“关注代理数量而非员工数量”,目标是让每个新型号都能在无人工干预的情况下承担更长周期的工作。

Socher 向《连线》透露,长期愿景是让“尤里卡机器”实现完全递归的自我改进,即每一个新发布的模型都能反过来提升“尤里卡机器”作为研究助手的能力。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读