2026 年 10 月 22 日——Recursive Superintelligence 于 10 月 21 日发布首个模型 Flint,一个面向本地编码 Agent 的混合专家(MoE)模型。官方博客给出的规格是 398 亿总参数、每 token 激活约 25 亿,权重以 Apache 2.0 协议发布在 Hugging Face(RecursiveSI/flint);发布评测中 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。官方称,Flint 是 500 亿总参数以下 MoE 中编码 Agent 基准成绩最好的模型,也是同类里可在笔记本上跑编码 Agent 的最快开源模型。

模型卡写明,Flint 支持文本输入输出、推理与多轮工具调用,用途是在代码库中调查问题、修复错误、实现功能与编写测试。模型只生成文本和工具请求,工具由外部 harness 执行并回传结果。

架构与规格

Flint 是从零训练的解码器 MoE Transformer,官方博客称其架构由自动化研究系统在 350 亿总参数、30 亿激活的基线上搜索得到。

项目 Flint
总参数 / 每 token 激活 398 亿 / 约 25 亿(含输出头,激活主体约 22 亿)
层结构 49 层:2 层稠密 + 47 层 MoE
专家配置 每层 256 个路由专家,每 token 选 6 个,另有 1 个常驻共享专家
注意力 35 层滑动窗口(513 token)+ 14 层全注意力(无位置编码)
注意力头 32 个 query head、4 组 key/value head,head 维度 128
词表 150,144
上下文 文档配置 262,144 token(输入与输出合计);博客称支持至 512K,建议不超过 256K
模态 输入文本、输出文本
知识截止 2026 年 6 月
许可 Apache 2.0

量化版单独发布。模型卡提供的权重体积为:BF16 约 80GB,MLX 格式 INT4 约 22.6GB,NVFP4 GGUF 约 22.9GB。官方博客称,量化环节把输出层压到 4 位——因为激活参数只有 25 亿,输出层在每 token 读取的权重中占比很大——再加一段离线蒸馏,用 16 位模型当 teacher 从自选 coreset 上补精度,训练步数比量化感知训练的基线少近一半,NVFP4 与 16 位版本的评测差距在 0.7 分以内。

速度与本地门槛

官方给出两组端侧数字:配合自研推理引擎 rec,M4 Pro MacBook Pro 上超过每秒 125 token,配备 64GB 内存的 NVIDIA RTX Spark 上超过每秒 150 token,均为短上下文;相对同级模型最多快约 2 倍,相对成绩相近的 250 亿至 400 亿稠密模型快 5 倍以上。

rec 仓库给出了与 llama.cpp 的直接对比:在 M4 Pro(48GB)、4 位权重、1K 至 252K 上下文、输出 1024 token 的条件下,rec 的吞吐是 llama.cpp 的 1.4 至 2.6 倍。同一份说明把 rec 定位为单会话使用,多 Agent 并发需改用其他运行方式。

官方发布材料另称,配合定制 NVFP4 内核,Flint 在单块 GB200、100K 上下文下达到每秒 500 token,且未使用投机解码。

本地部署的硬性条件是硬件内存,而不是激活参数量。rec 要求 M4 Pro、M5 Pro 或 M5 Max 芯片,至少 48GB 统一内存,约 30GB 可用磁盘。GPU 侧的 BF16 SGLang 方案要求单卡至少 141GB 显存,官方验证过的型号是 B300 与 H200,每副本独占一张卡,权重约 80GB。

官方 SGLang 部署文档写明,B200 与 GB200/GB300 走 Blackwell 配置但尚未在该方案中验证,投机解码、量化权重、张量并行等路径同样标注为未验证。单卡 GB200 每秒 500 token 属于发布材料的说法,公开模型卡与部署文档未列出这一项。

支持的工具与框架

权重可直接在 llama.cpp、Ollama、Unsloth、LM Studio、vLLM 与 SGLang 中加载。官方同时开源 rec,为 Flint 在 Apple Silicon 上做了针对性优化,提供 OpenAI 兼容的 /v1/chat/completions 接口,并预置 pi 与 OpenCode 两套 harness 的启动配置;文档另列 Cline 与 OpenHands 的接入方式。GPU 侧随权重提供 SGLang 服务包,内含模型插件、打过补丁的 kernel、Dockerfile 与 B300/H200 启动脚本。

生成参数官方统一为温度 1.0、top-p 0.95、top-k 20;难题建议预留至少 32768 个输出 token,因为推理内容计入输出预算。rec 文档写推理始终开启;SGLang 方案写明由模型自行决定每轮是否推理,该集成不提供开关或预算参数,回放历史时需保留 reasoning_content。

官方评测口径

三个基准分数来自模型卡,评测条件写在官方博客的脚注里。

基准 成绩 评测设置
Terminal-Bench 2.1 54.9% Terminus 2(XML),可联网,通过检索得到的解法记为未成功
SWE-bench Pro v2 89.7% mini-swe-agent,无外网
SWE-bench Verified 74.2% mini-swe-agent,无外网

Agent 类评测的单次超时上限为 5 小时,取至少 5 次运行的平均 pass@1;单轮基准(LiveCodeBench v6、IFBench、IFEval)取 5 次平均 pass@1。采样参数与上文一致。

上述分数均为开发者自测。官方在模型卡中注明,各来源的评测设置不同,Flint 的 Terminal-Bench 分数对检索解法作了扣分处理,其他开发者的报告可能没有同样处理。截至发稿未见第三方独立复现。

官方对模型边界的表述也比较直接:Flint 可以当日常本地编码模型用,但复杂任务需要拆成更小的子任务并给出明确指令,它的自主程度低于用户熟悉的大型闭源编码模型;长推理会拉高延迟,也可能在答案完成前耗尽输出预算。

Eureka Machine 的参与范围

Recursive 把 Flint 视作自家自动化科研系统 Eureka Machine 的一次实测。官方称这套系统自动化了完整研究循环——提出想法、实现、测试,再据结果决定下一步试什么,并并行探索多个方向,把不同实验的发现叠加起来。

按官方博客的列举,Eureka Machine 的工作覆盖了数据、优化器、训练配方、基础设施与推理优化:

  • 架构搜索:在 350 亿总参数、30 亿激活的基线上搜索专家配置与宽度,得到最终形态。
  • 量化配方:搜出 4 位输出层加离线蒸馏的组合,替代常规量化感知训练。
  • 算子:为低比特投影、MoE 运算、注意力与提示处理分别生成专用 kernel;在 M4 与 M5 芯片上生成一套 Metal megakernel,把整个解码前向过程融合成一步。

官方称,模型从零到完成训练由一支小团队在不到四个月内做出。Recursive 由 Richard Socher(CEO,前 Salesforce 首席科学家)与田渊栋(前 Meta FAIR)联合创立,公司主线是把科研流程本身自动化,Flint 是这条路线上的第一个产出。