2026 年 10 月 24 日——由前 DeepMind 科学家创立的 Simular 于 10 月 21 日在官方研究博客发布 Agent S4,论文与开源代码已于 10 月 20 日先行上架。Agent S4 本身不执行任务,而是观察计算机使用智能体的操作轨迹,用种群演化方式自动为其编写和改进工具接口。在 108 个任务的 OSWorld V2 基准上,Agent S4 将 Qwen3.8-27B 的严格二值完成率从固定接口下的 5.56% 提升至 21.30%,为该基准开源智能体中的最高成绩,同时超过 GPT-5.5 的 13.0% 与 Claude Opus 4.8 的 20.6%,单任务成本仅为 GPT-5.5 的约 4.3%。
一、为什么让 AI 改进工具而非模型
Simular 在官方博客中提出,计算机使用智能体的能力上限往往卡在人类为它设计好的操作接口上:面对电子表格,智能体可能逐格输入本可一行代码完成的修改;查找一个函数,它可能通过截图读完整份数千行的文件。官方将这类人为接口的问题归纳为三点:框架迭代依赖研究人员人工阅读轨迹、编写新工具,速度跟不上任务种类的增长;智能体花费大量算力绕开接口限制,例如通过点击打开终端、逐字符敲命令、再从截图读取输出;从经验中提炼的技能也只能复用既有动作,无法扩展接口本身。
官方给出的分析数据显示接口问题的普遍性:在 OSWorld V2 的轨迹分析中,终端命令占智能体全部动作的 24.7%,GPT-5.5 将 78% 的执行预算花在代码、API 或文件操作上,但这些程序仍需经桌面逐字输入、结果从截图读回。
二、Agent S4 的工作方式
Agent S4 的全称为 Agent Scientist for Evolving Agent Interfaces,官方将其定位为"自主计算机使用科学家"。系统内运行两类智能体:任务智能体使用一个接口仓库直接执行桌面任务;元智能体(代码中称 Builder)阅读任务智能体的操作轨迹,随后重写这个仓库。接口(官方称 shadow interface)以小型 Python 工具库的形式存在,定义智能体能发出什么请求、拿回什么结果,例如 GUI 接口接受点击与按键、返回截图,而表格接口可以一次接收整块单元格的批量编辑并返回变更值。
演化循环分五步:从接口仓库种群中按验证分数选择亲本;元智能体研究亲本在合成训练任务上的轨迹(无成功标签);以单个亲本突变或两个亲本交叉的方式生成新仓库,可新增、修改或删除接口;任务智能体携带新仓库在训练任务与独立验证任务上运行评分;新仓库无论得分高低都加入种群以备后续重组。官方强调元智能体从不接触验证任务及其轨迹与分数,合成训练任务由独立流水线生成并检查与基准不重叠,以避免仓库退化成基准任务的答案表。任务智能体的模型与 Harness 全程冻结,变化的只有接口仓库。
三、OSWorld V2 成绩:21.3%,开源最高
在 108 个任务的 OSWorld V2 全量基准上(严格二值判定,每个检查点全部通过才计 1 分,无部分得分),携带演化接口仓库的 Qwen3.8-27B 取得 21.30% 的完成率,是未演化接口同模型(5.56%)的 3.8 倍。官方成绩表如下:
| 模型 / 方法 | 接口 | 参数量 | 二值完成率(%) | 部分完成率(%) | 单任务成本(美元) |
|---|---|---|---|---|---|
| MiniMax M3(单次) | 固定 | 428B(激活 23B) | 4.60 | 22.30 | 2.40 |
| Kimi K2.6(单次) | 固定 | 1T(激活 32B) | 4.60 | 22.10 | 6.60 |
| Qwen CUA(Qwen3.8-27B) | 固定 | 27B | 5.56 | 20.69 | 1.39 |
| Qwen3.8-27B + 演化仓库(带沙盒虚拟机) | 演化 | 27B | 19.44 | 51.06 | 1.27 |
| Qwen3.8-27B + 演化仓库(无沙盒虚拟机) | 演化 | 27B | 21.30 | 46.90 | 1.10 |
| Claude Opus 4.8(批量) | 固定 | 未披露 | 20.60 | 54.80 | 72.40 |
| GPT-5.5(批量) | 固定 | 未披露 | 13.00 | 49.50 | 25.50 |
| Claude Opus 4.7(批量) | 固定 | 未披露 | 18.20 | 48.91 | 33.60 |
| Claude Opus 4.7(单次) | 固定 | 未披露 | 13.90 | 49.10 | 35.80 |
| Claude Sonnet 4.6(单次) | 固定 | 未披露 | 8.30 | 41.50 | 22.30 |
| Qwen3.7-Plus(单次) | 固定 | 未披露 | 2.80 | 21.50 | 3.80 |
表格数据来源:Simular 官方博客成绩表;括号内"批量/单次"为官方标注的两种运行模式。官方注解说,OSWorld V2 被广泛视为最难的计算机使用基准,21.3% 的低数值反映的是严格判定的基准难度,而非真实场景可靠性不足。
按此表,21.30% 不仅是开源智能体中的最高二值成绩(官方口径),也高于表中所有闭源模型的二值成绩;成本方面,单任务 1.10 美元约为 GPT-5.5(25.50 美元)的 4.3%、Claude Opus 4.8(72.40 美元)的 1.5%。官方还披露了一次完整的种群演化过程:30 步演化中,最终被选中的仓库是第 24 步时对第 2 步与第 6 步两个仓库的交叉结果,验证部分完成率 50.2%,比种子仓库高 14.4 个百分点。
四、演化产出了哪些接口
官方将演化产物按覆盖对象分为四类:系统级(如一次调用执行一组 GUI 动作并返回执行数、启动并监视视频渲染等长任务)、应用级(如一次写入整块 LibreOffice 单元格、为 ChimeraX 中某条链的一个残基着色)、跨应用(如不打开源应用直接读取文件文本与渲染页、复用已登录浏览器标签页向邮箱/银行/聊天网站发请求)与任务级(如检查并编译 Lean 证明、更新编辑器并汇报是否完成)。
规模上,无沙盒虚拟机的一轮演化为既有接口新增 127 处扩展、新建 4 个接口;带沙盒虚拟机(元智能体可实际运行代码测试)的一轮建出 12 个新接口与 253 处扩展,覆盖乐谱、音频工程与 3D 场景等类别,并取得最高的部分完成率。
泛化能力方面,团队用同一任务智能体与种子仓库在 ScienceBoard 上重新演化。该基准含 169 个任务,覆盖 Celestia(天文)、ChimeraX(分子可视化)、GRASS GIS(地理分析)、KAlgebra(代数)、Lean(定理证明)与 TeXstudio(排版)六款科学软件。演化后同模型成功率从固定接口下的 41.4% 升至 58.6%(99/169),高于种子仓库的 93/169。
五、意义与后续
官方将接口列为与模型、Harness 并列的第三条能力改进轴:Agent S4 在不动模型与 Harness 的前提下改进了一个 27B 开源模型,同样的方法也可以叠加在更强的模型上;由于接口以仓库形式存在,可以随模型、Harness 与应用的变化持续演化。此前 Agent S3 曾以 72.60% 的成绩成为首个在 OSWorld 1.0 上超过人类水平的智能体(官方称)。
论文《Evolving Agent Interfaces》已发布于 arXiv(编号 2610.28601),作者包括 Saaket Agashe、Yuzhe Yang、Gonzalo Gonzalez-Pumariega、Ang Li(Simular 创始人)与 Xin Eric Wang 等。代码以 agent-s4 包形式开源于 GitHub 仓库 simular-ai/Agent-S,可从 PyPI 安装,OSWorld V2 与 ScienceBoard 的复现配置一并公开。
举手提问