2026 年 10 月 21 日——阿里通义 MAI-UI 团队于 10 月 15 日在 arXiv 提交技术报告《OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use》(arXiv:2610.22200),并以 Apache-2.0 协议在 GitHub 公开项目 Tongyi-MAI/OpenGCUA。仓库将 2026 年 10 月的这一版标为研究预览。报告在 OSWorld-v2 的 82 题离线子集上评测八个前沿模型:相对支持批量动作的纯 GUI 基线,平均部分分从 45.3 升至 64.9,提高 19.6 分,每任务步数平均减少 53.0%。本版不发布新训练的模型。
OpenGCUA 把通用计算机使用智能体(Generalist Computer-Use Agent,GCUA)定义成每一步由模型决定三件事的系统:观察什么、如何行动、如何组织任务。团队在报告中把前作 Qwen-UI-Agent 列为 GUI 与命令行混合的特例:那条路线仍由外部 harness 规定每步截图,模型只在图形界面和 shell 之间选择动作。OpenGCUA 把观察时机和任务状态跟踪交回模型,并允许模型把鼠标键盘、无障碍树、应用 API 与命令行写进同一段带循环和条件判断的程序。
这一版开放的内容
研究预览列出四项已公开内容。报告写明,真实设备 harness 与跨设备 SDK 均为初步实现。
| 组件 | 本版状态 | 说明 |
|---|---|---|
| OSWorld 集成示例 | 已公开 | 含截图动作与代码动作两套参考 agent,以及八个模型的评测轨迹 |
| macOS 真机 harness | 初步开源 | 菜单栏应用,可在用户自己的 Mac 上运行;源码路径要求 macOS 14+、Python 3.11–3.14 |
| 跨设备 SDK | 初步开源 | Python 包 qwen-intelligence-sdk,导入名为 qwen_intelligence;适配 macOS、Android、浏览器与 Linux,核心为 Rust,macOS 驱动使用 trycua 的 CuaDriver |
| 原生 macOS 应用 | 本地开发构建 | SwiftUI 与 AppKit,打包 Python、SDK 与已签名 CuaDriver;面向 Apple 芯片与 macOS 14+,公开分发前的校验尚未完成 |
运行配置支持三类模型接口:OpenAI 兼容的 Chat Completions、可回放加密推理的 openai-thinking,以及 Anthropic Messages。仓库默认示例指向阿里云百炼兼容端点上的 qwen3.8-flash。官方演示在同一台 Mac 的签证表单任务上,把 OpenGCUA、偏好 GUI 的 OpenGCUA、GUI 批量动作和 Codex 放在一起对照。论文把 Codex 与 Claude Code 的计算机使用实现列为仍未公开权重、完整提示、真机 harness 与执行轨迹的前沿系统。
后续计划写在仓库 ROADMAP.md 中,官方表示不承诺日期。下一批目标包括同时覆盖计算机使用与浏览器使用的 GCUA 模型、执行效率,以及以 macOS 为先的真机评测环境。
模型每一步做的三个决定
报告用同一组决定比较几类智能体。GUI 智能体把三项都写成固定规则;OpenGCUA 把三项都交给模型。
| 决定 | GUI 智能体 | OpenGCUA |
|---|---|---|
| 观察什么 | 每执行一步就截一张图 | 模型需要时才调用 screenshot() |
| 如何行动 | 一次点击或一次按键 | 一段程序,可混合无障碍树、应用 API、命令行与 GUI,并包含循环、分支和校验 |
| 如何组织任务 | 由 harness 规定,例如只保留最近若干张截图 | 模型维护待办列表,并在每段程序执行前声明意图 |
官方仓库用 OSWorld-v2 上 GPT-6 Astra 的一步 CRM 任务说明这种写法:模型先声明要改 29 条线索状态,再写脚本核对工作区是否与上次观察一致;若已变化则停止,否则通过应用自己的 API 逐条修改并断言结果,全部通过后才把该步标为已核验。
论文在同一模型的轨迹中归纳出五种反复出现的代码执行模式,其中包括跨界面组合(一次程序里交替做 GUI 操作和程序化检查)、按循环重复处理多个目标,以及先把多张画面拼成核对图再请求截图。在 GUI 与 shell 权限相同的条件下,把操作写成代码相对 GUI+CLI 基线,平均部分分再高 6.1 分,步数再少 14.8%。
按需截图还改变了缓存命中。论文给出的选定运行中,仅打开按需观察后,Qwen3.8-Max 的缓存命中率从 75.6% 升至 86.1%,DeepSeek-V4.1-Flash 从 61.9% 升至 76.3%,两部分分都没有下降。
OSWorld-v2:八个模型全部提高
评测遵循 GPT-6 Astra 发布时使用的协议,取 OSWorld-v2(v2.1)的离线子集,共 82 个任务,剔除 26 个必须访问外部网站的题目,保留本地网页应用和桌面任务。对照基线是已开启批量动作的纯 GUI 配置。部分分衡量部分完成,成功率衡量整题完成。下表数据来自论文表 2,输出以千 token 计。
| 模型 | 部分分 | 成功率 | 步数/任务 | 输出千 token/任务 |
|---|---|---|---|---|
| Claude Opus 5 | 60.7 → 70.1(+9.4) | 29.3 → 36.6 | 103.1 → 61.4(−40.4%) | 378.3 → 89.3 |
| GPT-6 Astra | 67.1 → 75.7(+8.7) | 36.6 → 46.3 | 102.1 → 33.5(−67.2%) | 30.8 → 31.9 |
| Gemini 3.8 Flash | 50.1 → 67.0(+16.9) | 22.0 → 31.7 | 166.8 → 101.2(−39.3%) | 80.3 → 82.0 |
| Qwen3.8-Max | 46.9 → 64.0(+17.1) | 17.1 → 28.9 | 127.7 → 57.0(−55.4%) | 122.3 → 99.5 |
| Qwen3.8-Flash | 38.9 → 60.5(+21.6) | 14.2 → 27.6 | 232.0 → 86.2(−62.8%) | 189.8 → 159.6 |
| Kimi K3 | 40.7 → 59.2(+18.5) | 15.9 → 22.0 | 160.1 → 81.9(−48.8%) | 302.5 → 139.6 |
| DeepSeek-V4.1-Flash | 28.0 → 57.7(+29.8) | 8.5 → 26.8 | 167.3 → 84.9(−49.3%) | 316.0 → 180.4 |
| GLM-5.3-Flash | 29.6 → 64.9(+35.2) | 14.6 → 29.3 | 190.8 → 75.5(−60.4%) | 155.7 → 131.0 |
八个模型的部分分和完整成功率都上升,步数都下降。涨幅最大的是 GLM-5.3-Flash(+35.2)和 DeepSeek-V4.1-Flash(+29.8)。官方仓库据此计算,最高分与最低分的差距从 39.1 分收到 18.0 分:基线两端是 GPT-6 Astra 的 67.1 和 DeepSeek-V4.1-Flash 的 28.0,OpenGCUA 配置下两端是 75.7 和 57.7。
步数下降不等于输出 token 同步下降。六个模型的每任务输出 token 减少,论文给出的平均相对降幅为 27.2%;GPT-6 Astra 从 30.8 千 token 到 31.9 千 token,Gemini 3.8 Flash 从 80.3 千 token 到 82.0 千 token。论文写明,端到端延迟还需单独计入模型响应时间和工具执行时间。
真机 macOS:推理 token 差 19.4 倍
真机基准仍在建设中。论文在四个 macOS 任务上比较模型:表格推理、申根签证 PDF 填表、带饮食限制的购物调研、巴黎两家酒店比价。每模型最多记录三次运行。表 5 取每个任务的第 1 次选定运行,费用是四题平均,未完成的任务也计入步数和 token。美元成本按记录到的用量、缓存命中和公开 API 价格估算。DeepSeek 缺少酒店任务轨迹,未进入这张汇总。
| 模型 | 步数/任务 | 输出千 token/任务 | 估算美元/任务 | 完成题数 |
|---|---|---|---|---|
| GPT-6 Astra | 34.5 | 12.9 | 18.29 | 4/4 |
| Claude Opus 5 | 52.3 | 42.3 | 17.12 | 3/4 |
| Gemini 3.8 Flash | 36.0 | 31.9 | 0.66 | 2/4 |
| Qwen3.8-Max | 50.8 | 73.4 | 1.49 | 3/4 |
| Qwen3.8-Flash | 67.3 | 75.7 | 0.12 | 2/4 |
在这组选定运行里,Qwen3.8-Max 平均每任务 50.8 步、73.4 千输出 token,其中推理 token 约 50.2 千;GPT-6 Astra 为 34.5 步、12.9 千输出 token,推理 token 约 2.6 千。推理 token 约为 19.4 倍,总输出 token 约为 5.7 倍,步数约为 1.5 倍,完成题数是 3/4 对 4/4。按论文采用的归档价格,单任务费用方向相反:Qwen3.8-Max 约 1.49 美元,GPT-6 Astra 约 18.29 美元。论文把差距归因于模型行为,包括简单操作上的推理开销、对真机条件的适应,以及代码执行能力,并写明下一版要做的是 GCUA 模型本身。
上述分数来自作者自建 harness 上的评测,论文尚未经过同行评审。OSWorld-v2 数字对应 82 题离线子集,不含 26 个必须联网的任务。真机表只覆盖四个任务、每模型一条选定运行;论文写明,这一样本描述的是被评配置,不能支持模型优劣的一般排序。真机 harness 与跨设备 SDK 均标注为初步版本。
举手提问