2026 年 10 月 13 日——阿里千问于 10 月 12 日发布面向超长程智能体任务的在线强化学习框架 QwenGyre:在旗舰模型 Qwen3.8-2.4T、单次 rollout 约 70 万 token 的 NL2RepoBench 实验中,48 步训练将模型通过率从 52.48% 提升至 58.54%,相同 GPU 预算下训练耗时从 134.55 小时降至 75.42 小时,实现 1.78 倍端到端加速。

QwenGyre 的技术报告以论文形式发布于 arXiv(编号 2609.33848,2026 年 9 月 27 日提交)。据论文定义,超长程(xLong-Horizon)任务指单次执行持续数小时、模型与环境进行数百轮相互依赖的交互、单条 rollout 累计处理近百万 token 的智能体任务,典型场景是从需求规格生成完整代码仓库。论文指出,此类任务给在线强化学习带来两大瓶颈:一是执行时长方差大、rollout 收尾慢,造成 GPU 大量空转;二是复杂的非线性分支交互产生大量冗余轨迹,拖累训练效率。

弹性调度器:空出的 GPU 单元动态转入训练,不打断运行中任务

据千问官方介绍,QwenGyre 将 GPU 集群划分为多个计算单元:每结束一批任务,空出的计算单元立即转入训练阶段,无需等待全部任务收尾;仍在运行的任务不受打扰,进度与状态原地保留,此前已计算的缓存整体迁移,不必重头再来。新空出的单元直接加入本轮训练,由核心单元汇总结果、完成一次参数更新。论文数据显示,计算单元从推理切换到训练平均耗时 8.52 秒,从训练切回推理平均 3.46 秒。

轨迹处理器:分支轨迹去重,部分完成的任务也计入训练

在轨迹处理上,QwenGyre 通过 Token-in Token-out 方式记录每段输出生成时的真实上下文,按共享前缀组织成轨迹树,仅将被选中的路径展开为训练样本,去除分支冗余带来的重复计算。对于超时但部分完成的任务,框架通过 Partial Scoring 机制按保留的工作区打分,使未跑完的执行也能提供有效反馈,避免浪费已完成的计算步骤。

实验数据:48 步训练通过率提升 6 个百分点,训练耗时缩短 44%

据千问官方消息,在 NL2RepoBench 在线强化学习实验中,团队以每次 rollout 约 70 万 token 的任务对 Qwen3.8-2.4T 开展训练:经过 48 步训练,模型通过率从 52.48% 提升至 58.54%;在相同 GPU 预算下,训练总耗时较 Async 实现缩短约 44%,从 134.55 小时降至 75.42 小时,实现 1.78 倍端到端加速。论文摘要给出的整体口径为:相对 Colocate 方案最高提速 1.85 倍,相对 Async 方案最高提速 1.78 倍。

跨任务验证方面,据 IT 之家报道,在 Qwen3.6-122B 模型上,NL2RepoBench、DeepSWE、TerminalBench 三类编码任务均获得端到端提速,训练分数与 Async、Colocate 方案接近。

项目 数据
发布方 阿里千问
发布日期 2026 年 10 月 12 日
定位 面向超长程智能体任务的在线强化学习框架
技术报告 arXiv:2609.33848(2026 年 9 月 27 日提交)
实验模型 Qwen3.8-2.4T、Qwen3.6-122B
单次 rollout 规模 约 70 万 token(Qwen3.8-2.4T 实验)
NL2RepoBench 通过率 52.48% 提升至 58.54%(48 步训练)
训练耗时(48 步) 75.42 小时(QwenGyre)
对比方案耗时 Async 134.55 小时、Colocate 91.47 小时
端到端加速 最高 1.85 倍(对比 Colocate)、1.78 倍(对比 Async)
推理与训练切换耗时 平均 8.52 秒(转训练)、3.46 秒(转推理)
跨任务验证 NL2RepoBench、DeepSWE、TerminalBench
代码状态 截至发稿未公开

截至发稿,千问团队公开的是论文与技术说明,代码仓库与开源许可证尚未公布,本文性能数据均为官方论文自测口径,涉及媒体转述处已单独标注来源。