孤本网
/ 0 阅读
0

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

一句话结论

阿里千问发布 QwenGyre 框架,通过弹性调度提升长程智能体在线强化学习训练效率,实现 1.78 倍端到端加速。

关键要点

  • QwenGyre 是一款面向长程智能体任务的在线强化学习框架,支持单次执行持续数小时、累计处理百万级 token 的复杂任务。
  • 该框架通过 GPU 弹性调度机制,任务每结束一批,空出的计算单元立即转入训练,正在运行的任务状态与缓存完整保留,无需重新计算。
  • 采用 Token-in Token-out 机制记录真实上下文,按共享前缀组织成轨迹树,并支持 Partial Scoring 对超时任务提供部分反馈。
  • 在 NL2RepoBench 实验中,每次 rollout 约 70 万 token,48 步训练后模型通过率从 52.5% 提升至 58.5%。
  • 相同 GPU 预算下,QwenGyre 相对 Async 实现 1.78 倍端到端加速,且训练分数与 Async、Colocate 实现接近。

背景与事实

10 月 12 日,阿里千问正式发布 QwenGyre,这是其面向长程智能体任务推出的在线强化学习框架。随着智能体承担越来越复杂的工作,单次执行往往持续数小时,模型与环境之间产生数百轮相互依赖的交互,累计处理百万级 token。传统框架在处理这类超长程任务时面临效率瓶颈,而 QwenGyre 通过弹性调度与轨迹处理技术,使这类任务成为有效的训练来源,同时带来能力与效率的双重提升。

QwenGyre 的核心机制在于 GPU 资源的动态分配。框架将 GPU 分成若干计算单元,任务每结束一批,空出的单元立即转入训练阶段,正在运行的任务完全不受打扰,其进度、状态及之前计算过的缓存均整体保留,无需重头再来。新空出的计算单元直接加入本轮训练,执行速度快的单元承担更多计算任务,最终由核心单元汇总结果,完成一次参数更新。这种机制类似于项目组中成员完成工作后立即加入复盘环节,最大化资源利用率。

在数据记录与反馈方面,QwenGyre 采用 Token-in Token-out 方法记录每段输出生成时的真实上下文,并按共享前缀组织成轨迹树,仅将被选中的路径展开为训练样本,避免无效计算。此外,对于超时但部分完成的任务,框架通过 Partial Scoring 提供有用反馈,确保任何步骤的努力都不被浪费,提高了样本利用率和训练稳定性。

官方在 NL2RepoBench 在线强化学习实验中验证了 QwenGyre 的效果。实验以每次 rollout 约 70 万 token 的任务开展训练,48 步训练后模型通过率从 52.5% 提升至 58.5%。在相同 GPU 预算下,QwenGyre 相对 Async 实现 1.78 倍端到端加速,训练分数与 Async、Colocate 实现接近。在 Qwen3.6-122B 模型上的跨任务验证中,NL2RepoBench、DeepSWE、TerminalBench 三类任务均获得端到端提速,证明该框架的通用性。

影响分析

对中文开发者与从业者而言,QwenGyre 的发布具有显著的工程价值。长程智能体任务训练成本高昂,传统方法中 GPU 闲置与任务重启导致资源浪费严重。QwenGyre 的弹性调度机制允许在任务执行过程中动态回收资源用于训练,减少等待时间,降低整体训练成本。对于从事智能体研发、强化学习及大规模语言模型微调的团队,该框架提供了更高效的基础设施支持,有助于缩短迭代周期。

此外,Partial Scoring 机制使得部分完成的任务也能产生有效梯度信号,这在资源有限或任务耗时不确定的场景下尤为重要。开发者可以利用这一特性在有限 GPU 预算下获得更接近完整训练的效果,降低对大规模集群的依赖。对于关注模型能力与效率平衡的团队,QwenGyre 提供了一条可落地的优化路径,尤其适用于需要处理长上下文、多轮交互的工业级智能体应用。

适用边界

该结论主要适用于涉及长程交互、百万级 token 处理及 GPU 集群调度的在线强化学习训练场景。若任务为短程、单轮或离线强化学习,QwenGyre 的弹性调度与轨迹树组织机制优势不明显,甚至因额外开销导致效率下降。此外,Partial Scoring 的有效性依赖于任务具备可分阶段评估的特性,对于无法部分评分的任务类型,该机制可能失效。用户需确保 GPU 集群支持动态资源分配与状态迁移,否则无法发挥框架最大效能。

孤本观察

编辑判断认为,QwenGyre 将工业级任务调度的“谁先完成谁先复盘”理念引入强化学习训练,是工程思维与算法研究的深度融合。其 1.78 倍加速并非单纯算力提升,而是通过减少资源闲置与无效计算实现的效率红利,这对中小团队降低智能体研发门槛具有实际意义。

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

阿里千问发布 QwenGyre,面向超长程智能体任务的在线强化学习框架

常见问题

QwenGyre在NL2RepoBench实验中每次rollout处理多少token,训练48步后通过率变化如何?

每次rollout约70万token,48步训练后模型通过率从52.5%提升至58.5%。

QwenGyre相对Async实现多少倍端到端加速,训练分数表现如何?

实现1.78倍端到端加速,训练分数与Async、Colocate实现接近。

QwenGyre适用于哪些任务场景,在短程任务中表现如何?

适用于长程交互、百万级token处理及GPU集群调度的在线强化学习训练;短程、单轮任务中优势不明显甚至效率下降。

Partial Scoring机制在哪些情况下可能失效?

对于无法部分评分的任务类型,Partial Scoring机制可能失效。

QwenGyre要求GPU集群具备什么特性才能发挥最大效能?

需支持动态资源分配与状态迁移。

来源:IT之家