华为计算:性能跃升 3.8 倍 昇腾 AsyncFlow 异步流式 RL 破解后训练长尾之困
金十数据 7 月 6 日讯,华为计算发文表示,强化学习已成为大模型从能用走向好用的核心引擎。但在 RL 训练流程中,传统同步训练模式长期受困于长尾阻塞——生成阶段的极端耗时反复中断训练,硬件大面积空闲,既拉低吞吐又推高成本。AsyncFlow 异步流式 RL 以训推解耦为核心,通过 TransferQueue 数据中枢与 CheckpointEngine 权重引擎,将推理(Rollout)与训练(Trainer)彻底解耦,突破同步模式的性能限制。实测在 prompt 2k → response 16k 长序列场景下,在昇腾 Atlas 900 A3 SuperPoD 液冷超节点、Atlas 800 A3 风冷超节点等全系列产品训练吞吐从同步方案的 59.3 提升至 226.8,相对提升 3.81 倍,同时保持收敛精度对齐,目前已支持 verl 框架。
 
 
Back to Top