10 月 8 日,小米 MiMo 团队发布技术报告《MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement》,披露了一套完整的规模化 Agentic RL 训练过程:通过同时扩大训练 Batch、任务环境与 Harness,以及用于评判 Agent 行为的 Grader Compute,探索模型持续自我改进的路径。

此次发布包含 MiMo-V2.6-Pro 和 MiMo-V2.6-Flash 两个模型。Pro 总参数量 1.02T、每次推理激活 42B 参数;Flash 总参数量 310B、激活 15B 参数。两者均采用稀疏混合专家(MoE)架构,文本主干混合局部滑动窗口注意力(SWA)与全局注意力(GA)。训练将强化学习算力拆分为 Rollout、Grading 和 Training 三部分。每个 RL Step 先采样 1568 个 Prompt,每个 Prompt 生成 16 条 Rollout,即每步约产生 2.5 万条 Agent 轨迹,合计 27 亿至 37 亿 Token,平均每条序列约 11 万至 15 万 Token,训练上下文长度最高达 100 万 Token。

训练任务覆盖代码 Agent、通用工具使用、视觉设计、上下文遵循和网络安全。正式 RL Batch 中,代码与竞争性编程任务占 68%,通用工具使用占 12%,视觉设计占 13%,上下文遵循占 3%,网络安全占 4%。整个训练采用 GRPO,并结合异步 Partial Rollout。成本方面,MiMo-V2.6-Pro 的 RL 后训练成本约 260 万美元,Flash 约 90 万美元。Pro 的计算成本中,Rollout 占 43.8%,参数更新训练占 43.5%,Grader 占 12.7%;Flash 的 Grader 成本比例达 14.2%。

针对传统二元测试奖励在长程 Agent 任务上失效的问题,MiMo-V2.6 在代码 Agent 训练中引入两套分组智能体评分机制。分组奖励合成(GRS)收集同一任务的多个 Rollout,由 Agent 生成“解决方案质量”和“行为质量”两套 Rubric,新轨迹除通过测试外,还按代码实现质量、边界情况处理、与原代码库一致性及必要验证等因素打分。分组优势重分配(GAR)则将同一任务的成功与失败轨迹放在一起比较,对已通过测试的方案按解决思路、实现准确度、修改范围、副作用和工程质量排序,把更多强化信号分配给质量更高的解法。