长程（Long-Horizon）任务，超越参数被视为当前 AI Agent 领域亟待攻克的模型核心瓶颈。

在软件工程、上海前沿科学研究及复杂决策等高阶场景中，超越参数Agent 必须在长周期内保持连续且精准的模型决策能力。任何单步失误，上海都可能导致后续任务链的超越参数崩塌。传统观点认为，模型提升此类能力主要依赖扩大模型参数规模；而另一条路径——扩展 Agent 的上海 Horizon（视野/跨度），虽被视为重要方向，超越参数却长期受限于基础设施薄弱及异构能力难以统一两大痛点。模型

针对上述挑战，上海上海人工智能实验室（Shanghai AI Lab）团队重磅推出了一款 35B 参数规模的超越参数 MoE Agent 模型——Agents-A1。该模型旨在打破“唯参数论”，模型通过极致扩展 Agent Horizon，上海利用更小的模型体量，逼近甚至超越万亿参数级模型的长程表现。

论文链接：https://arxiv.org/abs/2606.30616

研究数据显示，Agents-A1 在多步搜索、科学推理及长指令遵循等关键任务中，表现已超越部分万亿参数级模型，并在 35B 同量级模型中稳居榜首。

图｜Agents-A1 的基准测试表现

当然，研究团队也客观指出，Agents-A1 在部分工程类任务上，与当前最顶尖的大模型相比仍存在一定差距。

这项研究提出了一种更具性价比的 AI Agent 开发范式：与其盲目堆砌参数，不如通过训练让 Agent 养成持久、可验证的高效工作习惯。

Agents-A1 架构设计解析

Agents-A1 是一款专为长程任务打造的 35B 参数 MoE（混合专家）Agent 模型。其核心创新在于依托长程知识-动作基础设施，通过三阶段训练流程，将多元化的 Agent 能力深度融合至单一模型中：

1. 全领域 SFT（监督微调）：建立通用 Agent 基座。
2. 领域教师模型训练：针对特定领域培养专家能力。
3. 多教师 On-Policy Distillation (OPD)：实现能力的统一与升华。

具体流程详解如下：

1. 全领域监督微调（SFT）

此阶段旨在构建模型的通用 Agent 能力。

• 数据策略：使用多领域、多任务的高质量长程轨迹数据进行训练，强化模型在长上下文环境下的理解、推理及指令遵循能力。
• 技术优化：引入 Sample Packing技术，将多个短样本拼接为单个训练序列，并配合注意力掩码（Attention Mask）防止样本间干扰。此举有效减少了 Padding 开销，显著提升了 GPU 利用率。

2. 领域级教师模型训练

研究团队将 Agent 能力拆解为四大核心专长，分别训练对应的“领域教师”：

• 搜索教师（Search Teacher）：
• 策略：采用“先 SFT、后 RL”的两阶段训练，结合 GRPO算法。
• 目标：提升复杂问题拆解、多跳搜索及工具协同能力，在确保准确率的同时，大幅减少冗余搜索步骤。
• 科学教师（Science Teacher）：
• 策略：两阶段 SFT。第一阶段强化科学推导逻辑；第二阶段通过工具增强轨迹训练，提升外部交互与证据整合能力。
• 目标：教会模型何时调用外部工具，并有效整合检索或计算得出的证据。
• 指令遵循教师（Instruction Following Teacher）：
• 策略：两阶段 RL 结合 GRPO 训练。
• 阶段一：提升对格式、长度、关键词及语言等细粒度约束的满足能力。
• 阶段二：强化长上下文 In-Context Learning (ICL) 中的证据定位、信息整合及上下文规则遵循能力。
• 工具调用教师（Tool Use Teacher）：
• 策略：工具 SFT 与工具 RL 的两阶段优化。
• 重点：学习工具调用的时机、纠错机制及任务终止判断。结合结果奖励、过程奖励及高质量困难任务复用，全面提升工具使用效能。

3. 统一模型阶段

• 流程：收集“学生轨迹”，由对应的“领域教师”进行打分指导。
• 创新点：不同于传统的离线模仿，此处教师直接评估学生自身生成的轨迹。
• 结果：通过按领域路由的蒸馏和显著词汇对齐，模型既保留了全领域 SFT 的广泛适应性，又整合了各领域教师的深度专长。

图｜Agents-A1 三阶段训练流程概览

为支撑这一复杂的训练流程，团队构建了以知识-动作图（Knowledge-Action Graph, KAG）为核心的基础设施，并通过自博弈（Self-Play）不断扩展高质量长轨迹数据。这使得训练样本不仅包含“问题-答案”，更完整保留了工具使用与验证的全过程。

图｜Agents-A1 的知识-动作基础设施概览

实验结果分析

总体而言，Agents-A1 在长程搜索、指令遵循和科学推理等任务上表现卓越，不仅领先于同规模的 35B 模型，更在部分基准测试中超越了万亿参数级模型。

图｜Qwen3.5-35B-A3B、Agents-A1-SFT 和 Agents-A1 的性能对比

1. 全领域 SFT 阶段

结果显示，Agents-A1-SFT 在长程搜索、工程任务和科学研究方向上显著提升。然而，在通用 Agent 任务、指令遵循及 HLE（人类评估）指标上出现回落。这表明，仅靠全领域 SFT 尚难完全缓解不同推理模式间的冲突。

2. 领域教师模型训练成果

• 搜索增强教师：
• 在四个基准上均稳定优于 Qwen3.5-35B-A3B。
• 亮点：在通用 AI 助手基准 GAIA上，得分从 59.8 飙升至 95.1，提升幅度惊人。

图｜Qwen3.5-35B-A3B 与搜索增强教师模型的性能对比

• 科学增强教师：
• 两阶段 SFT 显著增强了科学推理和工具交互能力。
• 亮点：在 FS-R任务上，得分从 2.5 跃升至 54.3，实现质的飞跃。

图｜Qwen3.5-35B-A3B 与科学增强教师模型的性能对比

• 指令遵循与长上下文学习：
• 强化学习显著提升了长上下文理解、指令遵循及对可验证指令约束的泛化能力。
• 亮点：在 LongBench V2和 IFBench上提升尤为明显，整体表现优于基线模型。

图｜Qwen3.5-35B-A3B 与 RL 增强教师模型在 LongBench V2、IFBench 和 IFEval 上的评测结果

• 工具调用实验：
• 显式工具使用监督与强化学习显著提升了工具调用能力，尤其在多轮、结构化交互任务中效果显著。
• 亮点：在 τ²-Bench和 VitaBench上均取得显著提升。

图｜Qwen3.5-35B-A3B 与工具增强 RL 教师模型在 τ²-Bench 和 VitaBench 上的性能评测结果

3. 统一模型实验

结果表明，多教师 OPD 机制比单纯的全领域 SFT 更能缓解不同任务推理模式间的冲突。它在保留广泛能力覆盖的同时，更好地整合了各领域专长，进一步提升了长程任务的整体表现。

图｜Agents-A1 与 35B / 1T 级模型的对比

真实场景案例展示

除标准基准测试外，研究团队通过两个极具代表性的案例，展示了 Agents-A1 在长程 Agent 任务中的实际能力。

案例一：鲸鱼叫声检测（机器学习全流程优化）

在鲸鱼叫声检测任务中，Agents-A1 展现了在长时间跨度内持续优化完整机器学习流程的能力。
* 过程：模型在一次 12 小时的运行中，从简单的 CNN 基线出发，通过多轮迭代优化。
* 结果：验证集 AUC 从 0.58提升至 0.9935。
* 意义：这表明 Agents-A1 已超越局部的超参数调优，具备了在多轮迭代中持续改进方案并提升泛化能力的高级智能。

图｜Agents-A1 在 ICML 2013 Whale Challenge 上一次 12 小时运行中的优化轨迹

案例二：地球科学分析（端到端闭环）

在 2008 年热带气旋 Nargis 的分析任务中，Agents-A1 展现了完整的端到端分析能力。
* 过程：模型自动识别数据源，完成数据提取、清洗、派生指标计算、可视化及结果综合。
* 结果：形成了从规划到报告生成的多阶段闭环，并以较高保真度重建了风暴演化过程。

图｜由 Agents-A1 生成的 2008 年热带气旋（Nargis）的路径

不足与未来方向

尽管 Agents-A1 在多项长程任务上表现强劲，但仍存在以下局限性，指明了未来的改进方向：

1. 基础原子能力待加强：
   模型在“先规划再推理”、“先反思再行动”、长上下文关键信息总结及重要历史信息识别等基础能力上仍有提升空间。这些能力直接决定了长程任务中的稳定性、目标一致性与执行效率。未来需重点强化这些基础模块，以进一步提升长过程求解能力。

2. 机器学习工程任务存在差距：
   在复杂的机器学习工程任务上，Agents-A1 与更大参数规模的模型相比仍有明显差距。未来研究需聚焦于增强模型在完整工程流程中的目标一致性、决策记忆与试验效率。

3. 统一性与专长的平衡：
   经过 OPD 训练的统一学生模型，并不能在所有领域都稳定超越对应的教师模型。如何在模型统一性与领域专长之间取得更优平衡，仍是后续研究的核心课题。

更多技术细节，请参阅原论文。

作者：夏千斯

如需转载或投稿，请直接在本文章评论区内留言