找工位
空间入驻
小程序

35B干翻万亿参数?上海AI Lab这个新模型,把AI Agent的"耐心"拉满了

2026-07-02 17:43:05

这是根据您提供的Markdown文章内容,按照您的排版要求(标题段落划分、去除无用符号、保留格式、输出HTML)生成的一个结构化、美观的HTML代码片段。您可以直接将其用于网页或内容发布。 ```html

你有没有遇到过这种崩溃瞬间?

让AI帮你写个复杂的代码项目,结果它第二步就开始瞎编;让它做个多步骤调研,它查完第一个网页就忘了自己要干嘛。

气不气?

其实这不怪你,也不怪AI笨。问题的根源在于——AI Agent的"耐心"太有限了。

在软件工程、科学研究、复杂决策这些需要连续干好几步甚至几十步的任务里,Agent只要走错一步,后面全白费。过去大家怎么解决这个问题?简单粗暴:堆参数。模型越大,理论上就越聪明。

但上海AI Lab的团队说了:停!咱们换个思路。

他们搞出了一个叫 Agents-A1 的35B参数MoE模型,不靠堆参数,而是靠扩展Agent的"任务持久力"(也就是长程 Horizon),用更小的身板去硬刚万亿参数级的大模型。

结果还挺炸裂——在某些多步搜索、科学研究和长指令遵循任务上,它竟然真的超过了部分万亿参数级的模型,而且在同规模的35B模型里直接封顶。

不堆参数,那靠什么?

先说结论:Agents-A1 的核心思路就一句话——教AI养成更持久、更靠谱的工作习惯,而不是光给它塞知识。

听起来像鸡汤?别急,往下看技术细节,你会发现这招挺硬的。

💡 三阶段训练:先打基础,再拜名师,最后融会贯通

Agents-A1 的训练过程分为三步走,每一层都踩在前一层的肩膀上:

第一阶段:全领域SFT(打好通识基础)

研究人员先用多领域、多任务的高质量长程轨迹数据给模型上课。说白了,就是让模型看大量别人是怎么一步步完成复杂任务的例子,增强它在长上下文下的理解、推理和指令跟随能力。

这里有个小技巧叫"sample packing"——把几个短样本拼成一个长序列一起训练,既省算力又提升GPU利用率,聪明得很。

第二阶段:培养四个"专家老师"

模型有了基础功底后,团队把它拆成四个方向,每个方向专门培养一个专家老师:

  • 🔍 搜索老师:先学怎么拆解复杂问题,再用强化学习(GRPO)优化多跳搜索能力。目标是什么?找到正确答案,但别瞎搜浪费时间。
  • 🧪 科学老师:先强化科学推导能力,再学怎么借助外部工具(比如查资料、跑计算)来验证结论。重点培养的不是死记硬背,而是"什么时候该动手查一查"。
  • 📋 指令跟随老师:两轮强化学习下来,第一轮学怎么满足格式、长度、关键词这些细颗粒度要求;第二轮学怎么在超长上下文里精准定位关键信息并严格遵守规则。
  • 🔧 工具调用老师:重点攻克三个问题——什么时候调工具、出错了怎么纠、什么时候该结束任务。配合结果奖励和过程奖励,把工具使用彻底练透。

第三阶段:多教师蒸馏(融合各路绝学)

最精彩的部分来了!

团队先让学生模型自己干活、生成轨迹,然后由对应领域的老师打分指导。跟传统的离线模仿不一样,这里是"学生现场表演,老师现场点评"——老师直接评估学生自己生成的轨迹,针对性极强。

最后,通过按领域路由的蒸馏和显著词汇对齐,把四个老师的专长和第一阶段的通识能力融合成一个模型。

这个过程就像:先上通识课,再找四个领域的金牌教练特训,最后让教练们一起陪练、实时纠错。效果能不好吗?

⚠️ 实验结果:35B真的干翻了万亿模型?

咱们直接看硬数据,不吹不黑:

搜索能力:直接翻倍

在通用AI助手基准GAIA上,Agents-A1的搜索增强老师模型得分从59.8直接飙升到95.1——提升幅度接近60%,这已经不是优化了,是质变。

科学推理:从2.5到54.3的飞跃

在FS-R科学推理基准上,科学增强老师模型从基线的2.5直接干到54.3,翻了二十多倍。虽然说明基数低,但这个提升幅度还是相当震撼的。

指令跟随和长上下文:全面领先

在LongBench V2和IFBench上,RL增强老师的表现明显优于基线模型。简单说,模型更听话了,也更记得住事儿了。

工具调用:多轮交互不再是噩梦

在τ²-Bench和VitaBench上,工具增强模型取得了显著提升。那些需要好几轮结构化交互的任务,它终于能hold住了。

🌟 真实案例:它真的有"长程思维"吗?

光看测试分数还不够,咱们来看两个实战案例:

案例1:给鲸鱼做声纹识别

研究人员让Agents-A1完成一个机器学习全流程任务——从简单的CNN基线出发,在12小时运行中不断优化,最终把验证集AUC从0.58提升到了0.9935。

注意,这不是简单的调参,而是在多轮迭代中持续改进方案,提升模型泛化能力。也就是说,它真的在"思考怎么做得更好"。

案例2:还原热带气旋路径

以2008年热带气旋Nargis为例,Agents-A1自动完成了数据源识别、数据提取清洗、指标计算、可视化、结果总结——一套完整的端到端分析,最终高保真地重建了风暴演化过程。

从规划到报告生成,多阶段闭环,一气呵成。

它真的完美了吗?

当然不是,研究团队自己也很坦诚地指出了三个短板:

第一,基础原子能力还不够硬

比如"先规划再推理""先反思再行动"这种基础能力,还有长上下文关键信息总结、重要历史信息识别,都还有提升空间。这些能力直接影响长程任务的稳定性和执行效率。

第二,工程类任务仍被大模型碾压

在机器学习工程任务上,Agents-A1跟万亿参数级大模型之间差距明显。毕竟写代码、搭工程这件事,参数规模带来的"见多识广"优势还是很难替代的。

第三,统一模型未必每次都强过专家老师

经过多教师蒸馏后的统一学生模型,并不能在所有领域都稳定超过对应的老师模型。怎么在"模型统一性"和"领域专长"之间找到最佳平衡点,还需要继续探索。

金句来了:真正厉害的AI,不一定是最聪明的那个,而是最有耐心的那个。

互动问题:你觉得未来的AI Agent应该走"更大的参数"路线,还是"更长的耐力"路线?评论区聊聊你的想法!

如果觉得这篇文章有收获,点个在看分享,让更多人看到AI这个新思路!

参考论文:https://arxiv.org/abs/2606.30616

```