📍 无忆研习社 › 开源解码 › 蚂蚁集团开源Ring-2.5-1T深度拆解:全球首个混合线性架构万亿参数思考模型,凭什么拿下IMO金牌?

蚂蚁集团开源Ring-2.5-1T深度拆解:全球首个混合线性架构万亿参数思考模型,凭什么拿下IMO金牌?

摘要:蚂蚁集团开源全球首个万亿参数混合线性思考模型Ring-2.5-1T,采用创新的1:7 MLA + Lightning Linear Attention架构,在长文本生成中访存降低10倍、吞吐提升3倍,并在IMO和CMO数学竞赛中达到金牌水平,同时支持智能体框架,具备强大的多步规划与工具调用能力。
字号 100%
行距 2.05
当前可见 60% 的内容
快速摘要
蚂蚁集团于2026年2月13日正式开源Ring-2.5-1T——全球首个基于混合线性架构的万亿参数思考模型。该模型采用创新的1:7 MLA + Lightning Linear Attention架构,在32K以上长文本生成场景中访存规模降低10倍以上、生成吞吐提升3倍以上;在国际数学奥林匹克(IMO 2025,35分/42分)和中国数学奥林匹克(CMO 2025,105分/126分)中均达到金牌水平;同时支持适配Claude Code、OpenClaw等智能体框架,具备多步规划与工具调用能力。 模型权重已在Hugging Face和ModelScope双平台开放下载。往下看,莫潇羽@无忆研习社为你带来从架构原理到实际部署的全面拆解。

大语言模型的竞赛进入了一个全新的阶段。如果说过去两年的主旋律是"参数规模军备竞赛",那么从2025年下半年开始,行业的注意力已经悄然转向了一个更务实的命题——如何让万亿参数模型真正"跑得快、想得深、干得了活"。

2026年2月13日,蚂蚁集团旗下inclusionAI团队给出了自己的答案:正式开源发布Ring-2.5-1T。这不是一个简单的版本迭代,而是在前代Ring-1T基础上的一次架构级跃迁。它首次将混合线性注意力机制扩展到了万亿参数规模的思考模型上,并在生成效率、推理深度和长程任务执行三个维度上同步取得了突破性进展。

作为长期关注开源大模型生态的站长,莫潇羽(无忆研习社 www.wuyi.wiki)在第一时间对这个项目进行了深入研究。接下来,我将从技术原理、架构设计、性能表现到实际使用,为大家做一次尽可能详细的拆解。无论你是AI从业者、开发者还是技术爱好者,相信这篇文章都能帮你建立起对Ring-2.5-1T的系统认知。


一、为什么我们需要Ring-2.5-1T?理解它的时代背景

从短对话到长程任务:大模型应用场景的深刻变化

在AI大模型发展的早期阶段,大部分应用场景都集中在"短对话"领域——用户提一个问题,模型给一个回答,对话长度通常在几千个token以内。但随着技术和需求的同步演进,应用场景正在快速扩展:长文档处理、跨文件代码理解、复杂任务规划、多步工具调用……这些场景对模型的生成长度提出了远超以往的要求,动辄需要生成数万甚至十万级别的token。

这就产生了一个核心矛盾:传统的Transformer架构在处理长序列时,注意力机制的计算复杂度会随序列长度呈平方级增长。换句话说,模型生成的文本越长,每生成一个新token所需要的计算量和内存访问量就越大,推理速度会急剧下降。对于需要进行深度思考(Deep Thinking)的任务——比如数学竞赛级别的推理——模型往往需要在内部进行大量的思维链推演,生成的"思考过程"本身就可能长达数万token。在这种场景下,传统架构的效率瓶颈尤为突出。

Ring-1T留下的"未完成课题"

2025年10月,蚂蚁集团发布了Ring-1T——当时全球首个开源的万亿参数思考模型。Ring-1T在数学竞赛、代码生成、逻辑推理等多个维度上展现了出色的能力,在IMO 2025中达到了银牌水平。但团队也坦诚地指出了Ring-1T存在的不足:由于其注意力机制仍沿用Ling 2.0架构的GQA(Grouped Query Attention)方案,在长上下文场景下的推理效率还有很大的提升空间。

Ring-2.5-1T的诞生,正是为了系统性地解决这个问题。它不是在Ring-1T基础上简单地"调参优化",而是从底层架构层面引入了全新的混合线性注意力机制,从根源上改变了模型处理长序列时的计算方式。


二、Ling 2.5架构:Ring-2.5-1T的技术底座

要理解Ring-2.5-1T为什么能同时实现"高效"和"深度思考",我们需要先搞清楚它的底层架构——Ling 2.5。

从Ling 2.0到Ling 2.5:一次关键的架构升级

要理解Ling 2.5,我们先得知道Ling 2.0是什么样的。Ling 2.0是蚂蚁百灵大模型系列的基础架构,它是一个典型的异构架构,混合了Dense(密集层)、MoE(Mixture of Experts,混合专家层)和MTP(Multi-Token Prediction,多token预测层)等计算特性截然不同的模块。从16B到1T的全系列模型都建立在这个统一架构之上。

在MoE层的设计上,Ling 2.0采用了"高稀疏、细粒度"的策略:总专家数多达256个,但每次前向传播只激活8个专家和1个共享专家,激活率仅为3.5%左右。这种极致的稀疏设计使得Ling模型实现了相较于同等性能的Dense模型近7倍的计算效率杠杆——通俗地说,就是达到同样的效果,MoE模型只需要Dense模型约七分之一的计算量。这也是为什么万亿参数的Ling-1T能够以500亿的激活参数量,在多项评测中与其他模型一较高下。

此外,Ling 2.0还原生集成了MTP(Multi-Token Prediction)模块,从底层设计上强化了数学与代码这两大关键推理能力。MTP让模型在每一步不仅仅预测下一个token,而是同时预测后续多个token,这有助于模型学习更长距离的依赖关系和更深层的语义模式。

而Ling 2.5则在Ling 2.0的基础上引入了一项核心创新——混合线性注意力架构(Hybrid Linear Attention Architecture)。具体来说,团队通过增量训练的方式,将Ling 2.0原有的GQA注意力机制升级为了1:7的MLA + Lightning Linear混合结构。

这里的"1:7"指的是什么呢?简单理解就是:在模型的所有注意力层中,每8层里有1层保留为MLA(Multi-head Linear Attention)层,而其余7层则被改造为Lightning Linear Attention层。这种设计的巧妙之处在于,它同时兼顾了模型的表达能力和推理效率。这个比例不是随意设定的,而是团队基于此前发布的Ring-flash-linear-2.0技术路线中大量实验验证后确定的最优配置。

所谓"增量训练",是指团队并没有从零开始训练一个全新的模型,而是在已经训练好的Ling 2.0基础上,通过相对较少的额外训练步数,逐步将原有的注意力层转换为新的混合结构。这种做法的好处是可以最大程度地继承Ling 2.0已经学习到的知识和能力,同时以较低的训练成本完成架构升级。

MLA层:压缩KV Cache,保持表达力

MLA层是从原来的GQA层近似转换而来的。GQA是一种在推理时共享Key-Value缓存来减少显存占用的机制,但它在极长序列场景下的缓存压缩率还不够理想。MLA通过更激进的KV Cache压缩策略,进一步降低了推理时的显存需求。

值得注意的是,团队在MLA层的改造过程中对两个关键特性做了针对性适配:

  • QK Norm(Query-Kernel Normalization):对查询向量和键向量进行归一化处理,确保注意力计算的数值稳定性。在混合架构下,不同类型的注意力层之间需要保持一致的数值范围,QK Norm在这里起到了"粘合剂"的作用。
  • Partial RoPE(Rotational Positional Encoding):对旋转位置编码进行了部分保留和调整。完全去掉位置编码会影响模型对序列位置的感知能力,而全量保留又可能与线性注意力的计算方式产生冲突。Partial RoPE在两者之间找到了平衡点,既保持了位置感知能力,又不影响线性注意力的效率优势。

Lightning Linear Attention层:长序列推理的效率引擎

这是Ring-2.5-1T最具突破性的技术特征。Lightning Linear Attention是一种线性复杂度的注意力机制,它与传统Softmax注意力的根本区别在于计算方式:

传统的Softmax注意力需要计算每个token对所有历史token的注意力权重,计算复杂度为 (O(n^2)),其中 (n) 是序列长度。这意味着当序列长度翻倍时,计算量会变成原来的4倍。

而线性注意力通过对注意力计算进行数学变换(通常是利用核函数将Softmax分解为可分离的形式),将复杂度降低到 (O(n))。也就是说,序列长度翻倍,计算量只翻倍,而不是变成4倍。

为了让不太熟悉深度学习的读者更好地理解这个概念,莫潇羽@无忆研习社打一个比方。假设你在一个图书馆里查资料,传统注意力机制(Softmax Attention)就像是每次查一条新资料时,都要把图书馆里所有已经查过的资料重新翻一遍来确认关联性。当你已经查了1000条资料时,查第1001条就需要回顾全部1000条——这就是 (O(n^2)) 复杂度的直观体现。而线性注意力更像是你维护了一本"摘要手册",每查到一条新资料就更新一下手册,然后只需要翻看这本薄薄的手册就能判断新资料和历史资料的关联——无论你查了多少条资料,翻手册的时间基本不变。

在实际的计算过程中,线性注意力通常通过"状态递推"的方式工作:维护一个固定大小的隐状态(类似上面说的"摘要手册"),每处理一个新token就更新这个隐状态,而不需要像Softmax注意力那样保存和回溯完整的KV Cache。这就是为什么Ring-2.5-1T能够在长序列场景下大幅降低访存规模的根本原因——它不需要反复读取越来越大的KV Cache。

在Ling 2.5架构中,7/8的注意力层都采用了Lightning Linear Attention,这意味着在处理长序列时,绝大部分计算层的开销是线性增长的。这直接带来了以下实际效果:在32K token以上的生成长度下,模型的访存规模(即需要从显存中读取的数据量)降低了10倍以上,生成吞吐量提升了3倍以上。而且生成长度越长,这种优势越明显。

为了帮助大家更直观地理解这种架构差异,莫潇羽@无忆研习社制作了以下对比表格:

架构特征

Ling 2.0 (Ring-1T)

Ling 2.5 (Ring-2.5-1T)

注意力机制

GQA (Grouped Query Attention)

1:7 MLA + Lightning Linear

激活参数量

约51B

约63B

KV Cache效率

常规

大幅压缩

32K+生成吞吐

基准

提升3倍以上

32K+访存规模

基准

降低10倍以上

效率增长趋势

序列越长效率越低

序列越长优势越大

为什么不全部用线性注意力?

看到这里,你可能会问:既然线性注意力效率这么高,为什么不把所有层都换成线性注意力?

原因在于,线性注意力的表达能力(expressiveness)相比Softmax注意力是有一定损失的。Softmax注意力能够精确地捕捉任意两个位置之间的"强关联",比如在长文本中回溯到某个关键段落中的特定信息。纯线性注意力在这种"精确回溯"能力上有所不足。

因此,1:7的混合比例是团队在大量实验后确定的一个平衡点:保留少量MLA层来维持模型的"精确记忆"能力,同时用大比例的线性注意力层来获取效率优势。这种设计哲学类似于一个公司的决策体系——绝大部分日常决策可以快速处理(线性注意力),但关键决策仍需深入分析(MLA层)。


三、激活参数量的变化与吞吐效率对比

经过架构升级后,Ring-2.5-1T的激活参数量从Ring-1T的51B提升到了63B。乍一看,激活参数增加了约24%,按常理推理效率应该会下降。但实际测试结果却相反——Ring-2.5-1T的推理效率反而大幅提升了。

这看起来"反直觉"的结果,根源在于注意力机制的计算方式变了。虽然激活的FFN参数多了,但注意力计算的开销大幅降低了。在长序列生成场景中,注意力计算(特别是KV Cache的读写)才是最大的瓶颈,而不是FFN层的计算。混合线性注意力从根本上缓解了这个瓶颈。

一个有意思的对比是:即便与激活参数量仅为32B的KIMI K2架构相比,在1T总参数规模下,Ling 2.5架构在长程推理场景下的吞吐表现依然具有显著优势。这说明Ring-2.5-1T的效率优势不是靠"参数更少"换来的,而是架构层面的结构性优势。

在实际推理场景中,这种效率提升的意义非常重大。以一个典型的数学竞赛推理任务为例:模型可能需要生成长达5万-10万token的思维链来逐步推导证明过程。在传统架构下,生成后半段内容时速度会显著变慢(因为需要处理越来越长的历史上下文),而Ring-2.5-1T的线性注意力机制使得生成速度基本保持稳定。


四、三大核心能力全面解析

Ring-2.5-1T相比Ring-1T的提升不是单维度的,而是在生成效率、思考深度、长程执行三个维度上的同步跃进。我们逐一展开分析。

第一维度:高效生成——让深度思考变得可行

前面已经详细分析了混合线性注意力带来的效率提升。这里需要补充说明的是,效率提升的意义不仅仅在于"更快"本身——它实际上拓宽了模型的能力边界。

举个例子:如果一个模型在解决IMO级别的数学问题时需要进行10万token的深度推理,但由于推理速度太慢,在实际使用中被迫限制在3万token以内,那么模型的"理论能力上限"就会被"工程效率瓶颈"截断。Ring-2.5-1T的效率提升,本质上是在释放万亿参数模型被压制的推理潜能。

第二维度:深度思考——从银牌到金牌的跨越

Ring-1T在IMO 2025中达到了银牌水平,而Ring-2.5-1T直接跃升至金牌水平。这不仅仅是分数上的进步,更体现了推理质量的系统性提升。

具体来看Ring-2.5-1T在数学竞赛中的表现:

  • IMO 2025(满分42分):Ring-2.5-1T获得35分,达到金牌水平。要知道,IMO是全球最高水平的数学竞赛,能拿到金牌的人类选手都是各国的顶尖数学天才。
  • CMO 2025(满分126分):Ring-2.5-1T获得105分,不仅远超金牌线(78分),还显著高于国家集训队入选线(87分)。

从银牌到金牌的跨越背后,关键的技术突破是团队在训练方法上的创新——在RLVR(Reinforcement Learning with Verifiable Rewards,可验证奖励强化学习)的基础上引入了Dense Reward机制。

传统的RLVR训练中,奖励信号通常是"稀疏的"——只在推理的最终结果(比如数学题的最终答案)上给予反馈。这就好比一个老师只看学生的最终答案对不对,不关心推导过程。这种方式在简单任务上足够了,但面对IMO这样需要严谨多步推理的问题时,仅靠最终答案的对错很难引导模型学会"严谨的推理过程"。

Dense Reward则不同,它对推理过程中的每一步都提供反馈,评估思考链条的严谨性和逻辑连贯性。这相当于一个高水平的数学老师,不仅看你的最终答案,还会仔细审查你的每一步推导:逻辑跳跃是否合理?条件运用是否充分?反证法的构造是否完整?这种细粒度的训练信号使得模型学会了更加严谨和系统的推理方式。

通过Dense Reward训练出的模型,在面对高难度数学问题时,不会急于给出答案,而是会自主构建严谨的证明框架。以一个典型的IMO几何证明题为例:模型会先明确已知条件和求证目标,然后系统性地尝试辅助线构造、坐标化、向量法等不同方法,在每种方法的推导过程中不断自我检查逻辑一致性。如果发现某个推导步骤存在问题,模型会主动回溯并修正。这种"边推理边自检"的行为模式,正是Dense Reward训练带来的最重要的能力提升。

值得注意的是,团队已经在GitHub上公开了Ring-2.5-1T在IMO 2025和CMO 2025上的完整解题过程(链接:https://github.com/inclusionAI/Ring-V2.5/tree/main/examples ),感兴趣的读者可以直接查看模型是如何一步步推导出数学证明的。莫潇羽@无忆研习社翻阅了其中的几道题目,整体的推理过程确实展现出了很高的逻辑严谨性——推导步骤清晰,关键转折点都有充分的论证支撑,这与仅使用稀疏奖励训练的模型那种"跳跃式推理"形成了鲜明对比。

此外,团队还引入了"深度思考模式"(Heavy Thinking Mode),通过在推理过程中扩展并行思考和总结,实现测试时扩展(Test-time Scaling)。简单来说,就是让模型在回答难题时有更多"思考时间"——可以从多个角度同时探索解题路径,然后综合不同路径的结果给出最终答案。这种方法有效提升了推理的深度和广度。

第三维度:长程执行——面向智能体时代的核心能力

如果说前两个维度还属于"模型自身能力"的提升,那么长程执行能力则直接关系到模型在实际应用场景中的价值。

Ring-2.5-1T通过大规模全异步智能体强化学习训练(Fully-async Agentic RL),显著提升了在复杂任务中的长程自主执行能力。所谓"长程执行",是指模型能够在没有人类频繁干预的情况下,自主完成一系列连续的操作步骤来达成最终目标。

我们来详细解释一下"全异步智能体强化学习训练"这个概念。在传统的强化学习训练中,训练过程通常是同步的——所有的样本生成、奖励计算、策略更新都按照固定的顺序依次进行,前一步没完成后一步就不能开始。但在万亿参数模型的智能体训练中,不同的任务复杂度差异很大,有的任务可能需要模型执行20步操作才能完成,有的只需要5步。如果按同步方式训练,快完成的任务必须等慢的任务一起完成才能进入下一轮,造成大量的计算资源浪费。

"全异步"训练则打破了这种限制:每个训练样本(即每个智能体任务的执行轨迹)都独立地生成和计算奖励,完成一个就立即用于策略更新,不需要等待其他样本。这种方式大幅提升了训练效率,使得团队能够在合理的时间内完成大规模的智能体环境训练。

在智能体任务的训练过程中,模型需要学会的不仅仅是"回答问题",而是"在环境中采取行动"。比如在软件工程任务(SWE-Bench)中,模型需要阅读代码仓库、定位问题根源、修改多个文件、运行测试来验证修复是否正确——这是一个涉及多轮交互的复杂决策过程,远比单轮问答要复杂得多。

这种能力使得Ring-2.5-1T可以轻松适配各类智能体框架:

  • Claude Code:一种命令行编程智能体工具,开发者可以在终端中将编码任务委托给AI完成。Ring-2.5-1T能够理解复杂的编程需求,自主进行代码阅读、修改、测试和调试。
  • OpenClaw:一个开源的个人AI助手平台,运行在用户本地电脑上,通过WhatsApp、Telegram、Discord等即时通讯应用与用户交互,帮助处理邮件、日历、文件等日常事务。Ring-2.5-1T作为底层模型接入后,可以支持这些复杂的多步任务编排。

在权威的智能体评测基准中,Ring-2.5-1T的表现同样亮眼:

评测基准

测试内容

Ring-2.5-1T表现

Gaia2-search

跨应用工具协作与复杂任务执行

开源模型中达到最优水平

Tau2-bench

工具调用能力

开源领先

SWE-Bench Verified

真实软件工程问题修复

开源领先水平

特别是在Gaia2-search评测中,该基准强调的是跨应用工具协作和复杂任务执行能力,Ring-2.5-1T展示了在计划生成和多步工具调用方面的出色效率与准确性,达到了开源模型中的最优水平。


五、基准测试全景:Ring-2.5-1T处在什么位置?

为了全面评估Ring-2.5-1T的能力,团队选取了当前最具代表性的开源和闭源模型作为参照对象:

开源模型参照:DeepSeek-v3.2-Thinking、Kimi-K2.5-Thinking

闭源API参照:GPT-5.2-thinking-high、Gemini-3.0-Pro-preview-thinking-high、Claude-Opus-4.5-Extended-Thinking

测试涵盖了两大类任务:高难推理任务和长程任务执行。

高难推理任务表现

在数学、代码和逻辑推理的多个高难度基准中:

  • IMOAnswerBench:这是基于IMO真题的数学推理评测。在深度思考模式下,Ring-2.5-1T超越了所有对比模型(包括闭源模型),展现了顶级的数学推理能力。这意味着一个开源模型在数学推理领域首次全面超越了GPT-5.2和Gemini-3.0等商业闭源模型——这在一年前几乎是不可想象的。
  • AIME 26:美国数学邀请赛2026年度评测,Ring-2.5-1T达到开源领先水平。AIME是AMC(美国数学竞赛)的进阶赛事,题目难度介于高中数学竞赛和IMO之间,主要考察选手的问题解决技巧和数学直觉。
  • HMMT 25:哈佛-麻省理工数学竞赛2025年度评测,深度思考模式下同样超越所有对比模型。HMMT是北美地区难度最高的大学生数学竞赛之一,题目设计注重跨领域的数学思维。
  • LiveCodeBench-v6:代码生成能力评测,涵盖了2024年8月到2025年5月期间的编程竞赛题目。深度思考模式下Ring-2.5-1T超越了所有对比模型,说明模型不仅数学好,写代码同样出色。
  • ARC-AGI-V2:抽象推理与通用智能评测,这是一个专门测试模型"类人推理"能力的基准,考察的是模型在面对全新的、未见过的模式时能否归纳出规律。Ring-2.5-1T在此项评测中达到开源领先水平。

这里需要特别说明的是"深度思考模式"(Heavy Thinking Mode)的机制。在标准推理模式下,模型按照正常流程生成一条思维链;而在深度思考模式下,模型会在推理过程中扩展并行思考和总结——可以理解为同时从多个角度探索解题路径,然后汇总各路径的发现来形成最终答案。这种"测试时扩展"(Test-time Scaling)的方法虽然会增加推理时间,但能有效提升推理质量,尤其是在面对高难度问题时效果显著。而Ring-2.5-1T的混合线性注意力架构,正好为这种需要大量token生成的深度思考模式提供了效率保障。

长程任务执行表现

在面向实际应用的智能体任务评测中,Ring-2.5-1T同样表现出色。Gaia2-search、Tau2-bench和SWE-Bench Verified三项评测全部达到开源领先水平,证明了该模型不仅"能思考",而且"能干活"。

其中,SWE-Bench Verified可能是这三项评测中最具实际意义的一个。它收集了来自真实GitHub代码仓库的软件缺陷修复任务,每个任务都包含一个真实的Issue描述、对应的代码仓库和用于验证修复是否成功的单元测试。模型需要自主阅读Issue描述,在整个代码仓库中定位问题代码,然后生成正确的修复补丁。这个过程涉及到对大型代码库的理解、问题定位、跨文件代码修改等多个环节,非常接近真实的软件工程师日常工作。

Gaia2-search则更加注重跨应用的工具协作能力。在这个评测环境中,模型需要使用多种不同的工具(搜索引擎、文件处理工具、计算工具等)来完成复杂的信息检索和分析任务。Ring-2.5-1T在计划生成和多步工具调用方面展示了出色的效率与准确性——它能够合理地规划任务执行顺序,正确地调用各种工具,并将多个工具的输出整合成最终答案。

值得一提的是,团队在Gaia2的评测中采用了OpenAI Function Call格式(而非原始的ReAct格式),这是社区中更广泛采用的工具调用标准。相关的评测方法将被提交到Gaia2的GitHub仓库,以方便更多的研究者进行标准化评测。


六、从Ring-1T到Ring-2.5-1T:技术演进路线复盘

理解Ring-2.5-1T的全貌,有必要回顾蚂蚁百灵大模型的整体演进路线。莫潇羽@无忆研习社梳理了这条技术脉络,帮助大家把握宏观视角。

百灵大模型家族的命名体系

蚂蚁百灵大模型采用了一套清晰的命名规则:

  • Ling系列:基础大语言模型(非思考模型),核心特点是响应速度快,适合即时交互任务。
  • Ring系列:思考模型(推理模型),会进行深度的逐步推理,擅长解决复杂问题。
  • Ming系列:多模态模型,覆盖视觉、音频等不同模态。

在模型规模上,每个系列都有从mini到1T的不同尺寸,服务不同场景需求。

关键里程碑回顾

整个演进过程可以梳理为以下几个关键节点:

  • 2025年5月:蚂蚁技术日上,百灵团队透露正在训练Max级别模型,表示要做到性能"比肩DeepSeek"时才会发布。
  • 2025年9月30日:开源Ring-1T-preview(预览版),全球首个万亿参数推理模型。
  • 2025年10月9日:发布Ling-1T,万亿参数通用大语言模型(非思考模型),采用Ling 2.0架构。
  • 2025年10月14日:发布Ring-1T正式版,在Ring-1T-preview基础上完成了完整的RLVR+RLHF训练流程,IMO达到银牌水平。
  • 此前发布Ring-flash-linear-2.0:这是一个在flash规模(约200B参数)上验证混合线性注意力架构的"试验田"项目。
  • 2026年2月13日:Ring-2.5-1T正式开源,将混合线性注意力架构扩展到万亿参数规模,IMO达到金牌水平。

可以看出,蚂蚁团队走的是一条非常稳健的路线:先在较小规模上验证技术方案,再逐步扩展到万亿参数。Ring-flash-linear-2.0就是在flash规模上验证了混合线性注意力的可行性,然后才在Ring-2.5-1T上进行了万亿级别的放大。


七、底层训练体系:IcePop算法与ASystem框架

万亿参数模型的训练是一项极具挑战性的系统工程。Ring-2.5-1T能够成功,离不开两项关键的底层技术支撑。

IcePop:给强化学习训练"降温"的算法

MoE(混合专家)架构的万亿参数模型在进行强化学习训练时,面临一个棘手的问题——训推不一致(Train-Inference Gap)。由于训练和推理阶段在计算精度、随机采样等方面的细微差异,两个阶段的模型行为会逐渐偏离。在长周期的强化学习训练中,这种偏离会像滚雪球一样越来越大,最终可能导致训练崩溃。

为什么MoE模型的训推不一致问题特别严重呢?这与MoE的路由机制有关。MoE模型通过一个"路由网络"来决定每个token应该由哪些专家来处理。在训练时,路由决策受到训练过程中各种数值噪声的影响;而在推理时,同样的输入可能因为数值精度的微小差异而被路由到不同的专家。随着强化学习训练的推进,这种"路由漂移"会不断累积,使得训练阶段学到的策略在推理阶段的表现大打折扣。如果不加以控制,模型可能在训练中看起来越来越好,但实际推理时性能反而下降——这就是所谓的"训练崩溃"。

传统的GRPO(Group Relative Policy Optimization)算法在处理这个问题时效果不佳——训推差异会随着训练的推进呈指数级上升,在训练后期往往会出现剧烈的性能波动。蚂蚁团队提出的IcePop("棒冰")算法通过掩蔽双向截断技术(Masked Bi-directional Truncation)来校正分布差异,就像给过热的训练过程浇了一盆冷水。

具体来说,IcePop的工作原理是在梯度计算过程中,对那些训推差异最大的样本(即"高温样本")进行双向截断——既限制它们对策略更新的正向影响,也限制其负向影响。同时,通过自适应温度调节机制,动态控制策略探索的激进程度。实验数据显示,使用IcePop后,训推差异在整个训练周期内都保持在较低且稳定的水平,而使用GRPO的对照组则出现了显著的指数级增长,最终导致训练不稳定。

这项技术的意义在于:没有稳定的训练,万亿参数模型的强化学习就无从谈起。IcePop是Ring系列模型能够成功进行大规模强化学习的基石。如果你对这个算法的细节感兴趣,可以访问蚂蚁团队发布的技术博客:https://ringtech.notion.site/icepop 。

ASystem:万亿参数模型的强化学习训练平台

训练万亿参数的思考模型,光有好算法还不够,还需要强大的系统支撑。ASystem是蚂蚁自研的高性能强化学习系统,专门为万亿参数模型设计,它解决了以下几个关键工程难题:

显存管理:万亿参数模型的显存管理极为复杂。ASystem采用了显存透明卸载和跨节点显存池化技术,将散落在各个GPU上的显存碎片整合为共享池,有效降低了OOM(Out of Memory)的风险。

权重交换:强化学习训练需要频繁在"训练"和"推理"模式之间切换,每次切换都需要交换模型权重。ASystem通过GPU间P2P直连通信和原地更新技术,绕过了传统的CPU中转环节,实现了秒级、零冗余的模型权重交换。

混合奖励平台:强化学习的另一个瓶颈是奖励评估。模型每次生成的结果都需要通过评估来计算奖励值,涉及代码执行、数学验证等操作,需要在安全沙箱环境中完成。ASystem基于大规模Serverless Sandbox构建了混合奖励平台,支持毫秒级冷启动,覆盖10余种编程语言环境,吞吐量可达10K请求/秒。


八、模型获取与部署指南

作为一个完全开源的项目,Ring-2.5-1T的模型权重和推理代码已经在主流平台发布。莫潇羽@无忆研习社为大家整理了完整的获取和使用路径。

模型下载地址

如果你在国内,强烈建议使用ModelScope来下载模型,速度会快很多。

在线体验渠道

官方提供了两

🔒
该内容仅对更高等级社区用户开放
请谨慎解锁时效性强且发布日期较早的文章
单篇解锁后若未显示全文请刷新页面
您当前:游客 · 可见 60% 内容 · 升级至 注册用户 可见 70%
👀
游客
可见 60%
✓ 当前
注册用户
注册用户
可见 70%
社区精英
社区精英
可见 100%
社区守护
社区守护
可见 100%
仅解锁本文,永久有效。如需PDF珍藏版,请联系站长获取。 当前单篇价格 ¥9.9
✏️ 发表评论

请先登录后发表评论

前往登录
📊 站点统计
今日发布0 篇
文章总数1107 篇
昨日发布1 篇
本月发布31 篇
建站时间456 天
🔍 搜索
站长微语

联系站长

QQ:2805463528
AIGC 技术社区
致力于解码 AI前沿技术 与经验分享
纯粹的技术应用社区

💡 欢迎您的建议与反馈,让社区变得更好

快速通道
联系站长
站长QQ二维码
AI交流群
AI交流群
仍在路上

那些寒夜里追赶过的方向

那些冷眼下没放弃的理想

一篇一篇写到现在

仍在路上

"不羁放纵爱自由"

—— 致敬 Beyond
持续创作中 莫潇羽 · 无忆研习社
▲