万亿参数开源多模态大模型 Yuan3.0 Ultra 深度解析：架构原理、LAEP 方法与实操指南

快速摘要
Yuan3.0 Ultra 是由 YuanLab.ai 团队开源发布的万亿参数级多模态基础大模型，采用 MoE（混合专家）架构，总参数规模达 1010B，激活参数为 68.8B。它最大的技术亮点是提出了 LAEP（Layer-Adaptive Expert Pruning，逐层自适应专家裁剪）算法，在预训练过程中将模型参数从 1515B 精简到 1010B，预训练效率提升了 49%。 模型在多模态文档理解、检索增强生成（RAG）、表格分析、工具调用等企业级任务中表现突出，多项评测中领先于同类前沿模型。往下看有更详细的架构拆解、技术原理分析和部署操作指南。

写在前面：这篇文章想帮你搞懂什么？

莫潇羽@无忆研习社 这次带大家深度拆解的，是国产大模型领域一个值得关注的新进展——Yuan3.0 Ultra 的全面开源。这个模型有几个值得特别关注的地方：它是当前业界为数不多的万亿级开源多模态大模型之一；它提出的 LAEP 方法在预训练效率优化方面具有创新价值；同时它围绕企业级 Agent 应用做了深度的能力建设。

这篇文章（莫潇羽@无忆研习社 原创，首发于 www.wuyi.wiki，转载请注明出处）不会只是简单地复述官方公告，而是要从技术原理层面帮大家把几个关键问题讲清楚：MoE 架构到底是什么、LAEP 方法为什么能提升将近一半的训练效率、模型的多模态能力是怎么实现的、以及普通开发者如何去下载和使用这个模型。无论你是 AI 领域的从业者，还是对大模型感兴趣的技术爱好者，都能从中找到有价值的信息。

一、Yuan3.0 Ultra 是什么？先把基本面说清楚

1.1 定位与背景

Yuan3.0 Ultra 是源（Yuan）3.0 系列的旗舰版本，由 YuanLab.ai 团队研发并完全开源发布。源 3.0 系列按照参数规模分为三个版本：Flash（40B 参数，已于 2025 年底开源）、Pro（200B 参数）和 Ultra（万亿参数级别）。Ultra 就是这个系列中规模最大、能力最强的版本。

从全球范围来看，开源的万亿参数级多模态大模型数量非常有限，Yuan3.0 Ultra 的开源使得业界在这一层级上多了一个可用的选择。对于研究者和企业用户而言，这意味着可以在不依赖闭源 API 的情况下，获取一个体量足够大、能力足够全面的基础模型，并在此之上进行二次开发和行业定制。

1.2 核心参数一览

为了让大家快速建立对这个模型的整体认知，莫潇羽@无忆研习社 把关键参数整理如下：

这里有几个数字特别值得注意。首先是"1515B → 1010B"这个变化，这不是两个不同的模型，而是同一个模型在预训练过程中经过 LAEP 方法优化后的结果，参数减少了 33.3%。其次是"68.8B 激活参数"——这是 MoE 架构的特点，虽然模型总参数超过一万亿，但每次推理时实际参与计算的只有大约 688 亿个参数，这使得推理时的算力需求远低于同等规模的稠密模型。

二、技术根基：MoE 混合专家架构详解

要理解 Yuan3.0 Ultra，首先需要理解它所采用的 MoE 架构。这是当前训练万亿参数级模型的核心技术路线，也是 Yuan3.0 Ultra 大部分技术创新的基础。

2.1 什么是 MoE？从一个直觉开始

想象一家综合医院。如果每个患者来了都要所有科室的医生一起会诊，那效率会非常低。现实中的做法是，先由分诊台判断患者的情况，然后把他引导到最合适的专科医生那里。大部分情况下，一两个专科就能解决问题，不需要动用全院的力量。

MoE（Mixture of Experts，混合专家模型）的思路与此类似。在传统的稠密（Dense）Transformer 模型中，每个输入 token 都要经过模型的全部参数进行计算，这就像是让所有医生一起会诊每个患者。而在 MoE 架构中，模型的前馈神经网络（FFN）层被替换成了多个"专家"子网络，每次输入一个 token 时，由一个"门控网络"（也叫路由器，Router）来决定这个 token 应该被送往哪几个专家进行处理。

用更技术化的语言来说，MoE 层的计算过程可以概括为以下步骤：

输入 token x → 门控网络打分 → 选择 Top-K 个专家 → 被选中的专家分别计算 → 加权合并输出

其中，门控网络的数学表达为：

[

g(x) = \text{Softmax}(W_g \cdot x)

]

这里 ( W_g ) 是门控网络的可学习参数矩阵，( x ) 是输入的 token 向量。Softmax 的输出是一个概率分布，表示各个专家对当前 token 的"适配程度"。然后选择概率最高的 K 个专家进行计算（通常 K=2），最终的输出是这些专家输出的加权和：

[

y = \sum_{i \in \text{TopK}} \tilde{g}_i \cdot E_i(x)

]

其中 ( E_i(x) ) 是第 ( i ) 个专家的计算结果，( \tilde{g}_i ) 是归一化后的门控权重。

2.2 MoE 的核心优势：大模型的"效率魔法"

MoE 架构之所以能够支撑万亿参数级别的模型训练，关键在于它实现了一个看似矛盾的目标——在大幅扩大模型容量的同时，保持可控的计算开销。

举一个具体的例子来理解这个数量级差异。假设一个稠密模型有 1000B 参数，那么每处理一个 token，这 1000B 参数都要参与运算。但如果用 MoE 架构来构建同样 1000B 参数的模型，假设每层有 N 个专家，每次只激活 2 个，那么每个 token 实际使用的参数可能只有总参数的 5%~10%。这就是为什么 Yuan3.0 Ultra 虽然总参数超过 1 万亿，但激活参数只有 68.8B 的原因。

不过（莫潇羽@无忆研习社 在这里提醒一下），MoE 并不是没有代价的。它的主要挑战包括：

• 显存压力依然存在。 虽然每次推理的计算量降低了，但所有专家的参数仍然需要全部加载到显存中。比如以业界知名的 Mixtral 8×7B 为例，虽然它每次只激活 2 个专家（约 13B 活跃参数），但加载完整模型需要大约 90GB 的显存。对于 Yuan3.0 Ultra 这种万亿级别的模型，显存需求更是以 TB 为单位来计算的
• 专家负载不均衡。 这是 MoE 架构最核心的痛点之一。门控网络在训练过程中可能形成"偏好"，总是倾向于将 token 路由给少数几个专家，导致这些专家被过度使用，而其他专家则长期处于低负载甚至闲置状态。为了缓解这个问题，业界通常会在训练损失中加入辅助负载均衡损失函数来鼓励更均匀的路由分配，但这种方法治标不治本，只能减轻不均衡的程度，无法从根本上解决冗余专家的问题
• 分布式通信开销。 在多 GPU 分布式训练中，不同的专家通常分布在不同的设备上。每次路由决策后，token 需要通过 All-to-All 通信操作被发送到其所属的专家设备上进行计算，计算完成后再发送回来。这种跨设备的数据交换会带来显著的通信延迟，尤其是在专家数量众多的大规模模型中，通信开销可能成为训练速度的瓶颈
• 微调的泛化挑战。 MoE 模型由于参数量巨大且稀疏激活，在微调阶段比较容易出现过拟合现象。不过近年来的研究表明，结合 LoRA 等参数高效微调方法，这一问题正在得到逐步缓解

而 Yuan3.0 Ultra 的 LAEP 方法，恰恰就是针对第二个挑战——专家负载不均衡问题——提出的解决方案。这也是这个模型最核心的技术创新点。

2.3 Yuan3.0 Ultra 的 MoE 具体实现

具体到 Yuan3.0 Ultra 的架构实现，它的语言主干网络（Language Backbone）基于 MoE 架构构建，包含 103 层 Transformer。在训练初始阶段，模型的总参数规模为 1515B。通过门控网络的路由机制，每次推理时只有 68.8B 参数被激活。

为了帮大家建立更直观的理解，莫潇羽@无忆研习社 用伪代码来描述一下 Yuan3.0 Ultra 单层 MoE 的核心计算逻辑：

# Yuan3.0 Ultra 单层 MoE 前向传播（简化示意）
def moe_forward(x, experts, gate_network, top_k=2):
    """
    x: 输入 token 的隐藏状态向量
    experts: 该层的所有专家网络列表
    gate_network: 门控/路由网络
    top_k: 每个 token 激活的专家数量
    """
    # 第一步：门控网络计算每个专家的分数
    gate_scores = softmax(gate_network(x))  # shape: [num_experts]

    # 第二步：选择得分最高的 Top-K 个专家
    top_k_indices = gate_scores.topk(top_k).indices
    top_k_weights = gate_scores[top_k_indices]
    top_k_weights = top_k_weights / top_k_weights.sum()  # 归一化

    # 第三步：被选中的专家分别进行计算
    output = 0
    for idx, weight in zip(top_k_indices, top_k_weights):
        expert_output = experts[idx](x)  # 每个专家本质上是一个 FFN
        output += weight * expert_output

    return output

需要注意的是，Attention（注意力）层在 MoE 架构中通常仍然是"稠密"的，也就是说所有 token 共享同一套注意力参数。MoE 替换的是 Transformer 中的 FFN 层，因为 FFN 占据了模型总参数的大部分（通常超过三分之二），将其替换为 MoE 层能够获得最显著的效率提升。

三、核心创新：LAEP 逐层自适应专家裁剪方法

LAEP（Layer-Adaptive Expert Pruning）是 Yuan3.0 Ultra 最重要的技术贡献。要理解它为什么有效，首先需要了解 MoE 模型在训练过程中会出现什么样的问题。

3.1 问题的发现：专家负载极度不均衡

YuanLab.ai 团队在大规模 MoE 模型的长期训练研究中，发现了一个关键的现象：随着预训练的进行，各个专家被路由器分配到的 token 数量会出现极度不均衡的情况。

这个过程可以分为两个明显的阶段：

第一阶段是初始过渡阶段。 在模型预训练的早期，由于参数是随机初始化的，门控网络还没有学会合理的路由策略，因此每个专家接收到的 token 数量波动非常剧烈。同一个专家在不同时间步接收的 token 数量可能相差好几个数量级——上一秒可能收到了 10000 个 token，下一秒可能只收到了 10 个。

第二阶段是稳定阶段。 经过一段时间的训练后，路由模式逐渐稳定下来，每个专家接收的 token 数量不再大幅波动。但问题是，稳定下来的分布是严重不均匀的：少数专家承担了大量的计算任务，而相当一部分专家长期处于低负载甚至几乎闲置的状态。根据 YuanLab.ai 团队的观测数据，在训练稳定阶段，负载最高的专家和负载最低的专家之间的 token 处理量差异可以接近 500 倍。

这意味着什么呢？莫潇羽@无忆研习社 给大家算一笔账：如果一个 MoE 层有 100 个专家，但其中有 30 个专家几乎不处理任何 token，那这 30 个专家的参数虽然占据着显存、消耗着训练资源，但对模型的最终输出几乎没有贡献。这是对算力的巨大浪费。

3.2 现象的本质：功能专一化（Functional Specialization）

YuanLab.ai 团队并没有简单地把这个现象当作一个需要"修复"的 bug，而是从更深层的角度去理解它。他们指出，专家负载的不均衡实际上是大模型在训练过程中自然形成的功能专一化（Functional Specialization）的体现。

什么意思呢？在长期训练过程中，不同的专家会逐渐对特定的语义模式、任务类型或数据结构形成稳定的处理偏好。某些专家可能"擅长"处理数学推理相关的 token，某些专家可能对代码语法更敏感，还有一些可能在处理自然语言叙述时表现更好。这种分化是模型内部自发涌现出来的，并非人为设计的。

这与人类大脑的组织方式有一定的相似性。神经科学研究早已发现，人类大脑皮层并不是对所有任务平均分配神经资源的——它会自然形成功能区的分化，比如视觉皮层主要处理视觉信息、布罗卡区负责语言产生、韦尼克区负责语言理解等。各个区域有明确的功能分工，并且不同区域的"忙碌程度"也不相同。

MoE 模型中专家的自发分化，与大脑皮层的功能分区在机制上是相通的：都是复杂的信息处理系统在长期学习过程中，通过内部竞争和适应，自然演化出的高效分工结构。

3.3 LAEP 的核心思路：保留有效专家，裁剪冗余结构

理解了问题和本质之后，LAEP 的设计思路就很清晰了——既然模型在训练过程中自然形成了功能分工，那些长期低负载的专家本质上就是"冗余结构"，可以安全地移除，同时把计算资源集中到真正发挥作用的专家身上。

LAEP 的全称是 Layer-Adaptive Expert Pruning，即"逐层自适应专家裁剪"。"逐层"意味着它不是对模型的所有层采用统一的裁剪策略，而是根据每一层的实际情况做出不同的决策；"自适应"则是说裁剪的依据来自于预训练过程中自然形成的专家负载统计信息，而非人为设定的固定阈值。

具体来说，LAEP 的工作流程可以概括为以下几个步骤：

步骤一：在预训练的稳定阶段收集统计信息。 当模型训练进入负载稳定的第二阶段后，LAEP 开始统计每一层中每个专家的 token 负载分布。这些统计数据反映了每个专家在当前训练状态下的实际贡献程度。

步骤二：逐层识别低贡献专家。 根据收集到的负载统计信息，LAEP 在每一层内独立地判断哪些专家的贡献度过低。这里的"低贡献"不是一个固定的阈值，而是基于该层内专家负载分布的统计特征来自适应确定的。

步骤三：执行裁剪和专家重排。 对于被识别为低贡献的专家，LAEP 将其从模型结构中移除，并对剩余的专家进行重新排列和优化，确保路由机制能够继续正常工作。

步骤四：继续预训练。 裁剪完成后，模型以新的（更精简的）结构继续进行预训练。由于移除的是那些本来就几乎不参与计算的专家，模型的输出质量不会受到明显影响，但参数量的减少会直接带来训练速度的提升。

用一个更形象的类比来说（莫潇羽@无忆研习社 觉得这个比方可能对大家理解有帮助）：LAEP 就像是大脑在长期学习过程中对神经连接进行的"突触修剪"（Synaptic Pruning）——在人类发育过程中，大脑会逐渐削弱和移除那些很少使用的神经连接，同时强化那些频繁使用的连接通路。这个过程使得大脑的信息处理效率不断提升，同时降低了能量消耗。LAEP 在 MoE 模型中做的事情，本质上和这个生物学过程是类似的。

3.4 LAEP 的实际效果

根据 YuanLab.ai 团队公布的实验数据，LAEP 在 Yuan3.0 Ultra 上取得了非常显著的效果：

参数减少了三分之一，训练效率提升了将近一半——这组数据意味着什么？莫潇羽@无忆研习社 给大家做一个简单的换算：假设原本训练完整个模型需要 10000 块 GPU 跑 30 天，那么在应用 LAEP 之后，类似效果的训练可能只需要大约 15 天左右。对于万亿参数级别的模型来说，这节省的算力资源是非常可观的。

3.5 LAEP 与现有专家裁剪方法的区别

在 MoE 领域，专家裁剪（Expert Pruning）并不是一个全新的概念。学术界已经有多种相关方法，比如 TSEP（Task-Specific Expert Pruning）通过移除对目标任务不重要的专家来优化性能，NAEE（Not All Experts are Equal）通过在校准数据集上评估专家组合来消除不重要的专家，EEP（Efficient Expert Pruning）采用"先裁剪再合并"的两阶段策略来减少专家数量。

但 LAEP 与这些方法有几个关键区别：

• 作用阶段不同：大部分现有方法是"后训练"裁剪，即在模型训练完成之后再进行精简。而 LAEP 是在预训练过程中执行的，属于"训练中"裁剪。这意味着裁剪后的模型可以直接继续训练，充分利用后续的训练数据来弥补裁剪可能带来的精度损失
• 裁剪粒度不同：LAEP 是逐层自适应的，每一层的裁剪比例可以不同，而不是对所有层施加统一的压缩率。这种设计更加精细，能够更好地保留模型中真正重要的结构
• 目标导向不同：大部分现有方法的目标是降低推理成本（减少显存占用、加速推理速度），而 LAEP 的首要目标是提升预训练效率——在训练阶段就减少不必要的计算，从而用更少的算力训练出同等质量的模型

这个区别非常重要。莫潇羽@无忆研习社 认为，从长远来看，LAEP 代表的"训练中结构优化"思路，可能比"训练后压缩"更具发展潜力，因为它从根源上减少了算力的浪费，而不是先浪费再弥补。

四、注意力机制创新：LFA（Localized Filtering Attention）

除了 LAEP 之外，Yuan3.0 Ultra 在注意力机制上也做了改进，引入了 LFA（Localized Filtering Attention，局部过滤注意力）机制。

4.1 经典 Attention 的局限

标准的 Transformer 自注意力机制（Self-Attention）会让每个 token 都去关注序列中的所有其他 token，计算它们之间的相关性。这种"全局注意力"的优点是信息覆盖面广，但缺点也很明显：当序列很长的时候，计算量会随着序列长度的平方增长（复杂度为 (O(n^2))），而且全局范围内的注意力可能会被大量不相关的 token 所稀释，反而影响了对局部重要语义关系的捕捉。

4.2 LFA 的设计思路

LFA 的核心思想是在注意力计算中引入"局部过滤"机制，强化模型对局部语义关系的建模能力。简单来说，LFA 不是完全放弃全局注意力，而是在标准注意力的基础上增加了一个局部过滤组件，使得模型在计算注意力权重时，能够更好地聚焦于当前 token 附近的语义上下文。

为了帮助大家理解 LFA 的工作原理，莫潇羽@无忆研习社 做一个对比说明。在标准的自注意力机制中，每个 token 计算注意力权重时对序列中所有 token"一视同仁"——无论目标 token 在序列中的位置是近在咫尺还是远在天边，都用相同的方式参与注意力计算。而 LFA 则在注意力计算之前增加了一个"局部过滤"的步骤，通过可学习的过滤参数，让模型能够根据 token 之间的相对位置关系调整注意力的强度。距离较近的 token 之间的信息传递会得到增强，而距离较远的噪声信号则会被适当抑制。

当然，"局部过滤"并不等于"只看局部"。LFA 的设计保留了全局注意力的能力——模型仍然可以在需要的时候关注到序列中远距离的信息。局部过滤更像是给注意力机制增加了一个"先验偏好"，让模型在默认情况下更关注局部上下文，同时保留了跳出局部、关注全局的灵活性。

这种设计在处理企业级文档时特别有价值。因为企业文档中的信息通常具有较强的局部结构特征——一个表格内的数据项之间、一个段落内的论述之间、一个图表及其紧邻的文字说明之间，往往有着密切的语义关联。传统的全局注意力可能会被文档中大量不相关的内容所"分散注意力"，而 LFA 能够帮助模型更准确地捕捉这些局部关联，从而在文档理解、表格分析等任务中取得更好的表现。

从计算效率的角度来看，LFA 的局部过滤操作本身的计算开销很小，不会显著增加模型的训练和推理时间。但它带来的精度提升却是实实在在的——根据 YuanLab.ai 团队的评测结果，相比经典的注意力结构，LFA 在保持全局信息覆盖的同时，能够获得更高的模型精度。这也是源 3.0 系列全线采用 LFA 作为默认注意力机制的原因。

五、统一多模态架构拆解

Yuan3.0 Ultra 不仅是一个语言模型，还是一个多模态模型，能够同时理解和处理视觉信息与语言信息。它采用了统一的多模态模型架构来实现这一能力。

5.1 三大核心组件

Yuan3.0 Ultra 的多模态架构由三个主要模块组成：

视觉编码器（Vision Encoder） 负责处理输入的图像信息。它基于 ViT（Vision Transformer）架构，将图像分割成多个小块（patch），每个 patch 被编码成一个 token。同时，模型引入了自适应图像分割机制，能够根据图像的实际内容和分辨率需求，动态调整分割策略，在支持高分辨率图像理解的同时，有效控制显存占用。

语言主干网络（Language Backbone） 是模型的核心处理引擎，就是前面详细介绍的基于 MoE 架构的 103 层 Transformer。它接收来自视觉编码器和文本分词器的 token，进行统一的序列建模。

多模态对齐模块（Multimodal Alignment Module） 起到"桥梁"的作用。由于视觉 token 和语言 token 来自不同的特征空间（视觉编码器输出的特征维度和分布特征与语言模型的嵌入空间可能完全不同），直接拼接在一起输入语言模型效果不会太好。对齐模块通常采用轻量级的 MLP（多层感知机）投影器，配合 SwiGLU 激活函数，将视觉特征映射到与语言 token 相同的特征空间中，使得两种模态的信息能够在同一个框架下被统一处理。

莫潇羽@无忆研习社 认为这个对齐模块的设计虽然看起来不如 LAEP 那样"炫酷"，但它在整个多模态架构中的作用是不可或缺的。对齐的质量直接决定了模型能否准确地"看懂"图片中的内容并将其与文本信息关联起来。如果对齐做得不好，即便视觉编码器和语言模型各自都很强，组合起来的效果也会大打折扣。Yuan3.0 Ultra 在多模态文档理解任务上的优异表现，很大程度上得益于这个对齐模块的精心设计和训练数据的高质量标注。

此外，Yuan3.0 Ultra 还引入了自适应图像分割机制。传统的 ViT 编码器通常将图像固定切分为相同大小的 patch（例如 14×14 像素），这在处理不同分辨率和不同内容密度的图像时不够灵活。自适应图像分割机制能够根据图像的实际内容特征，动态调整分割策略——对于信息密集的区域（比如表格、图表）使用更细粒度的分割，对于信息稀疏的区域（比如空白背景）使用更粗粒度的分割。这不仅提升了图像理解的精度，还有效控制了视觉 token 的数量，从而降低了显存占用和计算开销。

5.2 多模态处理流程

用一个完整的流程来描述 Yuan3.0 Ultra 处理一张图文混排文档的过程：

原始图文文档
    ↓
┌─────────────────────────────────┐
│  图像部分 → 视觉编码器(ViT)      │
│    → 自适应图像分割               │
│    → 图像 patch → 视觉 token    │
│                                 │
│  文本部分 → 文本分词器(Tokenizer) │
│    → 文本 token                 │
└─────────────────────────────────┘
    ↓
  多模态对齐模块（MLP 投影器）
  将视觉 token 映射到语言特征空间
    ↓
  视觉 token + 文本 token 拼接成统一序列
    ↓
  MoE 语言主干网络（103层 Transformer + LFA）
    ↓
  输出结果（文本回答、数据提取、摘要等）

这种"视觉编码器 + 对齐模块 + 语言模型"的架构设计，在当前的多模态大模型领域是比较成熟的范式。它的优势在于架构清晰、各模块职责明确，并且视觉编码器可以独立优化。

六、推理效率优化：Fast-thinking 强化学习范式

在后训练阶段（即预训练完成之后的对齐和优化阶段），Yuan3.0 Ultra 采用了一套被称为 Fast-thinking 强化学习范式 的训练策略。

6.1 "过度思考"是个什么问题？

近年来，以 OpenAI o1 为代表的大语言推理模型（Large Reasoning Models, LRMs）通过引入长思维链（Chain-of-Thought, CoT）来提升推理能力。然而在实际应用中，这种"让模型多想一会儿"的策略带来了一个副作用：过度思考（Overthinking）。

具体表现是，模型在已经得到正确答案之后，仍然会继续进行大量的"反思"和"验证"步骤，生成冗长的推理文本，白白消耗了大量的计算资源（token）。对于企业级应用场景来说，这不仅增加了成本，还拖慢了响应速度。

举个例子：如果模型被问到"3+5等于几"，一个合理的推理过程可能是"3加5等于8，答案是8"。但过度思考的模型可能会输出"3加5，让我用加法计算……先确认3和5都是整数……整数加法的规则是……3+5=8，让我验证一下，8减5确实等于3，8减3确实等于5，所以答案确认是8"——后面那一大段验证在大多数情况下是完全不必要的。

莫潇羽@无忆研习社 要特别说明的是，"过度思考"并不仅仅是"多说了几句话"这么简单。在实际的企业级应用中，这个问题的影响是多方面的。首先是成本问题——大多数大模型 API 是按 token 数量计费的，冗余的反思 token 直接转化为额外的费用。其次是延迟问题——对于需要实时响应的场景（比如客服对话、实时数据分析），多余的推理步骤会显著增加用户的等待时间。最后是可读性问题——如果模型输出了大量冗余的推理过程，用户需要从中筛选出真正有价值的信息，反而增加了使用成本。

更微妙的是，"过度思考"有时候甚至会导致模型"想多了"反而改错答案——在漫长的反思链中，模型可能会因为过度纠结于某些细节而推翻原本正确的判断。这在数学和逻辑推理任务中尤为常见。

6.2 RIRM：反思抑制奖励机制

Yuan3.0 Ultra 的前身 Yuan3.0 Flash 已经提出了 RAPO（Reflection-aware Adaptive Policy Optimization）算法和 RIRM（Reflection Inhibition Reward Mechanism，反思抑制奖励机制）来应对这个问题。在 Yuan3.0 Ultra 中，团队对 RIRM 进行了进一步的系统优化。

RIRM 的核心思路是在强化学习的奖励函数中引入对"反思次数"的约束：

• 对于回答正确且反思次数少的样本，给予更高的奖励——因为它们用最少的计算资源得到了正确答案，效率最高
• 对于回答错误且反思次数多的样本，施加更重的惩罚——因为它们既浪费了计算资源，又没有得到正确结果

这个机制的设计很巧妙：它并不是粗暴地禁止模型进行任何反思，而是让模型学会在"确信答案正确后主动停止"。对于简单问题，模型会快速给出答案；对于确实需要深度推理的复杂问题，模型仍然保留了必要的推理深度。

6.3 实际效果

根据 YuanLab.ai 团队的数据，改进后的 RIRM 机制在 Yuan3.0 Ultra 上取得了以下效果：

• 训练准确率提升 16.33%
• 输出 token 长度减少 14.38%

这意味着模型在变得更准确的同时，还学会了更"简洁地思考"——用更少的 token 表达同样质量的推理过程。对于企业级部署来说，更少的 token 意味着更低的推理成本和更快的响应速度。

七、企业级能力评测与实战场景

Yuan3.0 Ultra 的一个鲜明特点是，它从设计之初就明确面向企业应用场景进行能力建设。让我们来看看它在几个关键的企业级任务上的具体表现。

7.1 多模态文档理解

在企业实际业务中，大量关键信息存在于技术方案、财报报告、行业研究材料等文档之中。这些文档通常包含图文混