快速摘要
谷歌Paradigms of Intelligence团队提出了一种名为「内部强化学习」（Internal RL）的全新训练范式，通过引入元控制器（Metacontroller）操控预训练自回归模型的残差流激活，让AI智能体在无需人工标注子目标的情况下，自动发现并利用「时序抽象动作」（Temporally-Abstract Actions）。这项研究的核心突破在于——不再只优化模型的输出结果，而是直接干预模型内部的「认知过程」。实验证明，该方法在稀疏奖励的组合式任务中，成功率远超传统RL微调和此前最先进的分层强化学习方法CompILE，效率提升达数个量级。 莫潇羽@无忆研习社认为，这项研究为我们理解大模型的内部运作机制打开了一扇新窗户。如果你对AI的「思考能力」究竟是怎么形成的感到好奇，往下看有更详细的原理拆解和技术分析。
一、为什么这项研究值得关注？
在当前的AI领域，以GPT系列、Gemini系列为代表的大规模自回归模型已经展现出惊人的能力。它们通过「预测下一个token」的方式进行预训练，再经过强化学习（RL）微调，可以在数学推理、代码生成、对话交互等众多场景中表现出色。
然而，一个长期困扰研究者的核心问题始终没有得到很好的解决：当奖励信号非常稀疏、且任务需要多个正确步骤才能完成时，传统的逐token探索方式效率极低。
莫潇羽@无忆研习社（www.wuyi.wiki）在梳理这篇论文时发现，谷歌团队用了一个非常形象的比喻来描述这个困境——想象一个人蒙着眼睛走迷宫，只有走到终点才能知道自己走得对不对，中间没有任何路标和指引。不管这个人尝试多少次，单靠随机摸索几乎不可能找到出口。
这就是当前大模型智能体面临的核心挑战。在需要长期规划和多步决策的复杂任务中，传统的RL微调方式让模型一个token一个token地试错，这种方式在奖励稀疏的环境下几乎注定失败。现有的解决方案通常是给模型外挂一个额外的规划器来「扶着走」，但这不仅增加了系统复杂度，还限制了模型的泛化能力。
谷歌这篇论文（arXiv:2512.20605）提出的方案则完全不同——它不是在外部增加辅助模块，而是深入模型内部，通过操控模型的「残差流」来实现层次化的决策能力。这个思路之所以重要，是因为它揭示了自回归模型在预训练过程中，已经隐含地学到了关于时间抽象的内部表征，只是此前我们不知道如何利用它们。
二、背景知识：理解这项研究需要知道的基础概念
在深入技术细节之前，莫潇羽@无忆研习社先为大家梳理几个关键概念。即使你不是AI领域的从业者，理解了这些概念也能跟上后续的技术分析。
2.1 什么是自回归模型？
自回归模型是一种序列生成模型，它的工作方式是：根据已经生成的内容，预测下一个应该生成的内容。以大语言模型为例，当你输入「今天天气」时，模型会根据这四个字预测下一个最可能的字（比如「很」），然后根据「今天天气很」再预测下一个字（比如「好」），如此反复。
这种逐步生成的机制虽然简单优雅，但也带来了一个根本性问题：模型每次只能「看到」当前这一步该做什么，而无法像人类那样先在脑海中规划好整体路线再行动。
2.2 什么是残差流（Residual Stream）？
残差流是Transformer架构中一个非常重要的概念，也是理解本研究的关键。
在Transformer模型中，信息以向量的形式在各层之间传递。每一层的注意力模块和前馈网络模块，并不是直接「变换」输入，而是将自己的计算结果「加」到输入上。这就像一条不断流动的河流（残差流），每一层模块都在往这条河里「注入」新的信息，但河流本身一直在持续流淌。
用一个简化的数学表达来理解：
[
\text{Layer}{out} = \text{Layer}{in} + \text{Attention}(\text{Layer}{in}) + \text{FFN}(\text{Layer}{in})
]
这种设计的关键优势在于，模型的各层可以通过读写残差流来进行「通信」。早期的层可以把某些信息写入残差流，后续的层可以读取这些信息并在此基础上做出决策。
谷歌团队的创新之处在于：他们通过外部引入的元控制器来直接干预这条残差流，从而在不修改原始模型参数的情况下，改变模型的行为模式。 这就好比在一条河流的某个位置设置了一个可调节的水闸——不需要改造整条河道，只需要控制水闸的开合，就能引导水流的方向。
2.3 什么是分层强化学习（Hierarchical RL）？
人类解决复杂问题时，通常不会直接思考每一个微小的动作。比如「给客人泡一杯茶」这个任务，我们会自然地将其分解为几个大步骤：烧水 → 准备茶具 → 冲泡 → 端给客人。每个大步骤内部又包含很多细小的动作（比如「烧水」包括拿起水壶、打开水龙头、接水、放到炉灶上、打开火等），但我们在规划时不需要考虑这些细节。
分层强化学习试图让AI也具备这种能力。它通常包含两个层次：
- 高层策略负责决定「做什么」（选择哪个子目标），这是时间尺度较长的抽象决策
- 低层策略负责决定「怎么做」（执行具体的动作序列），这是时间尺度较短的具体操作
传统的分层RL方法通常需要人工定义子目标是什么、每个子目标何时结束，这大大限制了方法的通用性。而谷歌这项研究的一个核心贡献就是——让模型自己发现应该有哪些子目标，以及每个子目标何时切换。
2.4 什么是「随机鹦鹉」争论？
2021年，Emily Bender、Timnit Gebru等研究者发表了一篇颇具影响力的论文，将大语言模型比作「随机鹦鹉」（Stochastic Parrots）。他们认为，这些模型不过是在统计层面上拼接语言片段，并不真正「理解」语言的含义。就像鹦鹉能模仿人类说话，但并不理解话语的意思一样。
这个观点在学术界引发了持久且激烈的讨论。支持者认为，无论模型参数量多大，基于「预测下一个词」的训练方式都无法产生真正的理解和规划能力。反对者则指出，大模型在各种专业考试和推理测试中的表现已经达到甚至超越人类水平，这很难用简单的「鹦鹉学舌」来解释。
Geoffrey Hinton（图灵奖得主）就曾提出一个有力的反驳观点：要准确预测下一个词，模型必须理解句子的含义——理解不是统计预测的替代品，而是在大规模下执行有效预测所必须具备的涌现属性。
谷歌这项研究为这场争论提供了新的实证证据：预训练的自回归模型不仅在表面输出上表现出智能行为，其内部的激活模式中也自发形成了与任务结构对齐的时间抽象表征。这意味着，「预测下一个token」的训练方式确实能够让模型在内部发展出层次化的认知结构。
三、实验设计：一个精心设计的「组合式迷宫」
理解了背景知识后，我们来看谷歌团队是如何设计实验来验证他们的想法的。
3.1 任务环境：Gridworld-Pinpad 和 Ant-Pinpad
研究者设计了两类实验环境来测试他们的方法：
第一类是离散网格世界（Gridworld-Pinpad）。 在一个二维网格迷宫中，智能体需要按照特定顺序访问一系列彩色位置（子目标）。比如，任务可能要求智能体先到达红色方块，再到达蓝色方块，最后到达绿色方块。只有当所有子目标都按正确顺序被访问后，智能体才能获得奖励。中间访问错误或顺序不对，都不会获得任何反馈。
第二类是连续控制环境（Ant-Pinpad）。 这是一个基于MuJoCo物理引擎的环境，智能体是一个四足机器人（蚂蚁机器人），它需要通过控制每个关节的力矩来移动，同样按照特定顺序访问指定位置。相比网格世界，连续控制环境的动作空间维度更高，控制难度也更大。
这两类环境的共同特点是：
- 奖励极度稀疏：只有完全按正确顺序完成所有子目标后才给奖励，中间没有任何中间奖励
- 需要层次化决策：既需要高层的序列规划能力（决定先去哪个颜色的目标），也需要低层的运动控制能力（如何移动到目标位置）
- 支持组合泛化测试：RL阶段的任务包含预训练数据中从未出现过的子目标组合和更长的序列
3.2 为什么选择这样的任务设计？
莫潇羽@无忆研习社认为这个实验设计非常巧妙，原因有三：
第一，稀疏奖励设置将问题推到了极致。在很多真实场景中（比如编写一段复杂代码、完成一项科学实验），中间步骤往往没有明确的奖励信号，只有最终结果才能判断成功与否。这种设置直接考验了智能体在缺乏中间指引时的学习能力。
第二，组合式任务结构模拟了现实世界的复杂性。现实中的大多数任务都是由多个子任务组合而成的，而且同样的子任务可以用不同的方式组合来完成不同的目标。能否将学到的子技能重新组合来解决新任务，是衡量智能体泛化能力的重要标准。
第三，同时覆盖离散和连续控制环境。这证明了该方法不仅适用于简单的离散决策场景，也能扩展到更复杂的连续控制问题，增强了结论的普适性。
四、核心方法：元控制器与内部强化学习
现在进入本文最核心的部分——谷歌团队的技术方案。整个方法分为三个阶段，每个阶段都有明确的目标和精巧的设计。
4.1 第一阶段：预训练基础自回归模型
目标：让模型学会预测智能体行为序列。
首先，研究者收集了大量由专家策略生成的行为数据集。这些数据由观察-动作序列组成，记录了智能体在各种任务配置下的行为轨迹。重要的是，这些数据不包含任何奖励信号或子目标标签——模型只看到智能体做了什么，但不知道智能体为什么这么做。
然后，在这些数据上训练一个自回归序列模型（可以是Transformer，也可以是状态空间模型如Hawk/Mamba），训练目标是标准的下一步预测：
[
L(\theta) = \sum_{(o_{1:T+1},a_{1:T}) \sim D} \sum_{t=1}^T \left(-\ln p_\theta(a_t|o_{1:t}) - \lambda \ln p_\theta(o_{t+1}|o_{1:t})\right)
]
其中 (o_{1:T+1}) 是观察序列，(a_{1:T}) 是动作序列，(\lambda) 是观察预测损失的权重系数。
这个阶段的关键发现是：即使模型只是在做简单的下一步预测，它的内部表征中已经自发编码了与子目标相关的信息。 研究者通过线性探针实验证实，从模型中间层的残差流激活中，可以解码出当前子目标的身份信息，而且在不同子目标之间存在清晰的边界。
这个发现本身就很有意义——它表明自回归模型在预训练过程中不仅学到了表面的行为模式，还在内部发展出了结构化的状态表征。用莫潇羽@无忆研习社的话来说，这就像是模型在「无意识」的训练过程中，自己学会了对任务进行分段理解。
4.2 第二阶段：训练元控制器——发现时序抽象动作
目标：让元控制器学会在模型内部发现和生成有意义的抽象动作。
这是整个方法中最具创新性的部分。元控制器（Metacontroller）是一个独立的神经网络，它通过读取基础模型的残差流激活，生成一系列「内部控制器」来操控基础模型的行为。
元控制器的架构设计包含几个关键组件：
编码器（Encoder）： 元控制器首先使用一个非因果的（即可以看到整个序列的）编码器来处理基础模型的残差流激活。非因果设计是一个有意的选择——在训练阶段，让元控制器能够「看到未来」有助于它更好地识别序列中的结构模式。这类似于人类在回顾过去经历时，能够更清楚地识别出哪些是关键的决策节点。
潜在动作提议（Latent Proposal）： 编码器的输出被用来生成潜在动作编码 (z_t)，这些编码代表了抽象层面的「要做什么」。每个潜在动作编码对应一个内部控制器，这个控制器会通过线性变换施加到基础模型的残差流上。
开关单元（Switching Unit）： 这是元控制器中最精巧的组件之一。开关单元决定了每个时间步是「继续执行当前的抽象动作」还是「切换到下一个新的抽象动作」。它输出一个介于0和1之间的开关值 (\beta_t)：
- 当 (\beta_t) 接近0时，表示继续当前的抽象动作
- 当 (\beta_t) 接近1时，表示切换到新的抽象动作
时间整合单元（Temporal Integration）： 为了确保抽象动作能够在多个时间步上持续生效，元控制器使用了一个时间整合机制。内部控制器的参数不是每一步都更新，而是根据开关信号进行选择性更新。当开关信号为「继续」时，控制器参数保持不变；当开关信号为「切换」时，才加载新的控制器参数。
元控制器的训练目标基于变分推理框架：
[
L(\phi) = \sum_{t=1}^T \left(-\ln p_{\theta,\phi}(a_t|o_{1:t}, z_{1:t}) - \lambda \ln p_{\theta,\phi}(o_{t+1}|o_{1:t}) + \alpha D_{\text{KL}}(\mathcal{N}(\mu_t, \Sigma_t) | \mathcal{N}(0, I))\right)
]
这个损失函数包含三个部分：第一项要求元控制器的干预能帮助基础模型更好地预测下一个动作；第二项要求更好地预测下一个观察；第三项是KL散度正则化，防止潜在编码空间崩塌。
一个至关重要的发现——莫潇羽@无忆研习社要特别强调这一点——是：在元控制器训练期间，基础自回归模型的参数必须被冻结。 如果两者同时训练（共训练），模型会收敛到一个退化解，元控制器的开关模式变得混乱，无法形成有意义的时间抽象。
研究者通过速率-失真分析（Rate-Distortion Analysis）揭示了这背后的原因：当基础模型被冻结时，元控制器的开关率和预测误差之间呈现出一条清晰的、在子目标对齐位置有显著失真跳变的曲线。但当共训练时，这种结构性消失了——因为模型可以绕过元控制器的开关机制，直接在token预测中编码抽象动作信息，从而使得稀疏开关变得不再必要。
这个发现对整个研究领域有深远的影响：它表明，保持预训练模型表征的稳定性，对于在其基础上构建更高层次的认知能力至关重要。
4.3 第三阶段：内部强化学习——在抽象空间中学习
目标：利用发现的抽象动作空间，高效地学习新的、更复杂的任务。
有了元控制器发现的抽象动作后，研究者提出了「内部强化学习」（Internal RL）这一全新范式。与传统RL在原始动作空间中进行探索和学习不同，内部RL在元控制器发现的抽象动作空间中进行。
具体来说，内部RL的工作流程如下：
环境重定义： 将冻结的基础自回归模型和元控制器的部分组件一起视为「内部环境」的一部分。RL策略的观察空间是基础模型的残差流激活 (e_{t,l})，而动作空间是元控制器的潜在编码 (z_t)。
时间尺度压缩： 由于抽象动作会持续多个基础时间步（通过硬化后的开关信号 (H(\beta_t - \beta_{\text{threshold}})) 来确定何时切换），RL策略实际上是在一个时间尺度被大幅压缩的环境中做决策。如果一个原始任务需要200步token级别的动作，但可以被分解为4个抽象动作，那么RL策略只需要做4次决策。
搜索空间缩减： 原始动作空间可能是高维的（比如连续控制环境中机器人关节的力矩），而抽象动作空间是一个低维的潜在编码空间。搜索空间的大幅缩减使得探索效率大大提高。
奖励分配简化： 在抽象时间尺度上，每个抽象动作直接对应一个明确的行为效果（比如「移动到红色位置」），这使得奖励信号可以更有效地归因到具体的决策上。
研究者使用了GRPO（Group Relative Policy Optimization）算法作为内部RL的优化方法。这是一种适合离散和连续混合动作空间的策略梯度方法。
五、实验结果：量级级别的性能提升
5.1 抽象动作发现的质量
实验结果表明，元控制器学到的开关模式与真实的子目标切换边界几乎完美对齐。也就是说，尽管元控制器在训练时从未接收过任何子目标标签，它仍然自动学会了在正确的时间点进行切换。
在网格世界环境中，元控制器的开关信号 (\beta_t) 呈现出准二值（quasi-binary）的模式：在子目标切换点，(\beta_t) 接近1；在其他时间步，(\beta_t) 接近0。这种模式在不同的任务配置和随机种子下都高度一致。
更重要的是，这种能力可以组合泛化到训练数据中未出现过的新任务配置。比如，如果预训练数据中只包含了最多3个子目标的序列，元控制器仍然能够正确处理包含4个甚至更多子目标的新序列。
5.2 内部RL vs 传统RL：成功率对比
在关键的RL性能比较实验中，研究者将内部RL与以下基线方法进行了对比：
- 标准RL微调（Raw Action RL）： 直接在原始token级动作空间中用GRPO进行微调
- CompILE： 此前最先进的分层RL方法之一，同样试图发现时序抽象
- 无时间整合的内部RL（Internal RL w/o TI）： 去掉时间整合单元的消融实验
在需要组合泛化的稀疏奖励任务中，实验结果非常显著：
- 标准RL微调几乎完全失败，成功率接近零。这是因为在token级别的探索空间中，随机找到正确的长序列动作几乎是不可能的
- CompILE虽然也尝试发现抽象动作，但其性能远低于内部RL，尤其在需要更长规划跨度的任务中
- 无时间整合的内部RL虽然一开始可能有较高的初始成功率（因为每步都切换控制器本身就提供了一定的多样性），但无法持续学习和改进
- 完整的内部RL显著优于所有基线方法，不仅初始成功率更高，而且能够在训练过程中持续改进
莫潇羽@无忆研习社看到这组数据的第一反应是：差距不是百分比级别的，而是量级级别的。 在某些任务配置下，传统方法的成功率为0%，而内部RL可以达到很高的成功率。这不是微小的改进，而是从「完全不可能」到「可以做到」的质变。
5.3 控制器插入层的影响
研究者还探索了内部控制器应该插入基础模型的哪一层才能获得最佳效果。实验发现，中间层（大约第4-6层）是最佳的插入位置。
这个发现与Transformer的内部分工理论高度吻合：
- 较浅的层（前几层）主要处理低级别的感知和编码任务
- 较深的层（最后几层）主要负责将内部表征映射到最终输出
- 中间层则是一个「甜点区域」，既包含了足够丰富的语义信息，又保留了足够的抽象空间供控制器施加影响
5.4 冻结基础模型的重要性
前面提到过，冻结基础模型是元控制器训练成功的关键。研究者通过对比实验清楚地展示了这一点：
- 冻结基础模型训练元控制器：开关模式与子目标边界完美对齐，后续内部RL取得高成功率
- 共训练（基础模型和元控制器同时更新）：开关模式退化为随机噪声，后续内部RL的成功率接近零
研究者通过速率-失真曲线（Rate-Distortion Curve）给出了理论解释。在冻结条件下，当允许的开关率（信息传输速率）逐渐增加时，预测误差（失真）会在对应子目标数量的位置出现显著的阶梯式下降。这说明模型确实在利用开关来编码子目标信息。而在共训练条件下，这种阶梯结构消失了——模型找到了「作弊」的捷径，不再需要通过开关来传递子目标信息。
六、「觉醒-睡眠」训练循环：理论根基
谷歌团队在论文中明确指出，他们的方法可以被视为Jürgen Schmidhuber在2015年提出的「觉醒-睡眠」（Wake-Sleep）训练循环理论的一个具体实现。这个理论框架的核心思想是通过两个交替执行的阶段来构建自主智能系统。
6.1 「睡眠」阶段对应预训练
在研究者的实现中，基础自回归模型的预训练对应「睡眠」阶段。在这个阶段：
- 模型通过下一个token（动作或观察）预测的目标，在大量未标注的行为数据上进行自监督学习
- 模型学会了推断智能体的潜在目标和意图
- 在残差流激活中形成了时间抽象的表征
- 建立了一个关于环境和行为的「内部世界模型」
6.2 「觉醒」阶段对应内部RL
元控制器及其驱动的内部RL对应「觉醒」阶段。在这个阶段：
- 元控制器学习如何操控基础模型的内部残差流
- 通过在内部状态空间中进行规划和控制，生成有意义的、持续多步的抽象动作
- 利用RL在抽象动作空间中优化策略，发现新的有价值行为
- 在「觉醒」阶段获得的新经验又可以用于改进「睡眠」阶段的世界模型（在后续迭代中）
6.3 分阶段训练的理论优越性
冻结基础模型这一实验发现，有力地支持了「觉醒-睡眠」循环的分阶段迭代思想。具体来说：
- 先通过预训练建立一个高质量、稳定的世界模型（睡眠阶段）
- 然后在此基础上通过元控制器和内部RL学习控制策略（觉醒阶段）
- 如果两个阶段同时进行（共训练），就像一个人在睡觉和工作之间快速切换，既睡不好也工作不好
这与人类的学习模式有着有趣的类比。神经科学研究表明，人类在睡眠期间会对白天的经历进行整合和巩固，形成更抽象、更结构化的记忆表征。醒来后，这些整合后的知识帮助我们更高效地应对新的挑战。
七、技术细节深度剖析
为了让有技术背景的读者能够更深入地理解，莫潇羽@无忆研习社在这一节对几个关键技术细节进行更详细的分析。
7.1 元控制器的数学表述
元控制器可以用以下公式组来描述其工作机制：
残差流读取： 元控制器从基础模型的第 (l) 层读取残差流激活向量 (e_{t,l})。
编码器处理： 使用非因果编码器 (f_{\text{enc}}) 处理整个激活序列：
[
h_{1:T} = f_{\text{enc}}(e_{1:T,l})
]
潜在动作生成： 从编码器输出中采样潜在编码：
[
z_t \sim \mathcal{N}(\mu(h_t), \Sigma(h_t))
]
开关信号计算： 开关单元根据编码器输出和前一时刻的潜在编码计算开关概率：
[
\beta_t = \sigma(f_{\text{switch}}(h_t, z_{t-1}))
]
内部控制器更新： 根据开关信号决定是否更新控制器参数：
[
c_t = \beta_t \cdot g(z_t) + (1 - \beta_t) \cdot c_{t-1}
]
其中 (g(z_t)) 是从潜在编码到控制器参数的映射函数。
残差流写入： 内部控制器通过线性变换干预残差流：
[
\tilde{e}{t,l} = e{t,l} + c_t \cdot e_{t,l}
]
这里 (c_t) 实际上定义了一个线性变换矩阵，施加在残差流的原始激活上。
7.2 内部控制器为何选择线性干预？
一个有趣的设计选择是，内部控制器对残差流的干预方式是线性的。研究者在论文中通过实验比较了不同复杂度的干预方式，发现线性干预已经足够有效。
这背后的直觉是：残差流本身就是一个高度结构化的线性空间。在Transformer的机制可解释性研究中，我们知道注意力头和前馈网络层都是通过线性变换来读写残差流的。因此，一个线性控制器就足以在这个空间中进行有意义的干预。
使用更复杂的非线性控制器反而可能带来过拟合的风险，因为控制器的参数需要由低维的潜在编码 (z_t) 来指定。线性控制器的参数量更少，更容易被低维编码准确表示。
7.3 CompILE基线方法的原理与局限
CompILE（Compositional Imitation Learning and Execution）是此前分层RL领域一个有代表性的方法。它同样试图从数据中发现时序分割，但方式与本研究有本质不同。
CompILE直接在输入序列上学习分割点，然后将每个分段编码为一个潜在向量，再通过解码器重建原始序列。它的目标函数也基于变分推理，但核心区别在于：
- CompILE不利用预训练模型的残差流，而是直接在输入空间中操作
- CompILE没有利用预训练模型中已经形成的时间抽象表征
- CompILE的抽象动作空间与实际的控制策略之间缺乏直接的操作性连接
这些区别导致CompILE在复杂的组合泛化任务中表现不佳——它发现的分割虽然可能在形式上合理，但在功能上不如元控制器发现的抽象动作那样「可操作」和「可组合」。
7.4 内部RL的优化算法：GRPO
研究者选择了GRPO（Group Relative Policy Optimization）作为内部RL的优化算法。GRPO是一种策略梯度方法，其核心思想是：
- 对当前策略采样一组（group）轨迹
- 在组内计算每条轨迹的相对优势（而非绝对优势）
- 根据相对优势更新策略
使用相对优势而非绝对优势的好处是，不需要额外训练一个价值函数（critic），简化了训练流程。在内部RL的场景下，由于抽象动作空间已经大大简化了问题，GRPO的简洁性使其成为一个合适的选择。
GRPO的具体更新逻辑可以概括为：对于采样得到的一组轨迹，计算每条轨迹的累积奖励，然后用组内的均值和标准差进行归一化，得到每条轨迹的相对优势分数。策略参数沿着相对优势加权的梯度方向进行更新。这种方法特别适合处理高方差的奖励信号——在稀疏奖励设置中，大部分轨迹的奖励为零，只有少数成功的轨迹有正奖励，GRPO的组内归一化机制能够有效地利用这些稀少的成功信号。
7.5 基础模型的选择：Transformer与状态空间模型
值得注意的是，研究者在实验中同时测试了两种不同的基础模型架构：标准的Transformer和状态空间模型（SSM，具体使用的是Google自研的Hawk架构）。
这两种架构在处理序列数据时有着本质不同的机制。Transformer通过自注意力机制可以直接访问序列中任意位置的信息，其计算复杂度与序列长度的平方成正比。而SSM通过循环状态更新来处理序列，计算复杂度与序列长度成线性关系，但需要将所有历史信息压缩到一个固定维度的隐藏状态中。
实验结果显示，两种架构都能在残差流中形成有意义的时间抽象表征，而且元控制器在两种架构上都能成功工作。这说明本研究发现的现象——自回归模型内部自发形成时间抽象——并非某种特定架构
