潜空间推理系列 · 03 / 03

LoopFormer

预算减少时，如何仍走完一条有效的推理路径？

预算 M 与步长 Δt 各控制一件事

记 k⊗L 为 k 个共享层最多循环 L 次。用户选 M≤L 次，并给一组正步长，它们加起来为 1；t 是累计进度，Δt 是本轮要前进多远。整段序列使用同一条轨迹，模型不会像 MoR 那样为不同 token 学习退出决策。[§3.1]

提前停在半途，与少走几步到终点不同

普通截断把原来长路径的中间状态直接拿去预测，但它未必包含足够信息；仅让每一轮都能输出，又可能让网络过早不再更新。LoopFormer 同时训练完整路径与更粗的短路径，使少轮数也朝同一个最终状态靠近。

告诉共享层“走到哪了，这步走多远”

每轮将 t 与 Δt 编码成条件向量，控制 RMSNorm 的缩放和注意力／前馈残差的门控。同一组权重因此能按进度和步长改变更新方式。与 Huginn 的持续输入注入、随机初态不同，这里从 token 与位置 embedding 开始循环，并显式依赖时间条件。[§3.1–3.2]

训练同时做两条路径。完整 L 轮计算下一 token 损失；再随机抽取更短的轮数与步长安排，计算短路径的预测损失，并让短路径终点接近完整路径终点。后两项权重都为 0.1，完整路径作为一致性目标时停止梯度，所以它充当模型自己的老师，无需外部教师。[§3.3、算法 1]

原文 §3.3 写“对齐 logits”，但算法 1 写的是隐藏状态平方误差；官方 train.py 对模型返回的表征使用 MSE，并停止长路径目标的梯度，与算法 1 一致。本页按这个实现解释；核对日期 2026-09-11，未运行训练。

中间预算有价值，最低预算仍有反例

主实验采用 The Pile 子集。下表是一套 3⊗8 LoopFormer 权重，分别用 8／4／2 轮；对照 Base 是各自单独训练的 24／12／6 层模型。指标为 Pile 困惑度（越低越好）及十项零样本任务平均准确率（%）。[表 1]

一套权重能在多档预算下工作，是主要收益；它没有超过各档 Base。最低预算下，简单 Naive-Loop-EE 的 PPL 12.61、均分 40.97%，反而都好于 LoopFormer；满预算下相对 TMLT 的均分优势也只有 0.12 个百分点。不能据此声称所有预算都最优。

训练成本必须补回。主表对齐的“FLOPs”主要以执行层数近似推理成本；双路径训练约多用 50% FLOPs，作者在 4×H100 上报告约 1.3×训练时间。附录把 LoopFormer 缩短至 34k 步，对齐基线 50k 步的训练 FLOPs：满预算 PPL 10.71、均分 44.21%，低于 TMLT 的 10.38／44.69%，但保留预算弹性。[附录 B.1][表 3]

同为四轮，步长安排还会造成约 1.4 的 PPL 差和约 1.3 个准确率百分点差。较好的安排倾向前期大步、后期细化，但这是穷举分析；PPL 最优与任务分数最优并非同一条轨迹，不能当成可免费获得的通用策略。[图 6]

学会调预算，还不等于学会判断难度

预算来自外部，范围限于训练最大轮数。M≤L 的弹性不等于自动给困难 token 多算，也不等于超过 L 后继续提升。与 MoR 的路由、Huginn 的收敛退出组合是研究设想，三篇没有验证该组合。

表征变化只是诊断证据。CKA 等指标显示 LoopFormer 的状态随深度持续变化，而若干早退基线停滞；这些相关性不能证明变化就是正确推理。十项任务也包含常识、阅读与词预测，不能等同于复杂数学／代码推理能力。[§4.3][§5]

训练数据口径仍需核对。正文报告约 25B tokens；附录写 50k 步、全局 batch 48、长度 1024，直接相乘仅约 2.46B。官方脚本支持梯度累积，可能解释差额，但仅凭这些文字不能还原实际实验配置。本页保留“作者报告”口径，不据此推导精确数据效率。[附录 A] [官方训练脚本]

回到原文与系列

1. LoopFormer: Elastic-Depth Looped Transformers for Latent Reasoning via Shortcut Modulation · 摘要与版本
2. 公开 PDF：本页依据用户提供的 ICLR 2026 版 18 页附件，并核对官方训练脚本及模型返回值；代码事实与论文表述分开呈现，未运行复现。
3. 作者官方仓库。

实验数字为作者报告；比较口径、外推边界与系列关系为本页分析。