潜在推理模型真的在推理吗？新研究发现推理token往往不必要

一项检查最先进潜在推理模型（LRM）的新研究得出了令人惊讶的发现：LRM内部生成的"推理"token往往对产生正确答案完全不必要。

关键发现

发现1：推理token往往不必要

在逻辑推理数据集上，LRM几乎总是可以不使用潜在推理就产生相同的最终答案。

发现2：必要时推理通常可解码

当潜在推理token对性能必要时，研究人员可以解码出65-93%的正确推理轨迹。

什么是潜在推理模型？

LRM是像DeepSeek-R1或OpenAI的o系列那样的模型，在产生最终答案之前生成中间"思考"token。

可解释性问题

当推理发生在潜在空间而非文本中时，我们无法轻松检查模型在做什么——使安全评估变得更难。

为什么重要

1. AI安全 — 如果模型实际上不推理，基于"监控推理"的安全声明被削弱
2. 模型评估 — 性能提升可能来自更好的模式匹配，而非更好的推理
3. 资源分配 — 计算不需要的推理token浪费算力
4. 研究方向 — 理解潜在推理何时以及如何工作是下一代AI模型的关键