研究发现：AI 模型写出的推理步骤对应不同的内部模式

The Decoder 报道了一项新研究，发现模型内部状态中可以清晰区分计算、公式检索和演绎等推理步骤，这种区分在中间层尤为明显。文章指出，这意味着模型实际处理的内容多于其可见的思维链所展示的信息，因此对 AI 安全具有意义。

此前对模型推理的观察主要依赖模型输出的思维链文本，而该研究把推理步骤与内部状态对应起来，说明可见文字并不能完整反映模型的处理过程。这为理解与监控模型行为提供了一个新的观察层面。

研究显示不同类型的推理步骤在模型内部状态中可分离，尤其在中间层表现明显。可见的思维链只是模型内部处理的一部分外显结果，因此仅凭输出文本判断模型如何得出结论并不充分。

对做模型可解释性与安全评估的团队而言，监控对象可能从只看输出文本扩展到结合内部层状态；在产品侧，依赖思维链做审计或调试的功能需要重新评估其覆盖范围。

• 在模型调试或安全审计工具中加入对内部层状态的采样与可视化，与输出思维链并列展示。
• 针对中间层特征建立推理步骤分类的检测模块，用于验证模型输出是否与其内部处理一致。

• 该研究的具体方法、样本规模和可复现性尚未在证据中说明。
• 内部状态与推理步骤的对应关系是否在更大模型或多模态模型上成立，尚不清楚。
• 这一发现能否转化为实际的安全监控或产品功能，缺乏证据支持。