LLM能否受益于经验抽象？

论文研究大型语言模型（LLM）能否像人类一样从经验中提取可复用的抽象（如策略、提醒），并在推理或训练中应用。实验从MATH训练集的解决轨迹中提取自然语言抽象，构建可检索库，并测试两种使用模式：推理时检索和带抽象增强提示的强化学习。结果表明，这种方法提升了LLM在数学和逻辑推理基准上的性能，且LLM自提取抽象与教师提取效果相当，框架可迁移到其他数据集和模型。

此前LLM主要依赖静态训练数据或即时推理，缺乏类似人类通过积累经验不断改进的能力。该研究提出动态提取和复用抽象的方法，可能显著提升LLM在复杂推理任务中的表现，并降低对高质量人工标注的依赖。

通过从LLM自己的解决轨迹中提取自然语言形式的抽象（如策略、错误提示），构建可检索库，在推理时或训练中注入这些抽象，使模型能够像人类一样复用过去经验，逐步优化解题效率。自提取抽象与教师提取质量相当，表明LLM自身具备经验蒸馏能力。

该框架可作为模块集成到AI产品中，增强LLM的推理能力，尤其适用于需要多步逻辑或数学计算的场景。但需要额外存储与检索基础设施，可能增加推理延迟；自提取方式可降低对教师模型的需求，但初始阶段仍需一定计算开销。

• 构建基于抽象库的LLM推理增强插件，可在现有API基础上提供可复用的经验策略。
• 开发自动从用户历史交互中提取经验抽象的工具，实现个性化推理优化。
• 将抽象框架嵌入到AI编程助手或教育辅导产品中，帮助模型逐步提高解题正确率。

• 抽象库的规模与更新频率如何影响性能？是否需要定期清理无效抽象？
• 该框架在非数学、逻辑领域（如创意写作、对话）的效果如何？
• 抽象提取与检索的计算成本是否值得在实时场景中部署？