TRACE：基于业务规则推理课程的知识保持参数化工具检索方法（面向企业大语言模型）

TRACE是一种两阶段课程方法，用于企业LLM的保持知识的参数化工具检索。阶段1用LoRA播种工具知识，阶段2训练模型在输出JSON工具列表前生成思考痕迹，保留知识并实现单束贪婪解码。在8300+工具的企业目录上，与阶段1相比，MCQ准确率提升3.2个百分点，QA探测提升9个百分点；检索召回在域A达到约86%、域B约60%，远超embedding基线（约27%和52%）。

此前参数化工具检索（如ToolSense）破坏工具知识且解码慢，TRACE通过思考痕迹和业务规则推理保留知识并实现单束贪婪解码，首次达到生产延迟下的高效检索，使企业LLM能实时调用大规模工具集。

TRACE的阶段2训练模型在工具选择前生成推理痕迹，利用业务规则增强的合成查询和现有RRB对，迫使模型学习有依据的工具映射，同时避免知识遗忘；单束贪婪解码取代之前耗时的束搜索，大幅降低推理延迟。

企业可部署基于TRACE的实时工具检索系统，无需束搜索，延迟符合生产要求；工具知识保持更好，减少因重训练导致的维护成本；检索召回显著提升，降低对传统嵌入方法的依赖，可直接集成到现有LLM工作流。

• 开发基于TRACE的插件，自动推荐内部API或工具，支持实时决策。
• 将TRACE集成到企业RAG或客服系统，替代嵌入检索实现更准确工具调用。
• 为低延迟场景（如实时数据分析）提供标准化的工具检索组件。

• TRACE在非企业领域或更开放的工具集上是否同样有效？
• 思考痕迹的可解释性是否额外增加了用户信任或审计收益？
• 训练阶段2的合成数据成本是否高于传统指令微调？
• 单束贪婪解码在工具ID冲突或模糊查询时是否稳定？