用金丝雀工具诊断LLM代理的工具选择推理

论文引入canary tools诊断探针，植入LLM代理的MCP工具集以识别工具选择缺陷。提出六类问题分类法，在120项任务、8640次运行中评估八款模型，发现模型能力与易感性差异达36倍，能力层级不能单独预测安全性。

此前代理评估只能判断模型选错工具，却无法解释原因。该研究提供了多维诊断框架，将单一错误转化为能力画像，为模型能力分层与安全评估提供新方法论，并揭示能力层级与安全性脱节的现象。

Canary tools是专门设计的探针工具，每种针对特定弱点（如语义诱饵、参数陷阱）。模型在任务中选择工具时，若落入陷阱则暴露对应推理缺陷。通过大规模实验和独立裁判评分，研究者量化不同模型的易感性，发现前沿模型在特定陷阱上反而更易失败，而小型模型更易受一般陷阱影响。

对于依赖LLM代理的产品团队，该研究提供工具集设计诊断方法，可提前发现模型在复杂工具选择上的薄弱环节，从而优化提示词或选择更安全的模型。同时，评估方法可作为第三方评测基准，辅助模型选型与迭代。

• 开发基于canary tools的评估插件，帮助企业在部署前诊断代理工具选择能力。
• 依据六类分类法优化MCP工具集的命名与描述，降低模型误选率。
• 构建模型能力分层报告，为不同业务场景推荐最适配且更安全的模型。
• 将诊断流程集成到CI/CD，在模型更新时自动回归测试工具选择性能。

• 该诊断方法在非英语或特定行业场景下是否依然有效？
• canary tools对模型安全性的预测能力是否与真实生产环境验证一致？
• 研究是否涵盖更多模型类型与参数规模？
• 六类陷阱之间的相关性及组合效应如何影响整体评估？