迈向统一的多维可解释性度量：评估 AI 模型的可信度

arXiv AI 发表一篇论文，提出统一的多维可解释性度量框架。研究者基于保真度、简单性和稳定性三个维度，评估 LIME 与 SHAP 等 XAI 方法，并通过基准实验构建离线知识库，实现未见数据集和模型的可解释性分数估算，在三个开源数据集上演示了该框架。

此前可解释性评估多依赖单维度或主观判断，该研究首次提出系统化、多维度的可解释性评分框架，并建立可复用的知识库，使不同 XAI 方法的比较拥有统一基准。

框架通过保真度（解释是否忠实于模型）、简单性（解释是否易于理解）和稳定性（解释是否一致）三个核心指标，结合模型、数据集和 XAI 方法的元数据，利用基准实验结果构建知识库，从而为新模型和新数据集自动估算可解释性评分。

• 该框架在实际生产环境中的计算开销和实时性如何？
• 知识库如何适应不断更新的模型和 XAI 方法？
• 三个维度是否足以衡量所有场景下的可解释性？
• 研究使用的三个开源数据集能否代表真实业务场景？