评估大语言模型在多轮医疗对话中处理错误观念的能力

一篇新论文发布了ThReadMed-QA数据集，包含2,437条多轮医疗对话，用于评估大语言模型在连续对话中纠正患者错误观念的能力。评测发现GPT-5和Claude-Haiku在单轮对话中纠正率达85%，但在后续两轮中降至约50%，退化主要由错误传播导致。

此前缺乏针对多轮医疗对话中错误观念纠正的系统评估框架，该研究首次揭示了即使是前沿模型在连续交互中也会出现显著性能退化，这对医疗AI产品的可靠性构成实质挑战。

多轮对话中模型基于自身前序输出回答问题，若前序输出未能纠正错误前提，后续问答应答会继承并强化该错误，形成错误传播链，导致整体纠正能力逐轮下降。

医疗对话AI产品（如在线问诊系统）在连续多轮交互中错误纠正能力大幅降低，可能误导患者或延误正确信息获取，需重新设计对话管理流程以降低退化风险。

• 利用ThReadMed-QA数据集对医疗对话模型进行针对性微调，提升多轮错误纠正能力
• 在医疗AI产品中引入中断式纠正机制，在检测到错误前提时强制重新确认或回滚至正确基线
• 开发对话状态追踪模块，实时识别并标记未修正的错误观念，辅助模型后续输出

• 论文中的退化现象是否同样适用于非医疗领域的多轮知识问答场景？
• 错误传播是否可通过模型架构改进（如显式记忆前轮纠正结果）来缓解？
• 不同模型家族（如Llama、Gemini）在相同任务上的退化模式是否一致？