判断-后果差距：LLM 在医疗决策中的道德推理

arXiv AI 于 2026 年 8 月发布研究，评估多种 LLM 在医疗资源分配中的道德推理。结果显示存在“判断-后果差距”：LLM 虽认同患者对有害健康行为负有责任，但拒绝据此影响资源分配，默认随机分配，而人类更倾向选择过错较少者。

此前研究多关注 LLM 的准确性或偏见，而此研究首次系统揭示 LLM 在医疗资源稀缺场景下采用与人类不同的道德框架，且能力越强分歧越大，将影响医疗 AI 的临床部署与监管。

LLM 在责任判断上能与人类趋同，但在后果分配上采取保守的随机策略，可能因训练数据中隐含的公平性原则或伦理对齐机制。同时，LLM 更重视信息可及性，当健康风险知识缺失时降低责任判断，导致与人类判断存在系统差异。

医疗决策支持系统若直接采用 LLM，可能导致资源分配与人类伦理预期不符，引发信任问题。产品需增加道德推理的可解释性，或由人类复核关键分配决策，以降低伦理合规风险。

• 开发医疗决策支持工具，结合人类审核或可配置的分配策略，以匹配伦理预期。
• 建立医疗 LLM 责任判断的评估与标注框架，供伦理审查。
• 设计人机协作界面，当 LLM 与人类判断分歧时触发人工介入。

• 该研究是否涵盖非英语临床场景或不同医疗体系的伦理差异？
• LLM 是否能在提示工程或微调后缩小与人类判断的差距？
• “判断-后果差距”是否在真实临床决策中同样显著？