当已验证的世界模型仍然失败：LLM合成代码世界模型中的游戏充分性与预测准确性

一项研究显示，大型语言模型合成的代码世界模型即使达到100%的过渡准确率和超过98%的状态准确率，在经典规划器执行游戏时仍系统性失败，因为那小于1%的错误恰好是关键动态。这种现象被称为验证-正确差距，并遵循定量规律 danger = play_cost × (1 - rarity)^N。

此前业界认为高采样准确率足以保证世界模型的有效性，但本研究证明即使通过严格验证，模型仍会在关键行为上出错，导致规划失败，且增加数据无法修复，这挑战了当前对LLM生成世界模型评估标准的信心。

LLM合成世界模型本质上是规则翻译而非规则推理，无法自动补全未显式见过的罕见但关键规则。验证通过率取决于采样分布，而规划搜索可能遇到未被覆盖的罕见状态，这些状态的错误对游戏结果影响巨大。定量公式解释了危险度与错误稀有度和游戏代价的关系。

依赖LLM生成世界模型（如游戏模拟器、仿真环境）的产品可能面临不可预测的失败风险，当前基于采样准确率的验收标准不可靠，需要引入游戏充分性等新指标，增加测试成本和模型迭代周期。

• 开发针对罕见关键状态的对抗性测试工具，提升世界模型验证的鲁棒性。
• 设计混合方法，结合LLM生成和符号规则校验，确保关键动态被显式定义。
• 为规划搜索添加运行时监测，当发现与模型预测不符时回退到保守策略或重新生成。

• 能否通过强化学习或逆向课程学习自动识别并补充遗漏的关键规则？
• 对于非游戏领域的规划任务（如机器人操作），该验证-正确差距是否同样显著？
• 是否存在已知的对抗性提示或数据生成方法可以可靠地触发此类失败？