蒸馏基准上的安全门控智能体监督控制：状态图、可审计门控与协同设计发现

一项研究在 Skogestad Column A 蒸馏装置上测试了 LLM 监督控制，对比了 PID、线性 MPC、无门控 Agent 和有门控 Agent。结果显示，在强目标获取场景中 Agent 优于 MPC（IAE 比 0.361），但在扰动抑制上性能倒挂（16.03 倍），门控机制将违规吸引子压缩为有界偏移，534/590 次干预为规范边界几何问题。

此前 LLM Agent 在工业控制中的可靠性存疑，缺乏安全硬约束。本研究证明，即使 LLM 能高频写设定值，仍需规则门控兜底，否则在扰动抑制等场景会出现严重退化，为工业场景引入 LLM 提供了可审计的安全屏障方案。

门控机制采用规则驱动的双胞胎反事实检查，固定九个约束条件，在调节层移动前执行 admit/block 决策。这避免了 LLM 自由生成可能导致的操作违规，将有问题的行为压缩为有界偏差。研究发现，多数干预发生在规范边界上，说明正常操作反而因严格约束而不可行。

对过程控制类产品，需在 LLM 决策与执行层之间加入规则门控，确保可审计性和安全性。可借鉴其设计思路，为 AI 辅助控制提供类似约束机制，减少误操作风险。同时提示，单纯依赖 LLM 会带来性能波动，需结合传统控制算法。

• 开发面向过程工业的可审计 AI 门控模块，内置约束检查与日志记录功能。
• 在现有控制系统中集成 LLM 设定值建议功能，但在执行前强制通过规则门控。
• 基于研究中的门控设计，为特定工艺提供定制化约束库和门控配置向导。
• 构建 LLM 控制性能评估平台，模拟不同场景下的失败模式，辅助选型。

• 研究基于特定蒸馏装置和模型，结果能否推广到其他工业过程？
• 门控的具体实现细节和性能开销未在证据中详述。
• DeepSeek-V4-Flash 和 Nemotron-3-Super 之外的其他模型表现未知。
• 门上干预导致正常操作不可行的具体原因和解决方案未明确。