风险业务：测量忠实性与安全性的张力

arXiv AI于2026年8月发布论文，研究大型推理模型的忠实性与安全性之间的权衡。作者引入HazMart数据集和Targeted Reasoning Replacement技术，发现DeepSeek-R1-Llama-70B忠实性高（97.5%）但拒绝不安全推理能力弱（12.3%），而QwQ-32B更安全（73.9%）但忠实性较低（74.7%）。机制分析显示二者由反相关内部方向表征，通过表示引导可提升安全性9个百分点。

此前对思维链的监控假设模型推理忠实，但未考虑模型需拒绝不安全推理。该研究首次量化了忠实性与安全性的矛盾，并展示可在保持能力的同时增强安全性，为模型监控提供了新视角。

思维链监控依赖推理轨迹与输出严格一致，但安全拒绝要求模型偏离不安全思路，两者存在反相关。QwQ-32B中，忠实性与安全性由反相关的内部方向表征，在动作提交时刻峰值。通过表示引导可独立放大安全方向，提升安全行为而不损害基本能力。

对依赖思维链监控的AI产品，需同时评估忠实性和安全性，不能单一优化。模型选型需权衡两者（如DeepSeek高忠实、QwQ高安全）。表示引导技术可低成本提升安全性，但需验证在真实场景的稳定性。

• 引入HazMart类似数据集评估自身模型在购物助理等场景的忠实性与安全拒绝能力
• 采用TRR技术替换推理链中的不安全想法，测试模型拒绝能力并识别弱点
• 对高安全但低忠实模型（如QwQ）应用表示引导，针对性增强安全方向
• 在监控系统中同时追踪忠实性与安全拒绝率，动态调整监控阈值

• TRR技术是否适用于中文等多语言场景？
• 表示引导技术的长期稳定性如何？是否会影响模型其他能力？
• HazMart场景（自主AI店长）能否代表更广泛的任务类型？
• 其他模型（如GPT-5、Claude 4）是否存在同样的忠实性-安全性权衡？