决策层劫持：通过位翻转向大语言模型注入认知偏见

研究者提出CogBias框架，通过位翻转攻击(BFA)向大语言模型注入认知偏见，仅需在部署后翻转少量权重位，即可实现隐蔽、低成本、持久的决策层劫持。实验在Llama-3.2-3B、Mistral-7B和Qwen2.5-14B上验证，涵盖商业推荐和有争议事实主题场景。

相比此前攻击只能触发禁止内容或降低模型功能，该攻击不需要实时交互或控制训练过程，在部署后即可进行认知操纵，且不易被察觉，对依赖开源模型进行关键决策的应用构成新威胁。

CogBias通过可微分情感评估器将主观偏好转化为优化信号，使用多目标损失联合约束多个维度，并构建BitScout定位关键位，在超稀疏翻转预算下实现针对性认知干预，不触发传统安全机制。

开源模型在推荐系统、企业战略等决策场景中应用时，攻击者可利用此方法隐蔽修改模型输出，影响下游决策。产品团队需增加部署后权重完整性校验，并考虑运行时异常检测。

• 开发基于权重哈希校验的模型部署安全工具，检测位翻转攻击
• 设计抗认知操纵的模型架构或推理时投票机制
• 为高安全场景提供模型部署后的持续监控服务，识别异常输出行为

• 实际攻击成功率在不同规模模型和任务中的具体数值尚未公开
• 是否存在有效防御手段（如权重加密或冗余校验）且不增加显著成本？
• 攻击在真实商业场景中是否已被观测到或复现？
• 不同位翻转数量对攻击隐蔽性和持久性的影响是否明确？