使用关键神经元隔离剪枝防御LLM后门

论文提出DeCNIP方法，通过表征分析识别LLM中的后门攻击，优化有害提示与良性输入的交叉熵损失发现触发行为，隔离后门关键神经元并选择性剪枝，在六个开源LLM和两个基准数据集上评估，兼顾消除恶意影响与保持模型效用。

此前防御主要针对微调后门且限于分类任务，无法处理模型编辑攻击与开放生成场景；DeCNIP统一检测与防御，适用于生成型LLM，填补了实用部署中的空白。

通过表征分析发现后门触发机制——优化有害提示与良性输入的交叉熵损失，定位被劫持的权重；然后隔离后门关键神经元并进行剪枝，直接移除恶意影响，同时保留模型原有能力。

产品团队在部署开源LLM时需重视后门攻击风险；DeCNIP提供了一种集成到推理管线的防御方法，但可能增加剪枝环节的延迟与计算成本，需要评估对模型表现的影响。

• 开发基于DeCNIP的后门检测审计工具，在模型上线前扫描关键神经元。
• 将关键神经元剪枝步骤集成到LLM部署流水线，作为安全加固环节。
• 针对微调后的专用模型提供按需后门防护服务。

• DeCNIP对不同规模（如1B、7B、70B）LLM的剪枝效果与效用保持程度如何？
• 该方法的计算开销是否可接受实时或近实时防护？
• 能否防御除论文设定外的其他后门类型（如数据投毒、微调触发器）？
• 与其他防御方法（如对抗训练、检测分类器）的对比结果是否稳定？