DIRECT：面向大语言模型的高效对齐序列标注直接解码方法

研究人员提出DIRECT框架，用于大语言模型在序列标注任务中提高领域对齐和推理效率。该方法在监督微调后使用Direct Preference Optimization强化与人类偏好一致，并引入可控解码过程强制输出格式和限制候选集，通过模板填充机制只生成标签token并使用KV Cache减少计算。在8个数据集上实验表明，DIRECT在性能和效率上均优于现有方法。

此前大语言模型在序列标注任务上存在领域对齐不足和推理效率低的问题。DIRECT通过训练后优化和推理时控制，同时提升了任务对齐效果和推理速度，为实际部署更高效的NLP系统提供了可行方案。

DIRECT在监督微调后执行Direct Preference Optimization，使模型输出更符合人类偏好；推理时通过可控解码强制输出固定格式并限制预测标签集，保证输出合规性。同时利用模板填充机制，只生成标签token，其他前缀内容通过KV Cache复用，减少冗余计算，从而兼顾准确率和效率。

该框架可直接应用于需要序列标注（如命名实体识别、关系抽取）的产品中，降低推理延迟和计算成本，同时提高标签输出的一致性与准确性。对于依赖大语言模型进行信息抽取的应用，可显著提升系统响应速度和可靠性。

• 在自然语言处理产品中集成DIRECT框架，用于提升命名实体识别等序列标注任务的效率和准确性。
• 针对特定领域的文本分析工具，利用DIRECT的领域对齐优化来减少误标率。
• 开发基于DIRECT的轻量级API服务，为第三方应用提供高效序列标注能力。

• DIRECT框架在不同规模和不同架构的大语言模型上的泛化性如何？
• 可控解码过程对模型生成多样性的影响未知。
• 模板填充机制在复杂任务（如嵌套实体）中是否仍然有效？
• 该方法的实际推理速度提升幅度在真实部署环境中能否维持？