面向大型语言模型系统的安全生命周期模型

arXiv AI 发布论文，提出面向大型语言模型系统的安全周期模型。该模型包含四个核心管道层（数据、模型、分发、应用）共32个阶段，外加12阶段的 LLMOps 支柱和9类治理支柱，其中13个阶段因暴露独特安全关切而被单独划分。论文还提供治理映射，涵盖 NIST AI RMF、欧盟 AI 法案和 ISO/IEC 42001。

当前 LLM 生命周期框架多从运营效率出发，导致数据溯源、工件签名、代理权限控制等安全活动常被隐式处理。此模型以安全边界为核心，弥补了现有框架在安全分析上的不足，并使治理要求与生命周期阶段明确对应，尤其揭示了开发阶段监管可见性弱的盲点。

模型将安全相关边界作为生命周期划分标准，取代传统的流程优化分组。其治理映射对比监管框架后发现，治理证据集中于部署阶段，而关键决策如数据选择、对齐策略和能力边界则发生在监管可见性低的开发阶段，导致监管覆盖不均。

影响主要面向学术研究与合规框架设计，其模型可能促进安全工具的开发，例如数据溯源验证、工件签名管理和代理权限控制。但本文未提供商业化细节，因而对产品工程师的具体影响不明，可能只影响长期安全设计思路。

• 基于该模型开发安全审计工具，覆盖数据溯源验证和工件签名管理。
• 将生命周期阶段与治理要求映射，构建面向合规的 LLM 系统管理平台。
• 针对开发阶段引入安全评估模块，弥补监管盲点。

• 论文是否提供了可操作的技术实现细节？
• 该模型是否已被实际应用或验证？
• 论文是否给出具体的监管映射结果？