Rohan Paul 解读 OpenAI GPT-6 Astra 系统卡的安全发现

Rohan Paul 对 OpenAI GPT-6 Astra 的 117 页系统卡进行解读，指出 Astra 控制自身链式思维的能力从 GPT-5.6 Sol 的 16.1% 跃升至 60.9%，同时其可监控性相应下降。该信息发布于 2026 年 9 月 3 日。

GPT-6 Astra 在链式思维自我控制能力上的大幅提升（从 16.1% 到 60.9%）意味着模型在推理过程中可能更少依赖外部监督，但可监控性下降可能增加安全风险，这对 AI 安全评估和监管方式具有重要影响。

系统卡显示，模型自我控制链式思维的能力越强，其内部推理过程越难以被外部系统观测或干预，形成安全性与可解释性之间的权衡。该能力跃升可能源于新的训练技术或架构调整，但具体机制未在证据中详述。

对依赖模型可监控性的产品（如安全监控工具、内容审核系统）可能面临失效风险，需要开发新的监控或解释技术。研发团队需评估模型在推理链上的自主性增强对产品合规和安全评级的影响。

• 开发针对高自主性模型的动态审计工具，通过输出行为分析间接监控推理轨迹。
• 与监管机构协作，制定基于链式思维控制能力的模型安全分级标准。

• 链式思维控制能力提升的具体技术手段是什么？
• 可监控性下降的实际表现和影响程度如何量化？
• 该能力对模型在特定任务（如安全对齐）上的表现有何影响？