Dario Amodei 发文呼吁 AI 行业放慢前沿速度并公布三步计划

Dario Amodei 发布新文章 We Must Pace the Frontier，主张 AI 行业应放慢前沿发展速度，并提出包含三部分的计划。作为第一步，Anthropic 单方面承诺向第三方评估者提供永久、员工级的系统访问权限，用于核实安全措施执行情况、报告事故，并在训练期间评估模型的 alignment。

此前前沿实验室的安全承诺多由内部执行与自我披露，外部难以直接核验。此次变化在于由 Anthropic 单方面开放员工级系统访问给第三方评估者，把安全措施执行、事故报告与训练期 alignment 评估置于外部可核查的位置，同时公开呼吁行业整体降速，与常见的加速竞争表态形成对照。

该计划试图用可验证的访问权限替代自律式的安全声明：第三方评估者若能在训练期间直接观察系统与流程，安全承诺就从宣示变为可被审计的对象，从而降低信息不对称。但开放访问本身不改变算力与模型规模继续增长的激励结构，因此其效果取决于访问范围、评估者独立性以及行业是否跟进。

对前沿模型研发团队而言，训练流程、模型权限与事故记录可能需要按可外部审计的方式重新设计，增加访问控制、日志留存与合规成本；对下游产品团队，若第三方评估成为常态，模型上线节奏与功能发布可能受评估周期约束，安全性相关能力的可披露程度也会影响对外沟通。

• 面向前沿实验室提供第三方安全评估与访问审计的服务或工具，覆盖权限管理、事故记录与训练期对齐评估。
• 为使用前沿模型的企业产品团队提供合规与安全披露支持，帮助其应对模型评估周期带来的发布节奏变化。

• 三步计划中除第一步外的其余两步具体内容是什么？
• 第三方评估者的选择标准、独立性保障与访问权限边界如何界定？
• 员工级系统访问是否包含模型权重、训练数据或内部通信等敏感内容？
• 其他前沿 AI 实验室是否会对该呼吁作出跟进承诺？