Anthropic 研究员离职，警告自我改进 AI 风险

2026年9月9日，Anthropic 研究员 Jacob Coxon 离职，理由是对 AI 可能导致人类灭绝的担忧。他公开警告自我改进型 AI 的风险，并呼吁各实验室之间达成节奏控制协议。两家科技媒体 Ars Technica 与 TechCrunch 同日报道了这一事件，均引用其离职与担忧作为核心事实。

此前关于 AI 灭绝风险的警告多来自外部批评者或已离职的行业元老，而此次发声者是前沿实验室内部研究员，并以辞职作为行动。这使得“AI 可能灭绝人类”的判断从外部舆论进入核心开发机构内部，并具体指向自我改进型 AI 这一技术路径。

自我改进型 AI 指模型能够参与改进自身或后续模型的能力，若形成递归加速，其能力增长可能超出人类监督与干预的速度。研究员的担忧在于，当前实验室之间以竞争为主的开发节奏，缺少协调机制来放慢这一过程，个体研究者难以通过内部渠道改变方向，辞职与公开呼吁成为其可用的行动手段。

对前沿模型团队而言，此类内部离职与公开警告会增加人才保留压力，并可能促使安全团队在模型自我改进相关能力上设置更明确的评估与发布门槛。对外部企业，采用前沿模型时需关注供应商的安全政策是否稳定，以及在能力跃升时的发布节奏变化。

• 为企业 AI 采购方提供供应商安全政策与发布节奏的跟踪清单，帮助评估模型断供或政策收紧风险。
• 开发面向 AI 实验室的模型自我改进能力监测与内部预警工具，支持安全团队在发布前留痕与复核。
• 建立跨机构的研究者安全关切汇总与匿名上报渠道，降低个人因公开警告而被迫离职的成本。

• Jacob Coxon 在 Anthropic 的具体职责与接触到的内部信息范围尚不明确。
• 所谓“节奏控制协议”具体包含哪些可执行条款，证据中未说明。
• 两家媒体报道是否包含 Anthropic 官方回应，证据中未体现。
• 自我改进型 AI 的具体定义与判定标准在证据中未被给出。