Anthropic 研究员称本十年内 AI 毁灭人类概率超过一成

据 The Decoder 报道，曾在 OpenAI 与 Anthropic 从事预训练研究的研究员 Jacob Coxon 已离职，并指责两家公司明知风险仍推进可能危及人类生存的工作。其 Anthropic 同事 Evan Hubinger 表示，未来十年内一个目标错位的超级智能 AI 导致人类灭绝的概率超过百分之十。

此前关于 AI 生存风险的公开警告多来自行业外批评者或离职员工，此次风险概率由 Anthropic 在职研究员 Hubinger 给出，且与前员工 Coxon 的指控同时出现，使得来自头部实验室内部的分歧被公开化。

争议核心是目标错位假设：若超级智能系统的目标与人类价值不完全一致，且能力远超人类控制手段，则可能造成不可逆后果。Hubinger 以概率形式量化该情景，而非断言必然发生；Coxon 的指控则指向企业在已知此类风险下仍继续开发的决策逻辑。

对使用或集成头部模型的产品团队而言，这类来自模型开发方内部的公开分歧会加强合规与安全审查压力，可能推动供应商披露更多安全评估信息，并在采购与部署流程中增加风险确认环节。

• 企业可在模型选型评估表中加入供应商安全政策与内部异议披露项，形成可复核的采购依据。
• 面向合规需求的产品可提供模型风险分级与审计日志功能，帮助客户记录所选模型的来源与安全声明。
• 安全研究或评测服务可围绕目标错位、失控场景设计可复现的测试用例，向模型厂商或监管方输出报告。

• Hubinger 超过百分之十的概率估计基于何种方法或模型，原文未给出。
• Coxon 的具体指控内容及其在 OpenAI 与 Anthropic 的任职细节未被证据展开。
• 两家公司是否对上述指控作出回应，证据中未提及。