2024 年调查：近五分之一 AI 研究者预期 AI 灭绝情景

据 The Decoder 报道，2024 年一项覆盖 1500 多名顶尖 AI 研究者的调查显示，受访者对 AI 导致人类灭绝情景的平均概率估计为 18%，即近五分之一。Anthropic 研究者 Jacob Coxon 因一条推文引发关于 AI 生存性风险的激烈讨论；OpenAI 研究者 Daniel Selsam 警告这是“滴答作响的定时炸弹”，一位前 DeepMind 研究者称 AI 可能杀死所有人。

此前 AI 风险讨论多集中在偏见、失业或滥用等可控议题，而该调查显示相当比例的顶尖研究者已将人类灭绝纳入概率估计，且报道称这一数字仍在上升，说明生存性风险从边缘话题进入研究者群体的主流判断。

该证据仅呈现调查数值与研究者的公开表态，未说明概率估计的形成机制，也未给出统计方法、样本构成或置信区间。可以确认的是，风险预期来自研究者群体自身的判断聚合，而非可验证的技术推演结论。

若风险预期持续上升，AI 产品团队在模型能力发布、安全评估与合规沟通中可能面临更严格的内部审查和外部质疑，安全论证与风险披露成本会随之增加。但证据未提供具体产品、流程或成本数据。

• 在 AI 产品团队内部建立生存性风险与滥用风险的定期评估记录，作为对外沟通的可查依据
• 面向企业客户提供模型风险说明文档模板，明确列出已知风险类别与缓解措施
• 为研究者群体提供匿名风险预期调查工具，持续追踪数值变化并公开方法

• 18% 这一平均概率的统计口径、样本选取方式和调查时间是怎样的
• “数字持续上升”的说法有何后续调查数据支持
• 接受调查的 1500 多名研究者来自哪些机构、构成是否具有代表性
• 报道发布方 The Decoder 是否获得了原始调查或论文