20 余位领先 AI 研究者警告：AI 自动化研究存在极端风险

包括 Geoffrey Hinton、Yoshua Bengio 以及 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位 AI 研究者联合发出警告，称自我改进的 AI 可能引发“智能爆炸”。他们认为，AI 系统不久后或将自动化全部 AI 研究，把原本需要数年的进展压缩到数月之内。

此前关于 AI 风险的讨论多来自伦理或政策群体，而这次署名者包含图灵奖级学者与头部实验室研究负责人，风险议题从外部批评转向研发体系内部。

警告的核心机制是递归自我改进：AI 一旦能承担 AI 研究本身的工作，迭代速度将不再受人类研究员数量和实验周期约束，研究进展的时间尺度被压缩。证据未给出具体实现路径或时间表。

若 AI 研究自动化能力外溢到企业研发，模型迭代和实验节奏可能加快，研发排期、算力预算与安全评估流程都需要重新设计；证据未提供可直接验证的产品变化。

• 面向大模型团队提供 AI 研究自动化流程的审计与留痕工具，记录每次自动迭代的来源与改动。
• 为企业研发团队提供能力加速比评估服务，量化引入自动化研究工具对迭代周期的影响。
• 建立自动化研究安全评估清单类产品，覆盖模型自我改进环节的风险检查点。

• 联名警告的具体文件、完整签署名单和发布渠道尚未在证据中确认。
• “数年压缩到数月”的时间估算依据和适用条件未说明。
• 是否存在针对自动化 AI 研究的监管或行业自律措施，证据未提及。