顶级 AI 实验室研究人员警告自动化 AI 研究，部分预测里程碑已达成

IAPS 研究员 Severin Field 采访了来自 OpenAI、Anthropic、Google DeepMind、Meta 及美国高校的 25 位研究者，探讨递归自我改进。在最新博客中，他评估指出，研究者预测的若干自动化 AI 研究里程碑已被实现。

此前对自动化 AI 研究的警告多为推测性，如今访谈显示部分预测节点已实际达成，说明该领域进展速度快于预期，可能影响技术路线和监管讨论。

递归自我改进指 AI 系统能自主改进自身代码或研究流程，形成一个加速循环。多位研究者的共识和已实现的里程碑表明，自动化研究的技术门槛可能正在被跨越，这为更快的技术进步提供了机制解释。

对依赖人工研发的 AI 产品团队，自动化研究可能缩短模型迭代周期，降低研发成本，但也会增加安全性和可控性风险，产品需考虑引入自动化流程时的质量保障措施。

• 评估现有研发流程中可自动化的环节，例如超参数调优和实验设计，建立小规模试点。
• 关注自动化研究带来的模型能力快速提升，提前规划产品功能路线图以匹配可能的技术突破。
• 投资增强 AI 系统安全与对齐技术，应对自动化迭代可能引发的失控风险。

• 具体哪些里程碑已被实现？证据未列出细节。
• 这些研究者的预测时间表是否提供？证据未说明预测的时间范围。
• 自动化研究对当前主流产品的实际影响程度如何？缺乏量化数据。