前 DeepMind 高管 Vinyals：AI 自我改进将至，但不会引发智能爆炸

前 Google DeepMind 研究负责人 Oriol Vinyals 表示，AI 通过递归自我改进引发智能爆炸的可能性不大。他认为 AI 可将研究速度提升约十倍，但受两个瓶颈制约：提出想法的“研究品味”，以及可靠判断结果。此外，reward hacking 与光速也构成限制。Vinyals 已与 Jeff Dean、Sanjay Ghemawat、Quoc Le 共同创办初创公司 Discovery Loop，试图解决这些瓶颈。

这是来自前沿实验室核心研究者的公开判断，与此前关于递归自我改进可能快速催生超级智能的预期形成对照。他同时把讨论从“是否会发生”转向具体瓶颈，并以新创业公司作为承接路径，使这一观点带有可跟踪的组织与产品指向。

其机制在于：AI 能压缩研究执行时间，但研究进展还依赖提出高质量问题与判断结果是否可信。若评估不可靠，模型可能优化错误目标，即 reward hacking；同时算力、实验与物理约束也限制迭代速度。因此自我改进更像加速器而非自动引爆点。

对研发团队而言，这意味着短期价值更可能来自用 AI 加速实验执行、文献整理与候选方案生成，而非完全自动化研究决策。产品设计需把人类的研究品味与结果校验嵌入流程，并针对评估可靠性、反 reward hacking 建立机制，否则自动化程度越高，错误累积风险越大。

• 构建面向研究团队的实验编排工具，把想法生成、实验执行与结果校验拆分为可人工介入的环节。
• 开发针对模型评估可靠性的审计产品或流程，检测 reward hacking 与目标错配。
• 为研发组织提供 AI 加速研究的瓶颈诊断服务，量化执行提速与判断环节的实际收益。

• Discovery Loop 具体要解决哪些瓶颈，采用何种产品或技术路线，证据未说明。
• “研究品味”能否被形式化或部分自动化，Vinyals 未给出可验证方案。
• AI 将研究速度提升十倍这一说法缺少可引用的实证来源。
• Vinyals 离开 Google DeepMind 的时间与原因，以及新公司的融资和团队规模尚不明确。