哈佛心理学家Pinker呼吁以务实安全工程取代AI末日论

哈佛心理学家Steven Pinker认为AI导致人类灭绝的恐惧被夸大，拒绝与博主Scott Alexander就AI灭绝风险进行公开辩论，称这类活动是“观赏性运动”。Alexander估计AI灭绝人类的概率为20%。Pinker主张以独立监督、责任机制和人类控制为基础，推进务实的安全工程，而非末日论叙事。

这代表AI安全讨论中一次公开的立场分化：一方以高概率灭绝风险要求优先应对，另一方主张把资源转向可落地的工程治理。Pinker拒绝公开辩论本身也说明，风险沟通正在从概率争论转向制度与工程路径的竞争。

Pinker的论证依托于对灭绝概率的怀疑，因此主张用独立监督、责任归属和人类控制等可操作机制来降低实际风险。Alexander的20%估计则把AI风险推向高优先级。两种路径对资源分配、监管节奏和产品合规成本的含义不同，但证据未展开具体机制细节。

若独立监督、责任机制和人类控制成为政策与行业共识，AI产品在发布前可能需增加可审计性、责任追溯和人工干预设计，研发与合规成本上升，但用户对系统的可控预期可能改善。当前证据未给出具体行业或产品案例。

• 开发面向AI系统的独立审计与可追溯日志工具，帮助企业满足监督与责任要求
• 提供人类控制与干预模块，让业务方可随时限速、回滚或接管模型输出
• 为创业团队提供AI安全工程合规咨询，将监督、责任和控制要求转化为产品设计清单

• Pinker与Alexander的辩论未发生，双方在具体安全工程措施上是否存在可调和空间
• 20%灭绝概率估计的依据与同行评审情况尚不明确
• 独立监督、责任机制和人类控制将如何转化为具体监管或行业标准