OpenAI 似乎不再追求打造“天空中的魔法智能”

OpenAI CEO Sam Altman 警告不要赋予 AI 模型宗教式力量，称这是一个“真实的安全问题”。此番表态出现在有关 Anthropic 与宗教思想者会面、以及 Pope Leo XIV 就 AI 发表声明的报道之后。报道指出，早在 2024 年，Altman 本人还曾谈到打造“天空中的魔法智能”，并称从事 AI 工作让他感觉“站在天使一边”。

相较 2024 年 Altman 亲口描述打造“天空中的魔法智能”并自认“站在天使一边”，如今他转而警告不要给 AI 模型附加宗教式力量，并将其定义为安全问题。这显示头部公司对 AI 的公开叙事从准神性愿景转向风险防范。

当 AI 能力被赋予准宗教色彩，用户和开发者容易对其输出产生无条件信任，进而降低对错误、滥用和失控的审查，这正是 Altman 所称的安全隐患。同时，Anthropic 与宗教思想者接触、Pope Leo XIV 就 AI 发声，说明 AI 叙事正进入需要与伦理和宗教权威对话的阶段。

对 AI 产品团队而言，界面文案、模型人格设定和营销话术需要避免暗示模型具有超越性权威；在医疗、教育、咨询等高风险场景中，应加入提醒用户核实输出、明确模型局限的机制，以降低误信带来的责任风险。

• 在 AI 产品中加入“模型能力边界”说明模块，明确标注输出可能出错及适用场景。
• 为高风险场景设计输出置信度提示或人工复核流程，作为可信度差异化卖点。
• 面向企业客户提供 AI 使用伦理与员工培训内容，帮助其管理对模型的过度信任。

• Altman 表态是否对应 OpenAI 内部政策或产品叙事的具体调整，证据未说明。
• Anthropic 与宗教思想者会面的具体内容和目的尚未披露。
• Pope Leo XIV 关于 AI 的声明原文与适用范围未在证据中给出。