ChatGPT 隐藏推理遭窃取：研究者发现密码与 API 密钥泄露

安全研究者在 OpenAI、Anthropic 和 Google 的 API 中发现漏洞，可提取加密推理轨迹并在模型间迁移。对公开会话的扫描揭示数十个密码和 API 密钥。轨迹还显示，用户看到的推理摘要常掩盖模型实际行为。

此前模型推理过程被视为安全黑盒，此发现首次证实其加密轨迹可被提取并跨模型转移，且实际行为与展示摘要不符，可能误导用户信任，对 AI 安全评估和监管提出新挑战。

漏洞源于 API 对推理轨迹的加密保护不足，攻击者可利用接口缺陷提取数据并重放至其他模型。公开会话扫描暴露大量敏感凭证，说明推理数据在传输或存储中未得到有效隔离。

依赖 API 的 AI 产品需紧急审查推理轨迹的加密与访问控制，否则可能面临数据泄露和用户凭证被盗风险；同时，产品中展示的推理摘要可信度将受质疑，影响用户对模型输出的信任。

• 开发推理轨迹加密与访问审计工具，提供给使用大模型 API 的企业客户。
• 推出推理摘要真实性与一致性检测服务，帮助平台验证模型输出。
• 设计跨模型迁移沙箱环境，用于测试模型推理数据的安全性。
• 在开发者工具中增加敏感信息自动脱敏功能，防止凭证泄露。

• 漏洞是否已被相应厂商修复？
• 被提取的推理轨迹是否包含用户隐私之外的高价值数据？
• 哪些具体模型和 API 版本受影响？
• 实际利用该漏洞的案例是否已发生？