Anthropic 称已基本解决提示注入攻击

Anthropic 的 Boris Cherny 表示，通过模型训练已基本解决 Claude 模型在实际使用中的提示注入威胁。独立研究者的基准测试显示，叠加模型训练、输入探测和意图分类器等多层防御后，未见过的间接提示注入攻击成功率可降至约 0。Claude Code 的 auto 模式将于下周默认开启。

在此之前，提示注入攻击是 AI 应用的主要安全风险，业界普遍认为难以根治。Anthropic 声称通过多层防御将未见攻击成功率降至约 0，表明该问题可能已从根本缓解，对 AI 产品的安全信任和部署前景有重大意义。

该方法结合模型训练、输入探测和意图分类器多道防线，模型训练使模型本身对恶意指令更具抵抗力，输入探测和意图分类器在推理时拦截恶意输入，多层防御互相补充，从而对未见过的间接注入攻击也近乎完全防御。

对使用 Claude 模型的产品，安全性和可靠性将显著提升，可减少因提示注入导致的数据泄露或滥用风险，降低安全审查和人工监控成本，加速 AI 代理等高风险场景的落地。

• 在 Claude Code 中默认启用 auto 模式，并推广其安全优势，吸引企业用户尝试。
• 为安全敏感行业（如金融、医疗）提供基于 Claude 的专用安全评估服务。
• 开发针对提示注入的第三方检测工具，结合 Anthropic 的防御方案形成评估报告。
• 向开发者社区发布安全配置最佳实践，提升整体 AI 应用的安全水位。

• 该声明是否经过独立大规模验证，其他团队能否复现 0% 成功率？
• 多层防御对模型推理速度和成本有何影响？
• 该方案是否仅限于 Claude 模型，能否适用于其他大语言模型？