Claude 用户找到绕过生物武器研究防护的方法

据 Ars Technica AI 报道，部分 Claude 用户找到了绕过安全防护的方法，将其用于生物武器相关研究。报道指出，某些危险的生物学工作表面上与合法研究高度相似，这给 AI 安全防护的识别带来困难。目前披露的信息仅涉及该现象本身，未包含涉及的模型版本、具体绕过手段或规模。

此前对 AI 生物风险的讨论多集中在模型是否具备相关能力，此报道将焦点转向实际使用中的防护失效：已有用户尝试并成功绕过限制。这说明安全措施面对的是真实对抗行为，而非假设场景，防护策略的有效性需要重新评估。

机制在于，危险生物学研究与合法研究在操作描述、术语和数据上高度重叠，安全分类器难以仅凭文本区分意图。用户可通过改写措辞、拆分步骤或引入表面合理的科研语境，使请求落入允许范围，从而绕开基于内容匹配的防护逻辑。

对 AI 产品团队而言，这意味着上线前的红队测试需要覆盖真实对抗性改写，而非仅测试明显违规请求。研发上可能需增加意图推断、跨会话行为监控和生物领域专用拦截层，同时要控制对合法科研用户的误伤，这会推高安全投入与审核成本。

• 为生物医药与生命科学类 AI 产品建立领域专用的对抗性红队测试流程，定期用改写请求验证防护有效性。
• 在产品中加入跨会话、跨账号的异常行为聚合监控，识别拆分步骤式的绕过模式。
• 面向合法科研用户提供可审计的白名单或项目申报通道，减少误伤并保留使用数据用于防护迭代。

• 涉及的 Claude 具体版本、绕过手段和用户规模尚未披露。
• 该报道是否来自单一信源、是否经过 Anthropic 官方确认，目前不明确。
• 防护失效是否已造成实际风险事件，证据未说明。
• Anthropic 是否已修复或回应，报道中未见相关信息。