AI安全护栏如何阻碍进攻性网络安全研究人员的工作

TechCrunch报道称，多位进攻性网络安全研究员反映，OpenAI和Anthropic等公司设置的AI安全护栏正在阻碍他们发现漏洞和开发利用工具的工作。

此前AI护栏主要被视为保护用户、防止滥用的工具，但本报道首次从进攻性安全研究者的视角揭示护栏反而限制了合法安全研究工作，可能拖慢漏洞发现和防御技术进展。

安全研究团队可能无法直接使用主流AI平台进行漏洞分析或工具开发，需要寻找替代方案或自建模型，增加研发成本和时间。

• 开发专为安全研究设计的AI模型，内置灵活的安全策略，允许研究人员在受控环境下进行攻防测试。
• 推出安全研究API订阅计划，提供豁免部分护栏的授权访问，配合审计日志与合规保障。

• 具体哪些类型的护栏（如内容过滤、代码生成限制）对研究人员影响最大？
• 研究人员是否已找到绕过护栏的可行方法，且未被封禁？
• OpenAI和Anthropic是否计划为安全研究社区提供专门的豁免或研究模式？