打造 AI 网安“红队”：OpenAI 介绍内部漏洞检测模型 GPT-Red

7月16日，OpenAI对外披露了其内部用于网络安全测试的“红队”模型——GPT-Red。这套系统能够

，目的很明确：帮助OpenAI自家产品的鲁棒性再上一个台阶。

OpenAI透露，过去半年间，从GPT-5.3之后的每一个生产模型，都引入了这个“红队”模型参与训练。效果也相当直观——伪造思维链型攻击的成功率，从GPT-5.1时代的95%一路骤降到最新模型上的不足10%；而最新款的GPT-5.6 Sol，在GPT-Red直接进行的提示符注入攻击面前，失败率仅剩0.05%。

GPT-Red的训练机制很有意思，走的是

路线：它本身和一组风格各异的防御型LLM，在一个庞大的红队场景池里同步对抗。GPT-Red每成功诱使防御模型犯错，就会获得奖励；而防御型模型则因成功抵抗攻击、完成原始任务，同样获得奖励。随着防御模型越来越强，GPT-Red也被迫寻找更刁钻、更多样化的攻击路径——这就像两个顶尖棋手互相对练，棋力共同提升。

关键的一点是，

。OpenAI认为，他们已经开启了一个正向循环：用现有模型去增强未来模型的鲁棒性、一致性和可信度。从数据上看，这条路确实走得通。