OpenAI 公布 GPT Red：利用自动化越狱大幅提升模型防御能力

OpenAI 近日发布了关于自动化红队测试系统“GPT Red”的技术细节。该系统旨在通过大规模的自动化越狱攻击，来训练并提升大型语言模型（如 GPT-4o）的安全性，使其在面对恶意提示词攻击时具备更强的防御能力。GPT Red 采用了独特的混合架构，利用经过专门训练的 GPT-4o 模型分别扮演“攻击者”和“辩护者”的角色，通过数百万次的自动化对抗演练，模拟各种潜在的恶意输入场景。这种基于规模的后训练方法成效显著，实验数据显示，经过 GPT Red 训练后的模型，在防御复杂攻击方面的表现超越了人类专家的水平。OpenAI 强调，这是目前规模最大的后训练努力之一，虽然该特定的攻击模型本身不会公开发布以防止滥用，但其研究成果和训练方法将直接应用于 OpenAI 主流产品的安全加固中。这一进展标志着 AI 安全领域正在从依赖人工红队测试，向更高效率、更全覆盖的自动化对抗防御体系转变。

事件分析

💡 核心观点：自动化攻防将成为大模型安全的标配，用 AI 攻击 AI 是提升防御能力的必经之路。