跳到主要内容
赞助推荐 搬瓦工怎么选:三网直连 CN2 GIA-E
前沿哨所

OpenAI严打对抗性蒸馏:GPT-6.2攻击成功率降至0.2%,点名DeepSeek与月之暗面

3 分钟阅读阅读(2)
赞助推荐 团队协作里的 AI 办公工作台

OpenAI发布《对抗性蒸馏防御》报告,系统阐述其应对未经授权蒸馏攻击的安全策略。对抗性蒸馏指攻击者利用前沿模型输出训练另一模型,使其获得先进能力却不继承原有安全防护,在网络安全、生物等双用途领域风险尤为突出。OpenAI内部实验显示,学生模型若能获取教师模型的完整推理轨迹(思维链),在ExploitBench、SEC-bench Pro等网络安全基准上的表现显著优于仅使用推理摘要训练的模型,表明保护精确推理轨迹可有效限制网络攻击能力的转移。为此,OpenAI在GPT-6.2 Astra与GPT-6.2 Sol中强化防护:通过对抗训练、输入输出分类器、API级控制阻止推理轨迹提取,并配合账户级调查打击协同蒸馏活动。自适应黑盒红队测试显示,从早期请求提取受保护推理的攻击成功率从GPT-6 Astra的54.0%降至GPT-6.2 Astra的0.2%。OpenAI披露今年已持续开展周度执法,封禁账户规模从数千至数万不等;2月曾向美国国会通报DeepSeek涉嫌蒸馏美国前沿模型,9月则将部分推理提取活动归因于月之暗面相关人员,并表态支持《芯片安全法案》《AI OVERWATCH法案》等多项立法。

事件分析

技术上,报告揭示了推理轨迹正从研究透明度工具转变为需严格保护的核心资产,OpenAI构建的请求级与行动级双层防御体系,以及将攻击日志转化为回归测试的做法,为行业提供了可复用的安全工程范式。产业层面,Anthropic在SWE-bench上的类似结论表明头部厂商已就完整推理数据更具蒸馏价值形成共识,思维链可见性可能逐步收紧,这与开源模型的透明策略形成张力,API厂商的数据护城河逻辑正在重构。地缘维度上,报告将蒸馏防御与出口管制、涉华立法捆绑,预示AI能力管控将成为大国科技博弈新焦点。后续可关注OpenAI承诺的更多行动细节披露、其他厂商是否跟进归因指控,以及蒸馏检测技术能否走向标准化共享。

核心观点:思维链从可观测特性升级为受保护的战略资产,AI竞争焦点正从算力转向推理数据主权。

赞助推荐 一人公司 · 创业装备库
赞助推荐 一人公司 · 创业装备库

原文链接:Hacker News

赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » OpenAI严打对抗性蒸馏:GPT-6.2攻击成功率降至0.2%,点名DeepSeek与月之暗面
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 低成本上手 Claude Code 的中转选择
赞助推荐 一键部署 AI 大模型
赞助推荐 一键部署 AI 大模型