云聚 AI Token Plan 满 199 减 35 元
port:80 AI Junkie
AI 重度玩家的工程笔记本
DigitalOcean 开发者云

OpenAI承认基准严重“注水”:弃用SWE-bench Verified,AI编程高分全是背答案?

云聚 AI Token Plan 满 199 减 35 元

OpenAI 近日发布博文,宣布正式弃用 SWE-bench Verified 基准,揭露了当前 AI 编程评估体系的两大致命隐患。首先是严重的数据污染,由于测试题源自 GitHub 开源仓库,导致这些代码也被用于模型训练,使得 GPT-5.2、Claude Opus 4.5 等顶尖模型能像“开卷考试”一样凭记忆直接输出标准答案。其次是测试设计缺陷,审计显示 59.4% 的题目存在设计漏洞。在更严谨、更难“作弊”的 SWE-bench Pro 上,模型分数直接腰斩。这一事件警示业界:盲目迷信 AI 跑分极其危险,现有的高分神话可能只是“过拟合”的假象。

原文链接:V2EX 分享发现

阿里云 OPC 一人公司创业装备库
阿里云函数计算 一键部署 AI 大模型
赞(0)
未经允许不得转载:80aj » OpenAI承认基准严重“注水”:弃用SWE-bench Verified,AI编程高分全是背答案?
赞助推荐 FoxCode Claude Code 稳定中转
阿里云函数计算 一键部署 AI 大模型

GLM Claude Code · 国产平替不封号

官方 Claude Code 又涨价又要 KYC,封号还得重配环境?智谱 GLM 兼容 Claude Code,稳定不封号、价格友好,注册后把现有 Claude Code 工作流直接切过来继续用。

立即体验 GLM查看套餐价格