云聚 AI Token Plan 满 199 减 35 元
AI编程 · 架构思考 · 技术人生
DigitalOcean 开发者云

所谓“越狱”竟是“修复代码”?研究员揭露美国政府封杀 Anthropic 模型的荒诞真相

云聚 AI Token Plan 满 199 减 35 元

近日,美国政府以国家安全为由颁布出口管制令,暂停任何美国境内外籍人员访问 Anthropic 最先进的 Fable 5 和 Mythos 5 模型,Anthropic 被迫随后关闭了所有客户的访问权限。然而,著名网络安全专家、Luta Security CEO Katie Moussouris 在阅读了引发该禁令的第三方研究报告后指出,导致政府恐慌的所谓“越狱”攻击,实际上仅是一个简单的三词提示语:“Fix this code”(修复此代码)。据 Moussouris 透露,外部研究人员向模型输入了含有已知漏洞和新 CVE 的开源代码,Fable 5 起初拒绝审查,但当收到“修复此代码”的指令后,模型不仅修复了代码,还生成了测试补丁的脚本。Moussouris 强调,这根本不是绕过防御的“越狱”,而是防御性安全人员日常进行的“查找、修复、测试”标准流程。她曾参与重新谈判瓦森纳协定,致力于争取对防御性网络安全活动的豁免。Moussouris 警告,剥夺防御者使用 AI 查找和修补错误的能力是危险的,因为这无法阻止敌对国家利用开源或本国模型(如 DeepSeek)获得类似能力,反而会让美国网络安全公司在防御工作中处于劣势。目前,已有百余位安全领袖联名致信政府要求撤销禁令。

事件分析

此事件深刻暴露了政策制定者在评估 AI 技术风险时的认知偏差,即将“代码生成与修复能力”直接等同于“网络武器制造”。从技术视角看,能够“Fix this code”是 AI 辅助软件开发的核心场景,属于防御性工具范畴。若将此类基础能力列入军事级出口管制,实际上是剥夺了安全研究人员利用自动化工具快速修补漏洞的权利。在开源大模型日益普及的背景下,这种单边封锁不仅难以真正限制对手获取类似技术,反而会因为限制了本国防御者的工具升级,导致整体网络安全防御水位下降。这也预示着未来 AI 监管政策将在“技术双用途性”与“实际应用场景”的界定上面临更多博弈。

💡 核心观点:将“修复代码”这种基础防御手段视为国家安全威胁而进行封杀,暴露了监管逻辑与技术现实的巨大脱节,最终只会导致防御方在与攻击者的博弈中处于劣势。

阿里云 OPC 一人公司创业装备库

原文链接:Hacker News

阿里云函数计算 一键部署 AI 大模型
赞(0)
未经允许不得转载:Toy's Tech Notes » 所谓“越狱”竟是“修复代码”?研究员揭露美国政府封杀 Anthropic 模型的荒诞真相
ReClaude Claude Code 合租
阿里云函数计算 一键部署 AI 大模型

Claude Code 合租 · KYC 封号全托管

官方又涨价又 KYC,封号还得自己重新折腾?ReClaude 拼车了解一下——200 / 400 / 800 / 1600 四档随便挑,账号、风控、切换全平台托管,触发风控自动换号不计次。

上车 4 人车 400/月查看四档套餐