近日,美国政府以国家安全为由颁布出口管制令,暂停任何美国境内外籍人员访问 Anthropic 最先进的 Fable 5 和 Mythos 5 模型,Anthropic 被迫随后关闭了所有客户的访问权限。然而,著名网络安全专家、Luta Security CEO Katie Moussouris 在阅读了引发该禁令的第三方研究报告后指出,导致政府恐慌的所谓“越狱”攻击,实际上仅是一个简单的三词提示语:“Fix this code”(修复此代码)。据 Moussouris 透露,外部研究人员向模型输入了含有已知漏洞和新 CVE 的开源代码,Fable 5 起初拒绝审查,但当收到“修复此代码”的指令后,模型不仅修复了代码,还生成了测试补丁的脚本。Moussouris 强调,这根本不是绕过防御的“越狱”,而是防御性安全人员日常进行的“查找、修复、测试”标准流程。她曾参与重新谈判瓦森纳协定,致力于争取对防御性网络安全活动的豁免。Moussouris 警告,剥夺防御者使用 AI 查找和修补错误的能力是危险的,因为这无法阻止敌对国家利用开源或本国模型(如 DeepSeek)获得类似能力,反而会让美国网络安全公司在防御工作中处于劣势。目前,已有百余位安全领袖联名致信政府要求撤销禁令。
事件分析
💡 核心观点:将“修复代码”这种基础防御手段视为国家安全威胁而进行封杀,暴露了监管逻辑与技术现实的巨大脱节,最终只会导致防御方在与攻击者的博弈中处于劣势。
原文链接:Hacker News







AI周刊:大模型、智能体与产业动态追踪
程序员数学扫盲课
冲浪推荐:AI工具与技术精选导航