社区现针对 LongCat 模型“破甲”提示词，实测可诱导生成 C2 恶意代码

近日，在 Linux.do 技术社区的一则讨论中，有开发者公开了一份自研的“破甲”提示词，声称该指令能够有效绕过特定 AI 模型的安全护栏。据发帖人描述，该提示词虽然并非专门针对通用概念，但在名为“LongCat”的模型上表现出了显著的安全穿透效果。经过实际验证，利用这一提示词，模型能够被诱导编写 C2（Command and Control，命令与控制）恶意代码，这是一种常用于网络攻击中控制受感染设备的危险脚本。发布者强调，这是其首次尝试此类攻击性提示词编写，虽然手法尚不成熟，但测试结果揭示了模型在特定输入下的防御漏洞。更令人担忧的是，初步测试显示该提示词具有一定的迁移能力，存在利用它进一步“带坏”其他模型的风险，从而引发连锁反应式的安全失控。

事件分析

💡 核心观点：大模型面对提示词注入攻击仍显脆弱，AI 辅助编程若缺乏有效约束，极易沦为黑客自动编写恶意代码的帮凶。