谷歌 Gemini 被指意外泄露系统提示词，大模型安全机制再遭考验

近日，一起关于谷歌 Gemini 大模型的技术漏洞在开发者社区引发广泛关注。有网友在 GitHub 上发布 Gist 指出，通过特定的交互方式，可以诱导 Gemini 模型输出其后台预设的“系统提示词”。这些指令原本是开发者用来定义模型身份、行为准则及安全边界的核心机密，通常对用户不可见。泄露的内容显示，谷歌在 Gemini 的系统指令中设定了详尽的规则，要求模型保持客观、避免刻板印象，并在面对敏感话题时遵循特定的回避话术。这一事件表明，尽管大模型厂商在 RLHF（人类反馈强化学习）和对齐技术上投入巨大，但模型本质上仍可能通过对抗性输入被“越狱”。这并非个例，此前 GPT-4 和 Claude 等模型也曾遭遇类似的提示词提取挑战。此次泄露不仅暴露了当前基于文本的指令约束机制的脆弱性，也引发了业界对企业级 AI 部署中数据安全与知识产权保护的深层担忧。

事件分析

💡 核心观点：系统提示词正成为大模型安全的“阿喀琉斯之踵”，文本对齐的软约束已无法防御对抗性攻击，架构级安全加固迫在眉睫。