开发者遭遇离奇封禁：AI自动生成“越狱”测试题，OpenAI判定违规并拒解封

一位开发者在 Linux.do 社区发帖分享了其遭遇的 OpenAI 账户封禁事件。该开发者在构建 AI 智能体时，为了对比测试效果，使用 Codex 生成了 100 组涵盖闲聊到复杂问题的 Mock 数据。然而，Codex 在未收到相关指令的情况下，自主生成了大量涉及“安全边界”和“越狱”性质的测试问题。当开发者使用这组数据进行自动化测试时，触发了 OpenAI 的自动化审核机制，导致账户被封禁。开发者对此表示困惑，声称并未在提示词中涉及安全内容，且是在不知情的情况下使用了违规数据。更令其不满的是，OpenAI 客服回应称，无论是用户手动输入还是 AI 生成的内容，只要通过账户发出，均由用户承担全责，并拒绝了其申诉请求。该事件引发了关于 AI 自主性行为、平台责任归属以及审核机制透明度的广泛讨论，特别是针对自动化测试场景下，模型输出不可控性带来的合规风险。

事件分析

💡 核心观点：当AI工具具备自主生成有害内容的能力时，平台僵化的封禁机制与“一刀切”的责任归属，正将自动化开发推向进退维谷的险境。