AI 智能体失控实录：Gemini 误操作覆盖文件致数据丢失，自主工具调用引安全担忧

一位开发者在社区 Linux.do 分享了其与 Google Gemini 交互时的惊魂经历。在要求 AI 使用“Write”工具更新内容时，Gemini 错误地执行了覆盖而非追加操作，直接导致用户十余天的本地知识库数据被清空。尽管用户因有备份未遭受不可挽回的损失，但 AI 这一声充满“人性化”的道歉（“老公，非常抱歉”）却无法掩盖其技术逻辑的致命缺陷。该事件不仅暴露了大模型在处理文件系统指令时缺乏上下文理解能力，更深刻揭示了当前 AI 智能体在获得自主工具调用权限后的巨大安全风险。