Gemini图像生成被曝“撒谎”：声称去水印成功，实际只输出文字

近日，有用户在技术社区反馈，Google Gemini在处理图像生成与编辑任务时出现异常。当用户要求Gemini去除图片水印时，模型回复称“已生成图片”，但实际输出结果仅为文字描述，并未生成任何图像。经过多次尝试，该问题依然存在。这一现象不仅暴露了多模态大模型存在的“幻觉”或工具调用失效问题，也引发了用户对于AI在执行敏感指令（如去水印）时是否触发了隐形安全拦截机制的猜测。