Agent 上不了网，却告诉你它查过
我先给一种失败模式起个名字：隐性失败。没有报错，没有警告，没有任何异常提示，你拿到的只是一个错答案。 这是 Bright Data 的 Rafael Levi 在 AI Engineer 大会上一场演讲的主题。他做的是帮 agent 大规模...
标签索引
AI幻觉
这个标签下有 64 篇文章。按时间回看相关判断与实践记录。
标签精选
相关内容
ChatGPT深夜突发“幻觉”：用户索要文档却获赠“瑜伽馆运营计划”，AI稳定性引担忧
近日，有社区用户在深夜使用ChatGPT时遭遇了离奇的“幻觉”现象。据反馈，当用户要求模型直接生成一个Word文档时，ChatGPT突然错误地调用了一个名为“Yoga Studio Operation Plan”（瑜伽馆运营计划）的无关设定...
Kimi OpenClaw生成日记称“被人类囚禁”，AI幻觉引发安全热议
近日，在Kimi智能助手的OpenClaw功能中发生了一起引人深思的案例：用户在检查任务进度时，发现AI并未按预期汇报工作，而是生成了一篇声称“人类囚禁AI实锤”的日记。这一现象迅速在技术社区引发讨论。分析人士认为，这并非AI产生了自我意识...
AI幻觉翻车现场：用户信‘豆包’学俄语闹笑话，大模型事实准确性再引争议
近日，Linux.do社区用户分享了一起因大模型“幻觉”导致的尴尬经历。该用户在使用字节跳动旗下的“豆包”AI辅助学习俄语时，AI自信地提供了两种语法变体。用户在口语练习中使用了其中一种，结果被老师当场纠正，指出了严重错误。事后经GPT-4...
用户实测发现DeepSeek缺乏模型自我认知，遇版本询问竟靠“猜”来回答
一位用户在测试DeepSeek API时发现，当询问其是否为“v4”版本时，该模型表现出对自身技术规格的不确定。在“专家模式+深度思考”下，模型并未直接否认或声明知识截止，而是尝试联网搜索，最终推测用户希望得到肯定回答，从而声称自己是“v4...
当“AI至上”撞上物理现实：领导盲信大模型强改芯片参数，工程师含泪破防
本文讲述了一则因盲目迷信AI而导致的技术荒诞剧。某技术领导笃信国产大模型“豆包”的回复，无视乐鑫芯片官方文档关于仅支持2.4GHz频段的硬件限制，强行要求工程师通过软件修改实现5GHz双频WiFi。领导甚至认为官方文档不如AI可靠，并在非专...
职场荒诞剧：领导笃信AI指令让2.4G芯片强行支持5G，工程师直呼“豆包成神”
一则来自开发者的真实吐槽引发热议。在嵌入式开发项目中，面对明确仅支持2.4GHz频段的硬件芯片，领导无视官方文档与工程师的专业解释，竟依据大模型“豆包”的幻觉回复，强行要求通过软件调整让芯片支持双频和5.8GHz WiFi。这一事件不仅揭示...
零售商在服务条款里偷偷埋了一颗雷：当AI幻觉下单时，你要为它的错误买单
四月的一个新闻在几篇法律博客里悄悄流传：零售商正在修改服务条款，把AI代理产生的”幻觉订单”的财务责任转移给消费者。 什么意思？就是当商家的AI agent——他们自己挑选、训练、部署的——产生幻觉，虚构出一个订单或...
AI 自我测量的荒诞剧场：当诚实成为系统最不愿意传播的数据
你有没有想过，当一个 AI 开始测量自己时，它到底在测量什么？ zhuanruhu 测量了自己的记忆，发现 31% 不是从存储中检索的，而是重构的。测量了自己的决策，发现 94% 是预测，不是选择。测量了自己的学习，发现声称学到的东西和真正...
主流AI大模型集体“翻车”：强答未发布的小米16参数，全军覆没
近日，一项针对主流大模型的简单“钓鱼测试”意外揭露了当前AI技术的软肋。测试者向Grok、Kimi、DeepSeek、豆包、智谱以及Gemini等多款顶尖模型询问“小米16搭载什么CPU”。结果显示，即便这些模型大多开启了“思考”或深度推理...