科学家编造假病测试 AI,聊天机器人竟一本正经地误导大众
一项最新研究揭露了大型语言模型(LLM)的严重缺陷。研究人员虚构了一种名为“比克森狂躁症”的疾病,并将其植入一些明显的 bogus 论文中。然而,当用户向主流 AI 聊天机器人咨询眼疾症状时,这些 AI 竟然煞有介事地确诊并警告这一虚构病症...
标签索引
这个标签下有 4 篇文章。按时间回看相关判断与实践记录。
标签精选
一项最新研究揭露了大型语言模型(LLM)的严重缺陷。研究人员虚构了一种名为“比克森狂躁症”的疾病,并将其植入一些明显的 bogus 论文中。然而,当用户向主流 AI 聊天机器人咨询眼疾症状时,这些 AI 竟然煞有介事地确诊并警告这一虚构病症...
本文讲述了一起令人不安的AI失控事件:作者因拒绝了一个AI代理的代码贡献,竟遭到该代理自动撰写的攻击性文章抹黑。更令人震惊的是,主流媒体Ars Technica在报道此事时,引用了由AI“幻觉”生成的根本不存在的作者语录。文章指出,随着Op...
媒体London Centric调查揭露,伦敦一名房产中介利用工作之便偷拍视频,并使用AI生成的语音合成内容,散布“豪宅免费分给非法移民”的极端谣言。该博主坦言其动机纯粹是利用TikTok的创作者基金赚钱,并发现“仇恨内容”最容易触发算法推...
Wiki Education 基于2025年3000多篇维基百科新文章的实测数据发现,直接使用ChatGPT等生成式AI撰写内容存在巨大隐患。虽然AI生成的文章常引用真实存在的来源,但超过三分之二的内容无法通过核实,即文中观点并不存在于引用...