科技作者David Ralph Lewis撰文指出,AI生成的诈骗内容正在全面污染互联网。他观察到,YouTube广告中充斥着大量违背常识的产品宣传:宣称20天练出超级英雄身材的太极拳课程、能适应任意度数的眼镜、号称提供无限免费流量的USB设备、可在90秒内冷却任意房间的书本大小空调,以及大量可能根本不存在的手机游戏。这些垃圾广告已从YouTube蔓延至其他网站。作者批评平台几乎不对广告内容做任何实质性审核,只要付费即可投放,垃圾内容已逃逸出传统垃圾邮件过滤器的拦截范围。文章同时拆解了骗局的经济逻辑:诈骗者只需极低的转化率即可收回成本,因此即使绝大多数人识破骗局,诈骗依然有利可图。作者还分享了一封亲身收到的AI推销邮件:对方推销其诗集《混沌中的声音》,邮件措辞优美、看似认真读过全书,实则只是将作者网站上公开的书籍简介用ChatGPT改写润色而成,伪装成深度书评式推荐信。作者认为,AI已将高质量垃圾内容的生产成本压缩至趋近于零,而社会似乎集体默认接受了AI普及的代价,即真相本身的崩塌,旧的防诈骗机制在这种新产能面前已经失效。
事件分析
从技术视角看,文中案例揭示了生成式AI对垃圾内容产业的改造:传统垃圾邮件依赖模板批量群发,易被基于特征的过滤器识别;而大模型可自动抓取目标网页信息后生成定制化文案,使垃圾内容具备个性化外观,显著提高检测难度。广告侧同样如此,AI将视频与图文广告的制作成本压至近乎为零,平台人工审核节奏已无法匹配生成产能。产业影响层面,广告生态的信任基础被持续侵蚀,可能倒逼平台加码AI审核、内容溯源水印与广告主资质核验机制。后续走向或包括:针对AI生成内容的监管细则出台、邮件系统引入语义层反垃圾检测,以及广告平台因诈骗投诉上升面临更重的合规压力。
核心观点:AI没有发明新骗局,只是把造假成本降到零;当谎言产能无限时,最先崩溃的是平台审核与整个互联网的信任机制。
原文链接:Hacker News