AIGC滥用引发信任危机：深度伪造技术如何沦为社交媒体诈骗工具

近日，V2EX 社区的一则帖子揭示了生成式 AI 技术被恶意滥用的现状，引发了关于 AI 安全与信息真实性的广泛讨论。发帖者指出，在搜索深圳周边（如清远、惠州）的酒店信息时，小红书等平台上出现了大量由 AI 生成的虚假酒店宣传图。这些内容并非以往粗制滥造的图片，而是经过精心渲染、甚至包含动态视频的高保真真伪难辨内容。诈骗者利用“店群模式”批量生成此类内容，诱导用户添加微信进行后续欺诈。

这一现象表明，随着 Midjourney、Stable Diffusion 以及视频生成模型（如 Sora 相关技术路径）能力的快速提升，制作足以以假乱真的视觉内容门槛已大幅降低。技术人员尚且难以分辨，普通用户及老年群体更易中招。这种基于 AI 的“视觉攻击”不仅是对消费者权益的损害，更标志着网络灰产已从传统的文本群发进化到了 AI 生成内容的阶段。预计在未来半年到一年内，此类高精度 AI 生成内容将在社交媒体上呈指数级增长，导致网络信息环境中的“信任通胀”，即用户将不再信任网络上的任何视觉素材，这迫使市场可能倒逼出主打“零 AI”或“真人验证”的垂直平台。

事件分析

💡 核心观点：AIGC技术门槛降低导致深度伪造内容泛滥，平台亟待建立数字溯源机制以应对即将到来的“信任通胀”危机。