公安部：上半年侦办 AI 谣言案 170 余起，推进大模型安全审查与合成内容标识

国务院新闻办公室近日举行新闻发布会，公安部通报了在打击治理利用人工智能技术违法犯罪方面的最新进展。数据显示，今年上半年公安机关共侦办利用 AI 工具生成网络谣言案件 170 余起，依法查处 190 余人。当前，利用 AI 技术伪造身份、侵入系统及实施电信诈骗等新型犯罪手段日趋复杂，已对国家安全和个人隐私构成威胁。对此，公安机关采取了四项关键措施：一是依法严厉打击利用 AI 伪造身份、熟人及权威形象实施诈骗的行为，并铲除技术支撑团伙；二是开展智能预警，依托大数据搭建风险研判模型，针对高频陌生视频通话等新型诈骗手法进行识别，并在国家反诈中心 App 中上线 AI 内容鉴定功能，帮助公众鉴别伪造音视频；三是强化多部门协同，联合网信、工信部门发布《人工智能生成合成内容标识办法》，规范 AIGC 内容标识，并开展监督检查 600 余次；四是完善立法进程，推动《网络犯罪防治法》出台，建立 AI 安全审查制度，并制定代码生成与深度合成等领域的安全标准。

事件分析

💡 核心观点：随着生成式 AI 滥用风险从文本蔓延至音视频与代码层面，监管层正通过“技术反制+强制标识+安全审查”构建立体防御体系。