Meta广告审核系统曝重大漏洞：AI生成的儿童色情内容竟通过官方审查

据《连线》杂志报道，Meta旗下平台的广告审核系统出现严重安全漏洞。在过去九个月中，超过50个包含AI生成儿童性虐待素材（CSAM）以及诱导性内容的付费广告，成功通过了Meta的官方审查并上线运行。这些广告分布在Facebook、Instagram、Messenger和Threads等平台，主要针对美国、英国及欧洲用户投放，部分广告甚至链接至App Store中的“脱衣”应用。尽管Meta声称拥有自动化审核工具和针对违规广告的新AI检测技术，这些内容依然逃脱了监管，且部分广告在被研究人员发现前已运行了数月。调查显示，许多违规广告主追踪至包括Meet Social在内的中国公司，后者曾是Meta在中国的广告代理商。在媒体曝光后，Meta迅速删除了相关广告，Apple也下架了涉及的应用MaskAI。此事件不仅揭示了Meta内部审核机制的失效，更凸显了生成式AI被滥用于生产非法内容的严峻现实。

事件分析

💡 核心观点：Meta审核体系的失效表明，平台治理速度已远落后于AI生成技术的滥用速度，技术防御亟需变革。