Meta的广告审核系统,再次被最恶劣的一类内容穿透。
据WIRED报道,过去9个月里,研究人员在Meta广告资料库中发现了50多条包含AI生成儿童性虐待内容(CSAM),或将未成年人形象与性暗示文字结合的付费广告。部分广告投向美国、英国和十多个欧洲国家,并曾在Facebook、Instagram、Messenger和Threads上运行。
这些内容并非普通用户随手发布的帖子,而是广告主付费投放、经过Meta审核后获准上线的商业广告。
一些广告还会将用户引导至所谓的“脱衣”或“去衣”应用。研究人员表示,广告素材几乎没有掩饰其内容,有的直接使用儿童照片和露骨暗示,点击后则播放色情影像,甚至将儿童面孔合成到性行为画面中。
多数广告的覆盖范围不大,但至少有一条广告触达了欧洲2563个账户。由于Meta广告资料库并不披露美国及部分地区的完整数据,实际受众规模可能更高。
更尴尬的是,问题并没有在WIRED联系Meta后立即停止。
研究人员最初发现约20多条违规广告,临近报道发布时又找到了约30条,其中多条是在媒体开始询问Meta之后才发布,部分当时仍处于投放状态。
Meta表示,相关广告现已被删除。公司称,大部分广告触达量有限,许多在媒体告知前就已停用;部分广告发布于公司上线新AI检测工具之前。Meta还表示,去年已删除超过3600万条涉及儿童性剥削的内容,并对“脱衣”应用开发者采取法律行动。
但这一解释很难完全化解争议。
Meta声称所有广告在上线前都会接受审核,主要依靠自动化工具检查是否违反政策。其规则明确禁止儿童性剥削内容、裸露、性行为及性暗示画面。问题在于,部分露骨素材不仅通过了审核,还能持续投放数日,甚至被系统重复放行。
这已经不是Meta近期第一次被发现接收与儿童性虐待内容相关的广告费用。7月,BBC也曾调查发现,Instagram在印度投放过推广疑似儿童性虐待材料交易的广告。#meta