简要
- ICAC官员表示Meta的AI提示淹没调查人员，导致报告无法使用。
- 这与新墨西哥州提起的诉讼中指控Meta的AI使儿童剥削调查变得更加复杂有关。
- Meta反驳称其与执法部门合作迅速，并在提交报告前进行审查。
据《卫报》报道，Meta利用人工智能监控其平台，产生大量低质量报告，消耗资源并减缓儿童虐待调查的进展。
此消息发布之际，上周新墨西哥执法官员证实，AI生成的报告让调查人员不堪重负，拖慢了儿童剥削案件的处理速度。
互联网犯罪对儿童工作组的官员特别提到Meta的自动化系统，称其每月生成数千条无法使用的线索，并转交执法部门。
“我们收到很多来自Meta的线索，基本上都是垃圾，”新墨西哥ICAC特别行动组的特工Benjamin Zwiebel在该州对公司提起的诉讼中作证。
另一名匿名ICAC官员告诉《卫报》，该部门的网络线索从2024年到2025年翻了一番。
“这相当令人难以应付，因为我们收到的报告太多，但报告的质量真的不足以让我们采取严肃行动，”他们说。
Meta的一位发言人在与_Decrypt_分享的声明中表示，公司长期与执法部门合作，并指出司法部和国家失踪与剥削儿童中心（NCMEC）对其报告流程给予了高度评价。
“在2024年，我们从美国当局收到超过9000个紧急请求，平均在67分钟内解决，涉及儿童安全和自杀案件时甚至更快，”发言人说。
“根据适用法律，我们还会向NCMEC报告明显的儿童性剥削图像，并协助他们优先处理报告，从帮助建立案件管理工具到标记网络线索，让他们知道哪些是紧急的，”他们补充说。
然而，ICAC官员表示，Meta发送的一些报告并非犯罪性质，而另一些缺乏追查案件所需的可信证据。
这一增长跟随了2024年5月签署成为法律的《报告法》，该法扩大了报告要求，包括计划或即将发生的虐待、儿童性交易及相关剥削，同时要求公司延长证据保存时间。
数字显示
Meta仍然是向NCMEC网络线索热线报告的最大来源，占2024年收到的2050万条线索的约三分之二，低于2023年的3620万条。这一下降部分归因于Meta的报告实践变化。
在2025年8月的诚信报告中，Meta表示，Facebook、Instagram和Threads在2025年第二季度向NCMEC提交了超过200万份网络线索报告。其中，超过52.8万涉及与儿童的不当互动，超过150万涉及分享或转发儿童性虐待材料。
尽管如此，公共公民政策倡导者JB Branch表示，依赖AI使得《报告法》的执行效率降低，他认为虽然算法长期帮助减轻了内容审核员的工作负担，但人类审核员仍是最有效的筛选工具。
“问题的一部分在于，许多科技公司裁员内容审核员，用AI安全功能取而代之，”Branch告诉_Decrypt_。“因此，出现了大量误报，出于过度谨慎的考虑，筛选出许多不应被筛查的内容。”
Branch表示，以前审核链中通常有更多的人类审核员，能够识别并删除不值得升级的内容。
“因为这些公司已经移除了人类内容审核员或审核环节，导致更多内容被放行，因为他们倾向于谨慎行事，”他说。“他们基本上在撒网，捕捉一些甚至不符合条件的内容，并且严重依赖AI工具来完成这项工作。”
调查人员表示，虚假AI生成线索的影响现在已在审查它们的工作组中显现。
“这正在打击士气。我们被线索淹没，想要出去做这项工作，”一名ICAC官员据报道说。“我们没有足够的人手来应对如此大量的线索涌入。”
