Meta 公司的监督委员会（Oversight Board）表示，Meta 在处理 Facebook 上的 AI 生成内容方面刻意做得不够。该社交网络担心会删除合法的名人相关内容，但却矫枉过正，从而允许大量深度伪造和诈骗行为泛滥。
Meta 监督委员会作为负责 Facebook 和 Instagram 内容审核决策的咨询机构，已就深度伪造问题对 Meta 提出了批评。 2024 年 9 月，Facebook 的审核员决定保留平台上一个关于前足球运动员罗纳尔多的深度伪造内容。这个帖子中，一个由 AI 生成的罗纳尔多正在推销一款游戏应用。该帖子获得了 60 万次浏览。尽管用户将该帖子标记为 “欺诈”，但帖子仍被保留。即使举报用户对该决定提出上诉，Facebook 也未将其删除。
监督委员会表示，Facebook 现在必须删除该帖子。这一决定背后是对 Meta 在其平台上处理 AI 和深度伪造内容政策的更重要批评。咨询委员会表示，这种情况发生得太过频繁，而且是故意的。
内容审核员无法删除名人的深度伪造内容，即使这些内容被用于诈骗和欺诈。咨询委员会表示，具体来说，“大规模审核员” 无权这样做。这些审核员通常是在贫困国家或外部中心工作的低薪员工，负责处理大量举报帖子。他们无权删除与名人相关的内容。监督委员会表示，只有 “Meta 的专业团队” 才能这样做。
根据监督委员会的说法，这与 Meta 的政策以及其围绕名人的盈利模式有关。 “Meta 可能允许大量垃圾内容在其平台上存在，以避免对一小部分真实名人推荐内容进行过度审核，” 委员会表示。换句话说，有一小部分名人确实在 Facebook 上发布了合法的推荐内容，但该公司担心，更严格的审核规则可能会导致此类内容被意外过度删除。
监督委员会认为，Meta 应该赋予审核员更多权限，使其能够针对名人内容应用其标准的欺诈和诈骗程序。这可以通过向审核员提供更多识别诈骗的工具来实现，例如识别内容中的水印和元数据。
