Facebook将在2020年美国大选之前删除某些Deepfake视频

 
在2020年美国大选之前以及众议院能源和商务部就操纵媒体举行的听证会之前，Facebook宣布将加强对误导性视频的政策，这些视频被识别为伪造的东西-将现有图像，音频或视频带入他人的视频，并将其替换与别人的相似。虽然该禁令不会扩展到仅为了改变字词顺序而进行的模仿，讽刺或视频编辑，但会影响为使观众蒙蔽而发布的大量编辑和合成内容。
Facebook全球政策管理副总裁莫妮卡·比克特(Monika Bickert)在确认《华盛顿邮报》早些时候报道的博客文章中说，展望未来，Facebook将以“对普通消费者而言并不明显”的方式，删除经过“除清晰度或质量调整之外”修改过的媒体。她说，由机器学习算法合并，替换或叠加人而产生的内容也将被删除。
未删除的Deepfake视频可能会受到Facebook独立第三方事实检查人员的审查，该人员现已在全球50多个合作伙伴中使用40多种语言。就像其他媒体被事实检查员认为是虚假或部分虚假的媒体一样，被标记的伪造品将大大减少其在网络新闻源中的分布。此外，那些作为广告投放的广告将被拒绝，看到，尝试分享或已经分享过Deepfake的用户将收到有关其虚假信息的警报。
“如果符合我们现有的政策，音频，照片或视频(无论是否是深造的)，如果它们违反我们的任何其他社区标准，包括管理裸露，图像暴力，压制选民和仇恨言论的标准，都将从Facebook中删除， ”比克特说。 “这种方法对我们的策略至关重要，我们在与专家的对话中特别听到了这种方法。如果我们仅删除事实检查人员标记为虚假的所有操纵视频，这些视频仍将在Internet或社交媒体生态系统的其他位置提供。通过将其保留并标记为假，我们为人们提供了重要的信息和上下文。”
假冒产品正在迅速繁殖。总部位于阿姆斯特丹的网络安全创业公司Deeptrace在6月和7月的最新统计中发现了14698个互联网上的Deepfake视频，高于去年12月的7964个，而在七个月内增长了84%。令人不安的不仅是因为深造假冒可能会影响公众舆论或使某人卷入他们未犯的罪行，而且还因为该技术已经产生了色情材料，并使公司损失了数亿美元。
为了防止假冒伪劣传播，Facebook –以及Amazon Web Services(AWS);微软;人工智能伙伴关系;来自康奈尔技术学院，麻省理工学院，牛津大学，加州大学伯克利分校，马里兰大学，学院公园和纽约州立大学奥尔巴尼分校的学者正在率先开展“深度欺诈检测挑战赛”，该挑战赛于9月宣布。它于上个月在温哥华举行的NeurIPS 2019大会上在全球范围内启动，旨在促进研究以确保开发开源检测工具。
Facebook已经投入了超过1000万美元来鼓励参加比赛。就其本身而言，AWS将提供高达100万美元的服务信用，并提供托管人选择的模型(如果他们愿意的话)，而Google的Kaggle数据科学和机器学习平台既托管挑战，又提供排行榜。