Facebook禁止欺骗性的虚假信息和一些误导性修改媒体

 
Facebook毕竟想成为真理的仲裁者。至少在故意误导深造假货和大量操纵和/或合成的媒体内容方面，例如AI生成的逼真的人脸，看起来像真实的人，但不是。
在昨天晚些时候宣布的一项政策更新中，该社交网络的全球政策管理副总裁Monika Bickert写道，它将对从此处开始的可操纵媒体内容采取更严格的规定-删除“以“不合法的方式”编辑或合成的内容对于普通人来说很明显，并且可能会误导某人以为视频的某个主题说出了他们实际上并未说出的话”。
但是，禁止简单地限制或更改字词顺序的高质量视频剪辑或剪裁和拼接不属于禁令范围。
这意味着轻率的篡改-例如最近英国大选的例子(一个政党的竞选人员编辑了一个竞争对手的政治人物的录像带，该录像带被问到有关英国退欧的问题以使其看起来像是在迷路(实际上他并非如此)的话-新的“强硬”政策将完全不动摇。因此，这里几乎没有麻烦精通互联网的政治“真相”微调器。无意义的数字竞选可以继续进行。
Facebook不再纠缠于那种微妙的政治伪造，而将精力集中在快速赢得公关上-围绕最明显的不真实的东西，如果它提起虚假内容，就不会冒着党派偏见的风险。
因此，新政策禁止涉及使用AI技术“将内容合并，替换或叠加到视频上，使其看起来是真实的”的Deepfake内容-似乎它将捕获最原始的内容，例如报复Deepfake色情将真实人物的脸叠加到成人表演者的身体上(尽管裸露已在Facebook平台上被禁止)。
不过，这也不是全面禁止假冒产品的禁令-出于“模仿或讽刺”的目的而进行了一些大努力。
因此，去年夏天广为流传的马克·扎克伯格的深造视频(似乎表明Facebook创始人像个狂人一样说话)是否会在新政策下保持下去，这是一个开放的问题。该视频的创作者是一对艺术家，他们将该作品描述为讽刺作品，因此这类内容应能在禁令中幸存下来。 (Facebook当时确实也保留了它。)
但是，在将来，deepfake的创作者可能会进一步推陈出新，以期在新政策下可以摆脱困境。
该社交网络的有争议的政策允许政客在广告中撒谎，这也意味着从技术上讲，它仍然可以使纯正的政治假冒产品获得通行证-即，如果某个政治广告商向其支付以纯伪造的内容作为广告来投放广告。尝试这样做将是一个相当大胆的政治家。
政治运动和舆论影响者更有可能继续努力进行更细微的操作。例如众议院议长南希·佩洛西(Nancy Pelosi)的篡改视频在去年在Facebook上风靡一时，它放慢了音频，使她的声音变得醉酒或不适。 《华盛顿邮报》暗示，该视频虽然显然具有潜在的误导性，但仍不符合Facebook新的“更严格”操纵媒体政策的规定。
Bickert的博客文章规定，不符合Facebook的新删除标准的操纵内容可能仍会由独立的第三方事实检查人员进行审查，Facebook依靠该平台在“真相筛查”中占最大份额，并且仍可以对其进行评分诸如“假”或“部分假”的内容。但她强调，它将继续允许这种类型的虚假内容进行传播(同时可能会减少其分布)，声称这种带有标签的假货提供了有用的内容。
因此，Facebook在可操纵媒体上的最新立场总和为“不接受恶意深造，但请自旋医生继续”。
“如果照片或视频被事实检查者评为虚假或部分虚假，我们将大大减少其在新闻Feed中的分发，并在将其作为广告投放时予以拒绝。更重要的是，看到，尝试共享或已经共享的人，会看到警告警告他们这是错误的，” Bickert写道：“这种方法对我们的策略至关重要，我们从谈话中特别听到与专家。
“如果我们仅删除事实检查人员标记为虚假的所有操纵视频，这些视频仍将在互联网或社交媒体生态系统中的其他位置提供。通过将其保留并标记为假，我们为人们提供了重要的信息和上下文。”
上个月，Facebook宣布已发掘出900个以上的虚假帐户网络，这些帐户一直在传播亲特朗普的消息，其中一些使用了AI生成的虚假个人资料照片。
反乌托邦的发展为科技巨头提供了另一种动机来禁止“纯”的AI假货，因为该技术有可能加剧其假账问题。 (而且，这可能对业务不利。)
Bickert认为：“我们的团队继续积极地追捕虚假帐户和其他不协调的行为，”他说：“我们针对误导性操纵媒体的执法策略也得益于我们铲除这些努力背后的人员的努力。”
深度假货虽然还只是作为一种技术而刚刚起步，但已显示出自己对吸引他们所创造的奇观的媒体的吸引力。结果，该技术作为虚假信息的风险而异常迅速地落入了立法者的雷达中，例如，加利福尼亚州于今年秋天实施了禁止在选举前后发布政治深造假的禁令，因此，Facebook可能希望通过在选举中获得一些快速简便的政治观点即使它适用自己的禁令版本，也要与立法者合作。
Bickert的博客文章也指出了更多观点，并指出Facebook参与了去年秋天宣布的“深度虚假检测挑战”，“以产生更多研究和开源工具来检测深度虚假”。
虽然说Facebook一直在与路透社合作，为记者提供免费的在线培训课程，以帮助记者识别被操纵的视觉效果。
“随着这些合作关系和我们自身见解的发展，我们对受控媒体的政策也将随之发展。同时，我们致力于在Facebook上进行投资，并与该领域的其他利益相关者合作，以找到具有实际影响力的解决方案。”她补充说。