拼图的汇编程序可帮助媒体组织发现Deepfake图片

 
在无处不在的伪造时代，谁能知道他们正在观看的图像是否是AI生成的伪造品?拼图(Jigsaw)是Google母公司Alphabet旗下的组织，致力于解决网络欺凌，审查制度，虚假信息和其他数字问题。该公司正在为称为“汇编程序”的工具制作原型，以解决这一问题。拼图的首席执行官贾里德·科恩(Jared Cohen)在博客文章中透露，该工具正在媒体组织中试用，以帮助事实检查人员和记者查明和分析受操纵的媒体。
“拼图游戏的工作需要预测互联网面临的最紧迫威胁，而过去几年中，无论从马其顿到乌克兰东部，到菲律宾再到肯尼亚和美国，无论走到哪里，我们都可以看到利用虚假信息操纵选举的方式的演变，发动战争，破坏公民社会。”科恩写道。 “通过虚假信息，我们意味着的不仅仅是假新闻。如今，虚假信息需要政府经常发起复杂的，有针对性的影响力运动，目的是影响全世界的社会，经济和军事事件。但是，随着虚假信息策略的发展，用于检测并最终阻止虚假信息的技术也在不断发展。”
根据Cohen的说法，Assembler是与Google Research和学术伙伴合作开发的，包括马里兰大学，那不勒斯费德里科II大学和加利福尼亚大学伯克利分校。它既提供了识别可操纵媒体的工具，又提供了一个协作平台，研究人员可以在该平台上改进其检测方法。
具体而言，Assembler将多个图像处理检测器整合到一个工具中，每个检测器旨在发现特定技术，例如复制粘贴或更改图像亮度。这些检测器中的一个可以将真实人物的图像与Nvidia的StyleGAN架构生成的图像区分开(您可能还记得，去年发布的StyleGAN可以生成栩栩如生的不存在的人的图像)，而另一个(集成模型)可以分析图像。同时进行多种操作。使用来自每个单个检测器的组合信号对第二个检测器进行了训练，使其比任何单个检测器平均更准确地识别图像操作。
汇编程序还结合了Jigsaw所谓的“图像自动升级过程”，由反向图像搜索提供商TinEye提供支持。它会拍摄原始图像并找到更大和/或质量更好的版本，以确保检测器能够分析出最佳图像。
目前正在使用汇编程序的新闻社包括法新社，动物政治，非洲法典，世界报社和拉普尔。 Cohen说，Jigsaw将继续评估该工具在实际新闻编辑室中的表现，因为它将继续开发一种补充工具-Disinformation Data Visualizer，该工具可显示全球范围内的协调性的虚假信息宣传活动以及所使用的特定策略和受影响的国家。
“如今，从事多媒体取证工作非常令人兴奋。一方面，我非常清楚地意识到这项工作的社会重要性：如果使用不当，媒体操纵工具可能非常危险;它们可以被用来破坏普通人的生活和声誉，欺诈，改变选举过程。”谷歌AI访问学者Luisa Verdoliva博士说。 “另一方面，专业挑战非常令人兴奋-每天(每天)都在构思基于人工智能的新攻击，我们必须保持非常快的创新步伐来应对它们。”
去年11月，拼图游戏发布了一个语料库，该语料库来自4月发起的一项竞赛，该竞赛对参赛者提出了挑战，要求他们建立能够识别毒性并使偏见最小化的模型。第一版包含大约25万条带有身份标记的评论，要求评估者在给定评论中指出性别，性取向，宗教，种族，种族，残疾和精神疾病。最新版本从将近9,000名评估人员中添加了单独的人类注释，这些注释有效地教授了机器学习，从而模拟了“毒性”的含义。
像这样的数据集支持了Jigsaw的产品，例如3月份发布的具有评论过滤功能的Chrome扩展程序以及针对网络发布者的Perspective API工具。除了这项工作之外，智囊团还进行有时被证明有争议的实验，例如为其分配虚假信息服务来攻击虚拟网站。其他正在进行的项目还包括一个名为Outline的开源工具，该工具可使新闻机构为记者提供更安全的互联网访问方式。反分布式拒绝服务解决方案;以及劝阻潜在的ISIS新兵加入该小组的方法。