科学家想出了如何欺骗最先进的Deepfake检测器

 
来自圣地亚哥大学圣地亚哥分校的一组研究人员最近提出了一种相对简单的方法，可以说服假视频检测器，使AI产生的假货是真正的交易。
几年前，当不良演员意识到他们可以用来剥削妇女并可能散布政治错误信息时，由AI产生的称为“ Deepfakes”的视频开始在互联网上泛滥。这些AI系统的第一代产生了相对容易发现的伪造品，但进一步的发展导致伪造品比以往任何时候都更难被发现。
为此，许多研究人员开发了AI技术，可以检测Deepfake和其他类似AI生成的假视频。不幸的是，他们都容易受到UC圣地亚哥分校队的对抗攻击方法的攻击。
在这项工作中，我们证明可以通过对抗性修改使用现有Deepfake生成方法合成的假视频来绕过此类检测器。我们进一步证明，我们的对抗性扰动对图像和视频压缩编解码器具有鲁棒性，使其成为现实世界的威胁。
假冒的视频检测器会检查视频的每个帧以进行操纵-无法使被操纵的帧在表面上看起来自然。加州大学圣地亚哥分校的研究小组开发了一种流程，可以将对抗性信息注入每一帧，从而使检测器认为视频是“正常的”。

 
该攻击对白盒和黑盒AI均有效-区别在于“伪造”是公开发生还是在隐藏参数下发生。而且，根据研究人员的说法，它对压缩和其他操作完全稳定。
这项研究清楚地表明，最先进的假视频检测器受到严重限制。从本质上讲，研究小组得出的结论是，只有部分领域知识的坏演员可能会欺骗所有当前的Deepfakes检测器。