ByteDance和TikTok秘密建立了一家Deepfakes制造商

 
TikTok的母公司ByteDance构建了可让您将面孔插入由其他人主演的视频中的技术。 TechCrunch已了解到ByteDance已使用栩栩如生的Deepfake技术开发了一个未发布的功能，该应用程序的代码将其称为Face Swap。 TikTok及其中文姐妹应用程序Douyin中的代码均要求用户对面部进行多角度生物特征识别扫描，然后从想要添加面部并分享的视频中进行选择。
如果在Douyin和TikTok中启用了Deepfakes功能，则可以创建一个更加可控的环境，在该环境中，人脸交换技术和少量的源视频可以用于娱乐，而不会散布错误信息。它还可能会提高人们对该技术的认识，使更多的人意识到他们不应该相信自己在网上看到的一切。但这也可能使人们更加担心ByteDance可以处理这种敏感的生物特征数据，类似于在iPhone上设置Face ID的方法。
最近，其他几家科技公司也尝试消费淡化版本的Deepfake。应用程序Morphin可让您在GIF中的演员上叠加计算机化的面部表情。多年以来，Snapchat一直提供FaceSwap选项，该选项可以切换两个人的面貌，或者用相机胶卷中的一个替换相机中的一个人，还有一些独立的应用程序也可以做到这一点，例如Face Swap Live。然后在上个月，TechCrunch发现了Snapchat的新Cameos，它们将真实的自拍照插入了它提供的视频片段中，尽管其结果并不意味着看起来令人困惑。
问题最多的是中国深造假应用程序Zao，该应用程序使用人工智能将一个人的脸部移动到另一个人的身体中，并使其表情同步。尽管隐私和安全方面担心用户面部扫描的滥用方式，但Zao还是在9月份大肆宣传。 Zao之前因存在“安全风险”而被中国的微信阻止。(更正：虽然在发现的代码中提到“ Zao”，但它指的是一般概念，而不是ByteDance和Zao之间的合作伙伴关系。)
但是ByteDance可能会给TikTok和Douyin带来令人信服的逼真的假货，TikTok和Douyin是全球最受欢迎的两个应用程序，下载量超过15亿。
隐藏在TikTok和Douyin内部
TechCrunch从以色列应用程序内市场研究初创公司Watchful.ai那里收到了有关该新闻的提示。该公司已经在最新版本的TikTok和Douyin的Android应用中发现了Deepfake功能的代码。 Watchful.ai可以激活Douyin中的代码以生成该功能的屏幕截图，尽管该功能目前尚未公开。
首先，用户将其面部扫描到TikTok中。这也可以用作身份检查，以确保您只提交自己的脸，这样就不会对使用现有照片或他们的脸部任何照片的其他人表示不满意。通过在聚焦和适当照明的情况下要求您眨眼，点头，张开和合上嘴巴，斗隐可以确保您是一个活生生的人，并且可以对您的脸部进行可操作的扫描，使其可以伸展和移动以表达不同的情感或填充不同的表情场景。
然后，您就可以从ByteDance声称拥有使用权的视频中进行挑选，并且它将替换为剪辑中任何人的面孔。然后，您可以共享或下载Deepfake视频，尽管该视频将包含公司声称将帮助区分内容为非真实内容的叠加水印。我收到了机密观看Watchful使用该功能制作的视频的权限，而且面部切换非常无缝。运动跟踪，表情和色彩融合都非常令人信服。
Watchful还发现了TikTok和Douyin服务条款的未发布更新，其中涵盖了隐私和Deepfake功能的使用。在美国版本的TikTok的Android应用程序中，代码中的英文文本说明了该功能及其部分使用条款：
您的面部图案将用于此功能。阅读戏剧面孔使用条款和隐私政策以获取更多详细信息。在继续之前，请确保您已阅读并同意使用条款和隐私政策。 1.为使每个人都安全使用此功能，需要进行真实身份验证，以确保用户自己使用自己的面孔使用此功能。因此，无法使用上传的照片; 2.您的脸部图案将仅用于生成脸部更改视频，这些视频只有在您发布之前才能看到。为了更好地保护您的个人信息，如果以后使用此功能，则需要身份验证。 3.此功能符合未成年人互联网个人信息保护条例。未成年用户将无法使用此功能。 4. Douyin提供的与此功能相关的所有视频元素均已获得版权授权。
在斗音区也发现了更长的使用期限和隐私政策。翻译成英文，文本中的一些要点包括：“此功能呈现的“变脸”效果是根据您的照片叠加我们的照片而生成的虚构图像。为了表明原始作品已被修改并且使用此功能生成的视频不是真实视频，我们将标记使用此功能生成的视频。请勿以任何方式删除该标记。”
“在上述检测过程中收集的信息以及使用您的照片生成变脸视频的信息仅用于变脸时的实时检测和匹配。它不会用于其他目的。 。 。而且匹配项会立即删除，并且不会存储您的面部特征。”
“使用此功能时，您只能使用我们提供的资料，您不能自己上传资料。我们提供的材料已获得版权所有者的授权。”
“根据“儿童互联网个人信息保护条例”以及法律法规的相关规定，为了保护儿童/青少年的个人信息，此功能限制了未成年人的使用。”
我们联系了TikTok和Douyin，以征询有关Deepfake功能，何时启动，如何保护生物识别扫描的隐私以及年龄限制的评论。但是，TikTok拒绝回答这些问题。相反，一位发言人坚持说：“在与团队核实之后，我可以确定这绝对不是TikTok的功能，我们也无意引入它。我认为您可能正在寻找针对Douyin的东西-您的电子邮件中包含来自Douyin的屏幕截图，以及提及Douyin的隐私权政策。就是说，我们不在TikTok上的Douyin上工作。”他们随后告诉TechCrunch，“正在删除非活动代码片段以消除任何混淆，”这隐含地证明在TikTok中找到了Face Swap代码。
斗隐发言人告诉TechCrunch：“斗隐遵守其运营所在司法管辖区的法律和法规，即中国。”尽管TechCrunch审查了应用程序中显示这些服务条款的代码，但他们否认Face Swap服务条款出现在TikTok中。功能的功能。
这令人怀疑，并且无法解释为什么Deepfake功能的代码和该功能的英文特殊服务条款会出现在TikTok中，而不仅仅是Douyin，在该应用中已经可以激活该应用程序并且发现了更长的服务条款。 TikTok的美国实体此前拒绝遵守中国政府的审查要求，与消息人士对《华盛顿邮报》说，TikTok确实根据中国的要求对某些政治和色情内容进行了审查。
消费假货
Deepfake的Face Swap功能可能从未在中国或美国正式启动。但是，即使尚未发布，它也可以完全发挥功能，并且表明ByteDance愿意接受有争议的技术，尽管它以错误的信息和未经许可的色情而闻名。至少它限制了未成年人的功能，只能让您面对面交换，并阻止用户上传自己的源视频。这样可以避免将其用于制作危险的错误信息视频，例如放慢播放速度的视频，使众议院议长南希·佩洛西(Nancy Pelosi)似乎醉了，或者避免了许多人像特朗普总统那样说话。
Watchful.ai的联合创始人兼首席执行官Itay Kahana告诉TechCrunch：“很少有大型社交网络应用程序仅向18岁以上的用户提供新的高级功能。” “这些Deepfake应用程序表面上看起来似乎很有趣，但是不应允许它们成为特洛伊木马，损害IP权利和个人数据，尤其是迄今为止是TikTok的最大用户的未成年人的个人数据。”
TikTok已被美国海军禁止，并且ByteDance收购Musical.ly并将其合并到TikTok中的行为正受到美国外国投资委员会的调查。对Deepfake的担忧可能会进一步提高审查力度。
但是，有了适当的保护措施，换脸技术可以迎来用户生成内容的新时代，在此时代，创作者始终是行动的中心。这一切都是个性化媒体新趋势的一部分，这种趋势在2020年可能会很大。社交媒体已经从自拍照演变为Bitmoji，再到Animoji再到Cameos，如今已成为消费者化的假货。当有无数的应用程序，视频和通知分散我们注意力时，让我们成为明星可能是吸引我们注意力的最佳方法。