Google发布视频以帮助研究人员创建更好的deepfake检测工具

Google LLC试图通过发布一系列示例剪辑来打击网络上所谓的“深造”视频，这种示例剪辑使研究人员可以用来开发更复杂的检测工具。

Deepfake是依靠人工智能的人类图像合成技术的名称。它用于使用称为生成对抗网络的机器学习技术将现有图像和视频合并并叠加到源图像或视频上。

生成的视频可能非常逼真。该技术过去曾被用来制作假名人色情视频和复仇色情。Deepfake还用于创建虚假新闻报道。

谷歌在博客中表示，它将向公众发布约3,000个Deepfake视频。这些视频是与一家名为Jigsaw的公司合作创建的，该公司是在Google的孵化器计划中使用真正的演员创建​​的。

谷歌说：“为了建立这个数据集，在过去的一年中，我们与付费演员和同意演员一起录制了数百个视频。” “然后，使用公开可用的Deepfake生成方法，我们从这些视频中创建了数千个Deepfake。”

该数据集已合并到新的FaceForensics基准测试中，该基准测试是由慕尼黑工业大学和那不勒斯费德里科第二大学共同运营的项目。研究人员可以免费访问这些视频，以用于开发Deepfake检测技术。

Google的视频应该很有用，因为其中许多视频看起来都非常逼真，特别是对于没有参考点的用户。在下面的示例中，顶部视频显示了一个真实的演员，而底部剪辑则包含了一个人工创建的Deepfake。

星座研究公司(Constellation Research Inc.)分析师Holger Mueller告诉SiliconANGLE，今天的发布表明Google遵守了今年早些时候发布的AI原则，这些原则将帮助社会应对AI以及整个技术的意外后果。

Mueller说：“ Deepfake很快就成为语音和视频的一个问题，因此很高兴看到技术不仅可以创建它们，而且可以更好地检测和帮助它们。” “为获取深层造假，需要测试和数据，以便提供商可以培训其模型，企业和政府可以了解他们的运行状况。很高兴看到基于此数据集的产品的最初结果。”

谷歌表示，它将继续向数据集中添加新视频，以跟上Deepfake技术的发展。这也很重要，因为今天有效的检测方法将来可能不会那么有效。

谷歌说：“我们坚信支持一个蓬勃发展的研究社区，以减轻因滥用合成媒体而造成的潜在危害，而今天在FaceForensics基准测试中发布我们的deepfake数据集是朝这个方向迈出的重要一步。”

Google并不是唯一一家认为自己有责任帮助我们检测假内容的大型科技公司。Facebook Inc.本月表示，计划发布自己的Deepfake视频数据集。这家社交媒体公司还宣布了“ Deepfake检测挑战赛”，为能够创建有效检测工具的人员提供高达1000万美元的奖金和赠款。