2月17日人工智能生成的面孔比真实面孔更值得信赖

研究人员表示，人们无法区分人工智能生成的人脸(使用StyleGAN2)和真人脸，他们呼吁采取保护措施来防止“深度造假”。人工智能合成的文本、音频、图像和视频已经被用于所谓的“复仇色情”、欺诈和宣传。

兰开斯特大学的SophieNightingale博士和加州大学伯克利分校的HanyFarid教授进行了实验，要求参与者区分最先进的StyleGAN2合成人脸和真实人脸，以及这些人脸唤起的信任程度。

结果表明，合成生成的人脸不仅具有高度的照片逼真度，而且与真实人脸几乎无法区分，甚至被认为更值得信赖。

他们在期刊上写道：“我们对AI合成人脸照片真实感的评估表明，合成引擎已经走过了恐怖谷，能够创造出比真实人脸难以区分且更值得信赖的人脸。”

研究人员警告人们无法识别人工智能生成的图像的影响。

“也许最有害的后果是，在任何图像或视频都可以伪造的数字世界中，任何不方便或不受欢迎的记录的真实性都可能受到质疑。”

在第一个实验中，315名参与者将从一组800张面孔中提取的128张面孔分类为真实面孔或合成面孔。他们的准确率为48%，接近50%的机会表现。

在第二个实验中，219名新参与者接受了培训，并就如何对人脸进行分类给出了反馈。他们分类了与第一个实验相同的800张人脸集合中的128张人脸——但尽管进行了训练，但准确率仅提高到59%。

研究人员决定找出可信度的感知是否可以帮助人们识别人造图像。

“人脸提供了丰富的信息来源，只需几毫秒的曝光时间就足以对个人特征(例如可信度)做出隐含推断。我们想知道合成人脸是否会激活相同的可信度判断。如果不是，那么可信度的感知可以帮助区分真实的来自合成面孔。”

第三项研究要求223名参与者对128张面孔的可信度进行评分，这些面孔取自同一组800张面孔，评分范围为1(非常不可信)到7(非常可信)。

合成面孔的平均评分比真实面孔的平均评分高7.7%，具有统计学意义。

“也许最有趣的是，我们发现合成生成的面孔比真实面孔更值得信赖。”

黑人面孔被评为比南亚面孔更值得信赖，但除此之外对种族没有影响。

女性被认为比男性更值得信赖。

“一张笑脸更有可能被评为值得信赖，但65.5%的真实面孔和58.8%的合成面孔是微笑的，因此仅面部表情无法解释为什么合成面孔被评为更值得信赖。”

研究人员认为，合成的面孔可能被认为更值得信赖，因为它们类似于普通面孔——而这些面孔本身被认为更值得信赖。

为了保护公众免受“深度伪造”的影响，他们还提出了合成图像的创建和分发指南。

“例如，保护措施可能包括将强大的水印整合到图像和视频合成网络中，这将为可靠识别提供下游机制。因为对这种强大技术的访问民主化构成了最重大的威胁，我们还鼓励重新考虑向公众开放的通常放任自流的方法，并鼓励任何人不受限制地发布代码以将其合并到任何应用程序中。

“在这个关键时刻，正如其他科学和工程领域所做的那样，我们鼓励图形和视觉社区制定合成媒体技术的创建和分发指南，其中包含针对研究人员、出版商和媒体分销商的道德准则。”