Deepfake/深度造假

俗话说“眼见为实”。然而，当《射雕英雄传》里原本由朱茵扮演的黄蓉换上了杨幂的脸，当美国众议院议长南希·佩洛西在讲话中口齿不清、形同醉酒，你真的可以相信自己的眼睛所见吗？

事实上，这些全都是deepfake（深度造假）视频。

Deepfake由deep learning（深度学习）和fake（造假）组合而成，Wikipedia（维基百科）的解释是：Deepfake is a technique for human image synthesis based on artificial intelligence. It is used to combine and superimpose existing images and videos onto source images or videos using a machine learning technique known as generative adversarial network.（“深度造假”是一项基于人工智能进行人像合成的技能，用于使用名为“生成式对抗网络”的机器学习技能将已有图像和视频组合并叠加到源图像或视频上。）

Deepfake一词产生于2017年。当时，一个名叫deepfakes的用户以及另外一些人在红迪网站分享了他们伪造的视频，有人把尼古拉斯·凯奇的脸换到他并未出演的多部影片中。2018年1月，名为FakeApp的桌面应用程序上线，宣称是a desktop tool for creating photorealistic faceswap videos with deep learning（借助深度学习制作照相写实主义换脸视频的桌面工具），也就是人们常说的“换脸App”。有了人工智能相助，曾经被认为难度极大的视频造假变得轻而易举，只要输入足够的样本图像供机器学习就行。

Deepfake让人真假难辨，其危害不言而喻，从普通百姓到影星名流和政界人士都有可能成为其受害者。

在电影《X战警》中，善于变身模仿的魔形女冒充美国总统，但她在公开演讲时有别于真总统的左右手交叉方式和常用语气词暴露了身份。百密终有一疏，能不能以人工智能“打假”来对抗人工智能“造假”呢？科学家们自然也想到了这一招，包括结合使用lip-sync（唇形同步）、image quality measure（图像质量测评）和support machine vector（支持向量机）。然而，道高一尺，魔高一丈：一旦造假者知道了自己的骗局是如何被识破的，自然就会对其算法进行相应调整。在这场竞赛中，打假方始终处于被动，显得力不从心。

技术的进步永远是一把双刃剑，面对deepfake带来的危险，我们期待“打假”人工智能日臻完善，也期待道德力量给予网络空间更多约束。（何金娥）

文章来源: https://www.toutiao.com/group/6711869417774400013/