科技巨头打假Deepfake

“照骗”时代，用户可以拉长腿，去除粉刺，甚至可以添加动物耳朵。在视频领域，人们也在寻找趣味感，而后有了被称作“潘多拉盒子”的Deepfake（一种人工智能基础的人物图像合成技术）的问世，以及后续应用该技术生成的诸如“ZAO”的出现。这种造假技术甚至被延用到更加复杂的音频领域。

根据《华尔街日报》在2019年8月30日的报道，在此前3月，犯罪分子使用基于人工智能的软件冒充母公司首席执行官的声音，子公司首席执行官以为自己是在与他的老板（该公司德国母公司的首席执行官）通话，当时他遵从命令立即向匈牙利供应商的银行帐户中存入欧元22万欧元（约合$24.3万美元）。

左图：Deepfake制作 右图：原图

Deepfake技术创作之初，作为技术的进步本身没有恶意，但还是被恶意使用了，比如虚假的名人性爱影片和报复性色情视频，甚至造假新闻及恶作剧，影响着我们对视频真实性的判断，甚至影响到一个人或一个国家的命运。2020年美国总统大选临近，利用Deepfake进行非常令人信服的虚假信息运动的可能性也非常高。

为了解决这个问题，高校、企业等研究人员正在开发检测算法来识别别删除这些视频。

2019年1月，由慕尼黑科技大学(Technical University Of Munich)的一名研究人员领导的学术团队，通过对近1000个YouTube视频执行这四种常见的面部操纵方法，创建了一个深假数据集FaceForensics++。

谷歌在这些努力中加入了另一种方法，即，使用一系列被称为生成性对抗网络(GANS)的计算机程序进行面部操纵：机器学习系统将神经网络相互对峙，以便生成不存在的人的令人信服的照片。此外，谷歌还增加了神经纹理图像处理算法的组合。

2019年9月25日，谷歌正式发布了与Jigsaw技术孵化器合作推出的相当庞大的Deepfake视频数据集（含3000多个视频），支持开发相关软件，以检测音频真假，并已被纳入慕尼黑科技大学(Technical University Of Munich)和那不勒斯大学费德里科二世(University Federico II)的新FaceForensics基准。谷歌表示，150多家研究机构和行业组织下载了该数据集。同样的数据集现在也可以供公众使用。用户可以在FaceForensics Github页面上下载这个数据集。

谷歌雇佣并拍摄了各种场景中的28名演员，录制了他们说话、做普通表情和做普通任务的视频，然后使用公开可用的Deepfake生成算法-「Deepfakes」、「Face2Face」、「FaceSwap」、「NeuralTextures」创建了一个大约3000个Deepfake数据库。谷歌承诺向数据库中不断增加视频数据，希望能够跟上快速发展的Deepfake生成技术，同时会继续和该领域的合作伙伴携手合作，他们坚信这是一个蓬勃发展的研究领域，将帮助人们辨别音频的真假，为检测音频、视频和图像真伪做出贡献，减轻对技术的滥用将带来的潜在危害。

谷歌并不是唯一一家为打击深度假货做出贡献的科技公司。Facebook和微软参与了一项全行业倡议，旨在创建一套开源工具，公司、政府和媒体组织可以使用这些工具来检测被篡改的视频。Facebook计划在今年（2019）年底之前发布一个类似的数据库。在2019年9月5日，Facebook宣布了成立1千万美元基金，用于“Deepfake检测挑战”。

数据集是为了创建一个大型的示例语料库，可以帮助培训和测试自动检测工具。但这也是一场猫鼠游戏：但是一旦开发了一种检测方法来利用特定生成算法中的缺陷，就可以很容易地更新算法来纠正它。

ESET（维护数字世界安全的公司）的网络安全专家杰克·摩尔(Jake Moore)将重点放在培训员工上。他说：“在不久的将来，我们将看到机器学习的网络犯罪大幅上升。我们已经看到了模仿名人和公众人物的Deepfake视频，但是为了创造令人信服的材料，网络罪犯使用了已经可以在公共领域获得的视频资料。随着计算能力的提高，Deepfake更容易创建，这描绘了一幅可怕的图景。为了帮助减少这些类型的风险，公司应该从提高意识和教育员工开始，然后引入第二层保护和验证，这一层很难被欺骗，比如一次性密码生成器(OTP设备)。不知不觉，Deepfake将比以往任何时候都更有说服力，因此公司需要考虑投资Deepfake检测软件，越早越好。然而，柜台软件的开发从来没有那么快，所以公司应该把重点放在培训员工上，而不是仅仅依靠软件。”

区块链专家Kevin Gannon是区块链技术主管和解决方案架构师，他表示：“当涉及Deepfake领域时，区块链等新兴技术可以脱颖而出，提供一定程度的安全性、审批和验证。当拥有数字身份的用户想要做某事时，他们可能会被提示提供身份证明，然后才能授予对某些东西(如资金)的访问权限。从另一个角度来看，视频、音频文件的实际真实性可以通过区块链应用程序来证明，其中可以将某些文件(假设的校样)的散列与原始文件进行比较。”

“道高一尺魔高一丈”，Deepfake技术和Deepfake检测技术的各自发展如道与魔的一场较量，谷歌，微软，Facebook和高校以及其他行业专家的努力让我们看到至少这个威胁被看到，没有被忽视，尤其谷歌本次发布深度假冒视频图像克星--一个全新可视化深度虚假数据，在攻克Deepfake检测上实现了大迈进，让我们充满信心，同时该技术的风险影响也不能完全依赖技术的改善，也需要国家监管，政策等相关的出台。

文章来源: https://www.toutiao.com/group/6750504557689700876/