在线客服

咨询热线

改头换面?小心受骗!

作者:未知

  如何去伪存真,真的是每个时代每个社会都需要思考的终极问题。
  都说“耳听为虚,眼见为实”,但如果你在国外视频网站上搜索一下“deepfake”这个词,一定会怀疑自己的眼睛。这种正在迅速风行全球的技术让人意识到,除了诈骗电话、PS图片,现在连视频都会“骗人”了,而且几乎天衣无缝。
  在AI领域中,有一项非常热门的分支,叫做机器学习—用程序模拟人类学习的过程,可以自我更新、自我进化、累积经验,最终形成自己的某种套路。而在机器学习中,又有一种非常热门的方式—生成对抗网络(Generative Adversarial Network,简称GAN)。
  2014年,Ian Goodfellow提出了GAN模型,即设计两个独立的机器学习网络,分别为生成器和判别器。以模拟一张图片为例,生成器不断训练,目的是“模仿”出以假乱真的图;而判别器则不断检测,判断出此图是真是假。在对抗过程中,两者都会不断优化,提高自己的生成能力和判别能力。这样“左右互搏”的结果就是,生成器一定能输出无限接近于原图的“赝品”。
  2016年,基于GAN的实时视频仿真軟件Face2Face诞生,可以把一个人的脸部动作,无声无息地转移到另一个人的脸上。这项技术的开发者Justus Thies在当时已经意识到了潜在的危险,他在一次接受采访的时候表示:“如果这类视频软件得到广泛应用的话,将会对社会造成剧烈的影响—这也是为什么我们不把软件代码开源的原因之一。”
  但遗憾的是,这个潘多拉魔盒已经被打开了。超低门槛的工具让这项技术走向大众,一大批用户加入到这种视频的制作和分享中,甚至有专门的软件教人“一键换脸”,比如Fakeapp,两个月就被下载了12万次。
  在2017年11月前,deepfake每月搜索次数只有100次左右。到了2018年7月,每月搜索次数已经上升到100万次-1000万次。随着类似于fakeapp这样工具开始普及,有人开始尝试通过虚假视频来造谣、制造恐慌甚至牟利,比如制造假新闻甚至制作用来威胁勒索的假视频。
  另一方面,deepfake视频的检测是个难题。很业余的“换脸”肉眼可辨—通俗一点讲,你会发现诸如五官的线条、动态的表情有种僵硬的不协调感,仿佛人脸上带了一个面具。更细节一点,还有连接处、阴影位置、服装饰品不对称之类的证据。但随着人工智能技术的发展,这项技术必将日趋完善,甚至到达人工智能也无法区分真假的程度。如果我们检测虚假视频,很快我们就会被迫怀疑一切所见所闻。
  值得庆幸的是,科学界正在应对这个问题。由纽约奥尔巴尼大学的Siwei Lyu领导的一个团队发现了这些伪造视频的漏洞。Lyu和他的团队特别关注一点:眨眼。健康的成年人每两到十秒钟眨眼一次,而一次眨眼的时间是十分之一到十分之四秒。由于人像照片通常不会闭眼,所以假视频中的人物眨眼的频率要比真人少得多。因此,辨别真假视频的原理就是使用机器学习来检查视频中睁眼和闭眼,计算眨眼的总频率并将其与自然范围进行比较,可以排除高达95%的假视频。
  全凭眨眼判断视频真伪显然是不够的—在伪造视频的后期处理中,手动添加眨眼并不是多大的挑战,Lyu也很清楚这一点:“我们正在形成第一道防线,从长远来看,这实际上是制作假视频和检测假视频之间的持续战斗。”
  另一个可行的方式是推广视频签名,即所有的视频都要留下原始hash来证实真实性,也许以后,没有留下hash值的人物视频都会被视为虚假,就如同和任何发来要求借钱的短信同样的待遇。到时候,一定会出现辅助校验的平台和工具,帮助人们分辨。
  对中国来说,现在处于一个很特殊的时期—大多数民众完全不熟悉这种技术,而在技术圈已经可以很低成本地制造这种视频。像抖音、快手这种自媒体视频平台,简直就是天然适合虚假视频大规模传播的土壤。虽然deepfake视频还没在中国的网络上大规模出现,但提高警惕总是没错的:知道视频可以伪造,以后第一反应就应该是去探究其来源,如果没有可靠的官方来源,就应该提高警惕,切勿轻易相信和传播。
  如何去伪存真,真的是每个时代每个社会都需要思考的终极问题。
论文来源:《今日中国·中文版》 2019年3期
转载注明来源:https://www.xzbu.com/7/view-14733351.htm