AI能换脸后，人们还能识别仿真假视频吗？

发布时间：2019-10-15 发布者：亚时财经

相机APP已经变得越来越复杂。用户可以拉长腿、去除粉刺、加上动物耳朵——现在，人们甚至可以制作看起来十分逼真的假视频。

用于创建此类数字内容的技术已迅速普及，它们被称为“深度伪造”（Deepfakes）。深度伪造指的是经过处理的视频，或由复杂的人工智能制作的其他数字表现形式，生成以假乱真的图像和声音。

华盛顿公共政策组织布鲁金斯学会(Brookings Institution)技术创新中心的非常驻高级研究员约翰·维拉瑟诺(John Villasenor)指出，这样的视频“变得越来越复杂，越来越容易获取”。“深度伪造正在引发一系列具有挑战性的政策、技术和法律问题。”

事实上，任何人只要有一台能上网的电脑，就可以在技术上制造深度伪造的内容，维拉瑟诺如是说。

深度伪造是什么?

（图源：网络）

“深度伪造”这个词结合了“深度学习”（Deep-learning）和“伪造（Fake)”两个术语，是人工智能的一种形式。

纽约大学法学副教授保罗·巴雷特(Paul Barrett)表示，深度伪造是指通过深度学习制作的伪造视频。深度学习是“人工智能的一个子集”，指的是能够自主学习并做出智能决策的算法安排。

但新美国智库(New America think tank)网络安全与防务策略师、高级研究员彼得·辛格(Peter Singer)说，这样做的危险之处在于，“这种技术可能让人们对一些似是而非的东西信以为真。”

这项技术“可以用来破坏政治候选人的声誉，让候选人看起来说了或做了一些实际上子虚乌有的事情。”约翰·维拉塞诺说:“对于那些可能想利用错误信息影响选举的人来说，这是一个强有力的新工具。”

深度伪造如何得逞?

深度学习系统可以从多个角度研究目标人物的照片和视频，然后模仿其行为和说话模式，从而生产有“说服力”的赝品。

巴雷特解释说，“一旦初步的赝品被制造出来，一种叫做GANs的方法——即生成式对抗网络，就会使它更为可信。GANs程序试图发现伪造文件中的缺陷，从而改进解决这些缺陷。”经过多轮的检测和改进，深度伪造的视频便大功告成。

麻省理工学院的一份技术报告显示，能让深度伪造成为可能的设备，会是“假新闻传播者的完美武器——影响从股价到选举，无所不至。”

事实上，“人工智能工具已经被用来把其他人的脸的图片放到色情明星的身体上，把话语‘放’到政客的嘴里，”《麻省理工学院科技评论》旧金山分部部长马丁·吉尔斯在一份报告中写道。他认为，GANs并没有制造这个问题，但它们会让事情变得更糟。

如何检测被操纵的视频?

美国布鲁金斯学会的约翰·维拉塞诺表示，人工智能可以用来制造深度伪造，也可以用来检测伪造。

由于任何计算机用户都可以使用这项技术，越来越多的研究人员开始关注深度伪造的检测，并寻求规管方式。

美国的脸书和微软等大型企业已采取行动，检测并移除深度伪造的视频。这两家公司在今年早些时候宣布，它们将与全美顶尖大学合作，建立一个庞大的假视频数据库，供研究之用。

（图源：华盛顿邮报）

新美国智库的高级研究员彼得·辛格说:“目前，如果你仔细观察，你会发现有些轻微的视觉方面的问题，比如耳朵或眼睛与脸部模糊的边缘不匹配，或者皮肤过于光滑而没有光影效果。”但他表示，随着深度伪造的技术越来越先进，视频看起来也越来越逼真，检测伪造变得越来越困难。

维拉塞诺警告道，尽管技术在不断发展，检测深度伪造经常“道高一尺，魔高一丈”。所以更深层次的问题是:“人们会更倾向于相信深度伪造的视频，还是将视频标记为伪造的检测算法？”

文字来源：CNBC

图片来源：华盛顿邮报

原文链接：

实习编译：冯韦隽

编辑：SHAN

特别声明：本站转载或引用之图文若侵犯了您的合法权益，请与本站联系，本站将及时更正、删除。版权问题及网站合作，请通过亚时财经邮箱联系：asiatimescn@sina.com

返回列表

热门话题更多>>