Facebook训练AI欺骗人脸识别系统
发布时间：2019-12-06 发布者：亚时财经
在AI越发火热的今天，人脸识别技术也是大家关注的焦点。虽然其监管问题仍在争论，但依然阻止不了人们对它的研究热情。正如Facebook即使身陷人脸识别数据诉讼，依然致力于相关研究，并开发出可用于实时视频的反识别系统，为解决伪造视频问题提供了新出路。
（图源：网络）
据全媒派报道，虽然Facebook仍受到赔付数十亿美金的诉讼案的牵连，其人工智能研究部门（Facebook AI Research, FAIR）并没有因此停止在该领域的研发工作。据VentureBeat报道称，FAIR已开发出一套最先进的“反识别”系统，不仅可在视频中使用，甚至可以运用于实时视频。
该系统通过机器学习法实时改变视频人物的主要面部特征，以此达到让面部识别系统误判人物身份的目的。早前的反识别技术就有专门的公司研究如何将其运用于静止的图像，如Israeli AI和D-ID。近期较出名的是来自比利时KULeuven大学的工程师展示的技术。
他们向人们展示了如何利用简单的图像欺骗AI系统。在展示中，他们将一个特殊设计图案打印出来挂在实验者的脖子上。这样简单的操作居然直接让AI系统无法识别该实验者。给予此研究，有相关人士称，“我们有理由相信，可以利用该技术设计出让人从监控系统中消失的衣服。”
实验展示 （图源：全媒派）
这种图案就是AI界声名远扬的对抗图案（Adversarial Example）。原理是利用电脑视觉软件在被训练识别特定特征的过程中产生的漏洞，让识别系统误判。
不过上述技术主要应用于用照片或别的静态图像去对付人脸识别系统。Facebook的研究成果是针对于实时影像和视频脚本，FAIR称这项成果在行业里是史无前例的，且足以对抗精密的人脸识别系统。在其展示的示例中，通过该技术，视频中的动态人脸也能欺骗过人脸识别技术。
据全媒派报道，VentureBeat引用了一篇Facebook阐述该项研究的报告。报告中称，人脸识别技术能让人们失去隐私，脸部替换技术可能会被恶意利用。最近，各种事件刺激了人们想要去了解反人脸识别技术的需求和渴望。他们的研究成果是唯一可适用于包括直播视频在内的所有视频文件的技术，并且呈现的效果远超理论值。”
另据VentureBeat称，Facebook并不打算将这项技术用于任何旗下商业产品。不过报道认为该研究可能改变个人隐私保护工具的未来发展。并且基于Facebook反复强调此技术对于恶性误导性视频的应对，说不定还能防治伪造个人视频。
据悉，AI行业目前正在努力攻克伪造视频的难题和其日益精密复杂的制作工具。此次Facebook的研究成果则向我们提供了一种可行的应对方法。相关立法机关和科技公司也在进行相似的研究，以期更好解决此类问题。
对于伪造视频的影响，今年6月，民主党人士Adam Schiff就曾发出警告说，深度伪造视频可能会对2020年大选造成灾难性的后果。因为之前就有一条伪造的美国众议院议长Nancy Pelosi醉酒视频在各大社交媒体上传播，造成了很大的影响。
希望此次Facebook的技术可以尽早应用到实际生活中，让人们能更好地检测视频的真伪，杜绝恶意伪造视频的传播。
亚洲时报 综合
责任编辑：杨志杰
特别声明：本站转载或引用之图文若侵犯了您的合法权益，请与本站联系，本站将及时更正、删除。版权问题及网站合作，请通过亚时财经邮箱联系：asiatimescn@sina.com
热门话题更多>>
国务院国资委网站3月31日发布消息，经报国务院批..[查看详细]
2021-04-01 10:43
3月份中国制造业采购经理指数、非制造业商务活动指..[查看详细]
2021-03-31 10:20
联合国粮农组织公布的数据显示，2021年2月份，..[查看详细]
2021-03-25 15:22
3月22日，中国电子信息产业发展研究院发布的《2..[查看详细]
2021-03-22 16:53
风电板块走强，节能风电拉升涨停，大金重工涨超6%..[查看详细]
2021-03-19 10:47
3月18日，国家互联网信息办公室、公安部加强对语..[查看详细]
2021-03-18 19:36
1-2月份，在以习近平同志为核心的党中央坚强领导..[查看详细]
2021-03-15 14:41
3月11日，国务院总理李克强在人民大会堂三楼金色..[查看详细]
2021-03-12 10:00
今日，核电板块走强，整个指数大涨4%。截至发稿，..[查看详细]
2021-03-08 15:11
今天上午，十三届全国人大四次会议在人民大会堂开幕..[查看详细]
2021-03-05 15:06
