Facebook练习AI诈骗人脸识别系统推进处理深度假造问题

编者按：本文来自微信大众号“全媒派”（ID：quanmeipai），作者腾讯传媒，36氪经授权发布。

人脸辨认体系亦正亦邪，在无监管情况下的运用危险重重。尽管Facebook深陷人脸辨认数据诉讼牵连，但仍致力于相关研讨，开宣布可用于实时视频的反辨认体系，为处理假造视频问题供给了新出路。本期全媒派（ID：quanmeipai）编译The Verge文章，带你走近Facebook最新研讨作用。

尽管Facebook依然遭到关于其人脸辨认数据隐私办理、或许赔付数十亿美金的诉讼案的牵连，可是Facebook人工智能研讨部分（Facebook AI Research, FAIR）并没有因而中止在该范畴的研制造业。据VentureBeat报导称，FAIR已开宣布一套最先进的“反辨认”体系，不只可在视频中运用，还能够运用于实时视频。该体系通过机器学习法实时改动视频人物的首要面部特征，以此到达让面部辨认体系误判人物身份的意图。

这种反辨认技能早已存在，而且有专门的公司研讨怎么将其运用于停止的图画，比方Israeli AI和D-ID。本年4月，一群来自比利时KULeuven大学的工程师展现了怎么运用简略的图画诈骗AI体系。

如下图所示，将这种经特别规划的图画打印出来并挂在脖子上，AI体系将无法辨认出携带者，就像是该目标穿上了隐身大氅。乃至有研讨者称，“咱们有理由信任，可通过该技能规划出让人从监控体系中消失的衣服。”

这种看似怪异的现象，其实在AI界早已声名远扬；这些图画，也被称作对立图画（Adversarial Example）。对立图画的原理是运用电脑视觉软件在被练习辨认特定特征的过程中发生的缝隙，让辨认体系误判。例如，戴上下图中印有对立图画的太阳眼镜就能让面部辨认体系误认为你是女艺人Milla Jovovich。

但上述做法首要应用于从监控摄像头或其他途径取得的相片或停止印象，或许事前方案好运用对立图画诈骗人脸辨认体系。但Facebook的研讨作用是针对于实时印象和视频脚本，FAIR称这项作用在职业里是前所未有的，且足以对立精细的人脸辨认体系。下面的动图便是个比如。

VentureBeat引用了一篇Facebook论述该项研讨的陈述：“人脸辨认技能能让人们失掉隐私，脸部替换技能或许会被歹意用于制造误导性视频。最近，全世界关于人脸辨认技能的开展和乱用事情影响了人们想要去了解反人脸辨认技能的需求和巴望。咱们的研讨作用是仅有可适用于包含直播视频在内的一切视频文件的技能，而且出现的作用远超理论值。”

据VentureBeat称，Facebook并不计划将这项技能用于任何旗下商业产品。但该研讨或许会影响个人隐私维护东西的未来开展，而且，由于Facebook着重“误导性视频”，还能避免个人印象被用于假造视频。

AI职业现在正在尽力霸占假造视频的难题和其日益精细杂乱的制造东西。Facebook的研讨作用供给了一种可行的办法，一起立法机关和科技公司也在测验推出相似假造视频检测软件的其他东西，以及约束假造视频、印象、音频传达的规章制度。

本年6月，民主党人士Adam Schiff宣布正告，深度假造视频或许会对2020年大选形成灾难性的结果。在一则通过修正的视频上，美国众议院议长Nancy Pelosi显得酩酊大醉，该条视频疯传于各大社会化媒体，可是各大渠道对此做出不同反响：YouTube删去该视频，Facebook保存该视频一起还将用户导流向相关报导，Twitter则任其传达。事发几周后，在众议院情报委员会听证会上，Schiff向给予交际渠道“豁免权”的《通讯端正法》第230条建议应战，寻求修正相关律法的或许性，由于在现在的法令环境下，交际网络公司并不对其渠道上发布的内容负有法令责任。

FAIR的研讨一起还处理了面部辨认技能不受监管的问题。这样的一个问题已让立法机构和学者们忧心如焚，假如面部辨认技能依然在不受法令、政府和企业的监管下持续运用，或许会侵略人权。Georgetown法学院的一项研讨发现，在将图画录入人脸辨认体系前，纽约警察局有时会修正图画。乃至其从前直接运用过艺人Woody Harrelson的相片，只是是由于一条嫌疑人长得像Harrelson的提示。

参阅链接：

1.https:///2019/8/8/20792326/facebook-facial-recognition-appeals-decision-damages-payment-court

2.https:///2019/4/23/18512472/fool-ai-surveillance-adversarial-example-yolov2-person-detection

3.https:///2016/11/3/13507542/facial-recognition-glasses-trick-impersonate-fool

4.https:///2019/6/13/18677847/deep-fakes-regulation-facebook-adam-schiff-congress-artificial-intelligence

5.https:///2019/8/19/20812032/bernie-sanders-facial-recognition-police-ban-surveillance-reform