Deepfakes正在挑战“眼见为实”的世界

  • A+
所属分类:deepfakes资讯

AI技术的发展正在挑战我们对这个世界的认知,曾经作为凭证的图片、语音、视频已可实现完美“造假”,“眼见为实”已经过时。其中,视频造假难度最高,但是却因近两年兴起的Deepfakes技术而变得门槛较低、危害极大,引起各国重视。1月28日,卡内基国际和平基金会发布文章《国家如何应对Deepfakes?》,认为Deepfakes正在给政府与企业带来破坏性的影响,并以问答的形式全面介绍了Deepfakes的基本概念、发展现状、对全球市场与国际事务的影响以及各国的应对实践和应对建议。本公号择要点翻译,希望帮助读者了解并提前应对Deepfakes这一新兴威胁。

 

一、 什么是Deepfakes?

Deepfakes单词是“deep machine learning”和 “fake”的组合词,是一种基于深度学习的人物图像合成技术,由于Deepfakes最常见的方式就是在视频中把一张脸替换成另一张脸,因此也被称作“人脸交换”技术。

 

二、Deepfakes怎样运作?

支撑Deepfakes的算法主要是将一个人的动作和语言叠加到另一个人身上。在视频制作过程中,往往存在一个模仿对象和一个目标对象,该算法将基于模仿对象的行动和说话方式来生成一个新的合成视频,“打造”出与模仿对象相似的目标对象。算法可以学习的音视频示例越多,其数字模拟就越为真实。

 

三、制作Deepfakes视频有多简单?

就在不久前,只有专业人士才能制作出逼真的假视频。但随着AI技术的发展,非专业人士就可以利用简单的视频和开源代码制作出以假乱真的视频。只要你能接入互联网、获得一张人脸图片,你就可以制作出Deepfakes视频,网上也存在大量的相关教程,技术门槛被不断降低。

 

四、怎样辨别Deepfakes?

Deepfakes并不存在明显的迹象,因而极难被辨别出来。目前,一些媒体专业人士只能依靠微弱的线索,如视频中主体的呼吸、脉搏或者眨眼等生理特征。例如,正常人总是在说话时眨眼频率更快,这在原始视频中是可以看出来的,但是Deepfakes却不能反应出来,而这些细微的差别对于大众来说是极难被捕捉到的。

 

五、 Deepfakes将给全球市场或国际事务带来怎样的影响?

Deepfakes能够煽动政治暴力,破坏选举和扰乱外交关系。2019年年初,一家比利时政党在脸书上发表了一则Deepfakes视频,视频内容是特朗普总统批评比利时在气候变化问题上的立场。这则粗糙的视频很容易辨别出来是虚假新闻,但是仍在短时间内引发了数百条评论,表达对美国政府干涉比利时内政的不满。此前,德国研究团队根据Deepfakes制作出包括普京、小布什、特朗普等在内的各国政府首脑假视频也进一步表明Deepfakes极易在政治领域被不正当使用。

此外,Deepfakes还可被利用来提供虚假证据,例如不法分子可以制作出关于企业负责人行为不当的虚假视频,以此来要挟和敲诈企业。Deepfakes是一种特别狡诈的欺骗方式,由于人们总是相信自己所看到的,而社交媒体又加速了假新闻的传播,因此使得问题变得更为糟糕。

更为严重的是,Deepfakes的传播还会使得人们不再相信真实的视频。两位美国法学教授Robert Chesney和Danielle Citron将这种效应称作骗子的红利:随着公众越来越意识到Deepfakes的危害,他们会对一般的真实视频产生怀疑,也更容易把真实视频视为虚假视频。

 

六、Deepfakes有积极的作用吗?

Deepfakes确实存在积极的作用,其中最为突出的就是美国ALS协会(萎缩侧索硬化症协会)的运用。ALS协会组建了一家名为 Lyrebird的企业利用类似于Deepfakes技术的声音克隆,来记录患者的声音,以便在未来可以帮助萎缩侧索硬化症患者进行数字化重建。

 

七、政府正在如何应对Deepfakes带来的负面影响?

目前为止,欧盟在打击虚假新闻(包括Deepfakes)上采取了最有效的措施。早在今年年初,布鲁塞尔就发布了一项打击虚假新闻的战略,包括应对Deepfakes的指南。该指南强调公众参与的必要性,这将帮助人们更容易分辨出某条信息的来源,信息是如何产生的,以及信息是否值得信赖。欧盟战略还要求建立一个独立的欧洲事实核查机构,以帮助分析网上内容创建的来源和过程。

在美国,两党和国会两院均表示了对Deepfakes发展的担忧。就在最近,参议员Adam Schiff、Stephanie Murphy以及Carlos Curbelo向国家情报局局长写公开信呼吁调查外国政府、情报机构和个人如何利用Deepfakes来损害美国的利益以及如何应对。

 

八、各国还可做什么?

首先,各国需明确定义Deepfakes的不正当使用。由于Deepfakes被广泛运用于不同领域,因此亟需社会定义什么可以接受,什么不可以接受,这也有利于社交媒体规范他们的平台,管理网上内容。

其次,政府还应该加强与社交媒体、新闻机构、非政府监管机构等共享Deepfakes的信息。如,美国2015年网络安全信息共享法案就允许平台在虚假信息传播至其他平台之前进行警告,并在虚假新闻传播至主流新闻圈前提醒新闻机构。

第三,政府需要资助发展媒体取证技术。目前,在创建Deepfakes技术与可以诊察出他们的取证技术之间存在着激烈的竞赛,美国DARPA目前正在大力投资“反AI变脸计划”,确保侦测到最先进的AI造假技术,这非常重要,这种投资应该跟上Deepfakes技术的发展。

 

九、这个问题有多紧急?

目前为止,还未出现因Deepfakes而引发的政治暴动或干扰选举事件,但是可以这样做的技术已经存在,这就意味着各国采取措施应对Deepfakes的时间窗口正在缩小,各国应该在Deepfakes引发灾难前抓紧行动起来。

weinxin
我的微信
这是我的微信扫一扫
广告也精彩

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: