Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”

  • A+
所属分类:deepfakes资讯

快讯 | Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”

大数据文摘作品

编译:蒋宝尚

 

近日,Reddit终于采取行动,关闭了Deepfakes论坛,并更新了全网规则,称将会严格审查涉及非自愿情色和未成年性暗示的网站。至此,抵制“换脸换脸情色视频”的做法已获得了包括twitter等社交平台,pornhub等色情网站等各大平台的认可。

Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”

Reddit官方禁令声明?

 

事情还要从一个机器学习的程序说起:Reddit论坛的网友deepfake用一种AI技术将“小电影”女主角的脸替换成明星盖尔·加朵(神奇女侠的主演)。很快,这种“换脸”的行为开始迅速在论坛上蔓延起来。

快讯 | Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”

如果仅仅是自娱自乐还不至于此,这位技术咖为这个小程序添加了一些工具,发布了应用“FakeApp”,把“换脸“这件事变得非常自动化且可操作:

你只要先收集一个人的照片集或者视频,然后选择一个小电影进行操作,接下来,耐心等待40分钟,电脑将完成剩下的全部工作。

 

使用这个小程序,并不需要技术背景和编程经验,每个人都能轻松给爱情动作片的主角换一张其他人的脸。

 

在Reddit上,deepfakes组建了一个同名社区,短短一个月,这个板块已经聚集了近两万名订阅者。而被“抓来”被迫色情的女星也越来越多,从艾玛·沃森到Sophie Turner……

遏止“非自愿换脸色情片”

不仅仅在reddit,这一“换脸色情片”迅速蔓延到了各大社交网站、论坛,并受到了很多关注。

 

GIF平台Gfycat首先开始移除相关内容,交流平台Discord 也出手封锁讨论制作“换脸色情影片”的服务器。Twitter 同时表示会阻止这类移花接木内容在平台传播。

 

昨天,Reddit Inc.也终于发出“抵制AI技术合成的爱情动作片”声明。这标志着抵制“假视频”的做法获得了各大平台的认可。

 

这些公司发布禁令的最主要原因是“非自愿情色”。

 

全球最大色情影片平台 Pornhub 表示:“本站不容忍任何非自愿的内容,非自愿内容直接违反我们的使用条款,该条款禁止复仇色情报复(revenge porn)、deepfakes,以及任何未经同意或允许上传的内容。”

 

这个事件的重点是:虽然视频是假的,但是Deepfakes仍然在未经允许的情况下侵犯了别人。

 

技术尽管无罪,但有责任感的大平台依然会为道德伦理让步。

关于机器学习换脸技术

 

其实,换脸的技术早就已经出现了,速七里面的保罗沃克因为车祸没有拍完的部分,就是把替身演员的脸部图像渲染替换掉才完成的拍摄。据说,仅仅是这部分的费用,就花掉了几千万美金。

 

在接受媒体采访时,deepfakes表示,“人人可参与的机器学习研究不是一件坏事。”

 

的确,不可否认这一自动化换脸技术的强大。如果有热爱学习的同学想要研究一下这个深度学习的技术,文摘菌搜集了一些资料,基本需要以下这些步骤:

 

1. 尽可能多的搜集要替换的AB两个人的头像。

2. 训练样本。

3. 找到需要替换的视频,用ffmpeg提取成一帧一帧的图片。

4. 用训练出来的样本对每一帧的图片进行替换。

5. 用ffmpeg合成视频。

 

知乎用户【李瑞】表示,整个过程中最难的是第二步:训练样本。

 

这个步骤对显卡的要求十分高,据说已经有了可以在云端训练模型的方法。但整体上代码十分的简单,在计算机视觉任务中,换脸也只是个很常见的任务,比如之前国内的某一部电视剧就是运用了这种高超的技术。最近这个话题又火了起来,也只是因为这个关注点很有噱头罢了。

weinxin
我的微信
这是我的微信扫一扫
广告也精彩

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: