加入收藏 | 设为首页 | 会员中心 | 我要投稿 衡阳站长网 (https://www.0734zz.cn/)- 数据集成、设备管理、备份、数据加密、智能搜索!
当前位置: 首页 > 创业 > 点评 > 正文

政府、企业、学界联合发力向Deepfake宣战

发布时间:2020-01-14 15:04:55 所属栏目:点评 来源:互联网
导读:Monika Bickert 表示: 虽然 Deepfake 视频当前在互联网上仍然很少见,但其数量的增加将会对行业和社会构成重大挑战。 何为 Deepfake? Deepfake,大家可能或多或少听过名字。 2017 年底,美国社交新闻网站 Reddit 的一位用户 Deepfakes 运用人工智能技术
副标题[/!--empirenews.page--]

Monika Bickert 表示:

虽然 Deepfake 视频当前在互联网上仍然很少见,但其数量的增加将会对行业和社会构成重大挑战。

何为 Deepfake?

Deepfake,大家可能或多或少听过名字。

2017 年底,美国社交新闻网站 Reddit 的一位用户 Deepfakes 运用人工智能技术,制作了一段“假”色情视频,把《神奇女侠》女主角 Cal Gadot 的脸嫁接到一个成人电影女星身上,一时间引起轰动。

实际上,换脸在计算机视觉领域颇为常见,提到 AI 换脸的方法,一个绕不开的话题便是 Cycle GAN——人脸转换在早期的一个重要尝试。 Cycle GAN 由深度学习模型 GAN(Generative Adversarial Networks,即生成对抗网络)衍生而来,可以便捷地学习两个类别之间的转换关系,因而天然地适用于“图像到图像转换”。

不过,Cycle GAN 保证了语义上的转变,却没法保证一些细节问题,而最主要的两点便是表情无法一一对应、会出现混杂无意义的像素。

不同于 Cycle GAN,Deepfake 是一种深度自动编解码器模型(Autoencoder-Decoder),通过用源人物和目标人物的至少几百张照片,训练模型分别识别、还原两人面部的能力,最后用源人物的照片搭配目标人物的解码器,从而完成转换。

政府、企业、学界联合发力向Deepfake宣战

当然,Deepfake 也有局限——无法在小样本上工作,也就是说无法凭一两张照片就替换两张脸,模型的训练过程也需要消耗大量资源。

由于用户 Deeofake 制作并上传的换脸视频涉及色情内容,且侵犯了他人隐私,Reddit 官方将其封号,而作为报复,Deepfakes 也将换脸视频的 AI 代码免费公开。

潘多拉的魔盒一打开,Deepfake 开始凭借着惊人的发展速度、逼真的换脸效果,并最终造成了恶劣的社会的消极影响。荷兰网络安全初创公司 Deeptrace 曾于 2019 年 10 月发布了一份关于 Deepfakes 现状的报告,并指出网络上现有的 Deepfake 视频中有 96% 涉及色情,各大色情网站上流传的 Deepfake 视频中,所有受害者均为女性;同时,娱乐圈名人成为 Deepfakes 视频的主要恶搞对象。

另外,Deepfake 对政局的影响也不容小觑,其中最为典型的两个例子是:

  • 2018 年,由 Deepfake 合成的加蓬总统 Ali Bongo 新年致辞视频曾引起了兵变;

  • 2019 年,马来西亚经济部长 Azmin Ali 与男性发生性关系的视频搅动了马来西亚政局(同性性关系在马来西亚属违法行为,Azmin Ali 声称视频是由 Deepfakes 技术伪造,属政治阴谋);

正如荷兰网络安全初创公司 Deeptrace 创始人兼首席科学官 Giorgio Patrini 所说:

无论是视频、音频还是文本,我们一直以来依赖和信任的多个数字通信渠道都已遭到了颠覆。

政府、企业、学界联合发力

Deepfakes 视频的发展自然而然引发了人们的恐慌与深思。因此,各大科技企业也开始联合学术界做出行动,避免造成更深的负面影响。

正如纽约州立大学工程与应用科学学院吕思伟教授所说:

解决这一问题需要技术人员、政府机构、媒体、公司以及每一个在线用户的共同努力。

2019 年 9 月 5 日,Facebook CTO Mike Schroepfer 宣布,Facebook 正与微软公司联合包括麻省理工学院、牛津大学、康奈尔科技校区和伯克利大学在内的多所大学研究检测 Deepfake 的方法,同时非营利性研究组织 Partnership on AI 也参与其中,该组织的成员包括 Google、苹果、亚马逊、IBM 等大型科技公司。

另外,Facebook 投入了 1000 万美元发起“Deepfake 检测挑战赛”(Deepfakes Detection Challenge,DFDC),竞赛于 2019 年末在温哥华举行的 NeurIPS 2019 上正式启动,并于 2020 年春季结束,进而激励研究人员以及业余爱好者寻找解决方案。

当月,Google AI 开源 Deepfake 视频检测数据集,该数据集共包含来自 28 个不同场景的由真人演员历时 1 年现场拍摄的 3000 多段视频。

政府、企业、学界联合发力向Deepfake宣战

2019 年 10 月初,美国参议院情报委员会的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和领英在内的 11 家科技公司负责人,旨在加快制定行业标准,规范 AI 合成内容的分享、移除及存档。月末,Twitter 发布了平台拟将执行的草案,并公开征集用户意见。

正如本文开头提到的,Facebook 近日发布博客,公开了针对 Deepfake 视频的新政策。

博客提到,Facebook 将删除符合以下标准的操纵媒体:

  • 过度编辑或合成的视频,误导观众以为视频中的人物说了他们实际并没有说过的话;

  • 通过 AI 或机器学习技术对原有视频素材进行整合、替换或叠加生成的视频。

值得一提的是,对于不符合上述标准的视频,第三方事实核查员也会审查(包括 Facebook 的全球 50 多个合作伙伴,将使用 40 多种语言进行核查)。如果视频被评定为虚假或部分虚假,Facebook 将明显减少其在 News Feed 信息流中的传播,用户在分享该视频时也会收到提醒。

同时,Facebook 指出,新政策不适用于涉及模仿或讽刺内容的视频,以及仅作了删减或改变了说话顺序的视频。

Facebook 新政策充满争议

美智库新美国安全中心 CNAS 技术与国家安全项目主任 Paul Scharre 曾警告说:

Deepfake 具有极大的破坏性,利用它来操控选举只是时间问题。

因此,进入 2020 年,随着本届美国总统大选临近,作为全球最大的社交媒体平台,Facebook 此举自然也考虑了政治方面的因素。

Monika Bickert 的博客于她即将出席国会关于网络操纵和欺骗的听证会之前发出,这可能并非巧合——距离 2020 年大选只剩 10 个月时间,很少有哪个政治阶层的人对 Facebook 在民主进程中发挥的作用感到满意,此次政策的宣布似乎是 Facebook 在向当局证明自己的能力。

谈到政治,犹记得,2019 年一段美国民主党议员 Nancy Pelosi 的演讲视频遭到恶搞(视频倍速降低至 0.75X,Nancy Pelosi 音调也被调高),使其看上去很像是醉酒状态。很快,这段视频就传遍了各大社交网络,对当事人形象造成了极大影响。

对此,Facebook 表示,由于视频属于常规剪辑,并未违反平台的任何规定,因此不会删除;不过鉴于其负面影响,Facebook 减少了该视频在平台的传播。

这一做法招致了广泛批评,而 Facebook 此次推出的“新政”也未针对类似去年 Nancy Pelosi 视频的虚假内容给出令人信服的策略,因此充满争议,争议的主要原因有以下几条:

(编辑:衡阳站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读