deepfake，这一 ai 领域的“大毒瘤”，正在引起越来越多来自行业的反击。
当地时间 2020 年 1 月 6 日，facebook 全球政策管理副总裁 monika bickert 在博客中表示，facebook 将删除满足其标准的 deepfake 视频。这是 facebook 打击平台上「操纵媒体」（manipulated media）的最新动作。
【 图片来源： 所有者：华盛顿邮报 】
monika bickert 表示：
虽然 deepfake 视频当前在互联网上仍然很少见，但其数量的增加将会对行业和社会构成重大挑战。
何为 deepfake？
deepfake，大家可能或多或少听过名字。
2017 年底，美国社交新闻网站 reddit 的一位用户 deepfakes 运用人工智能技术，制作了一段“假”色情视频，把《神奇女侠》女主角 cal gadot 的脸嫁接到一个成人电影女星身上，一时间引起轰动。
实际上，换脸在计算机视觉领域颇为常见，提到 ai 换脸的方法，一个绕不开的话题便是 cycle gan——人脸转换在早期的一个重要尝试。 cycle gan 由深度学习模型 gan（generative adversarial networks，即生成对抗网络）衍生而来，可以便捷地学习两个类别之间的转换关系，因而天然地适用于「图像到图像转换」。
不过，cycle gan 保证了语义上的转变，却没法保证一些细节问题，而最主要的两点便是表情无法一一对应、会出现混杂无意义的像素。
不同于 cycle gan，deepfake 是一种深度自动编解码器模型（autoencoder-decoder），通过用源人物和目标人物的至少几百张照片，训练模型分别识别、还原两人面部的能力，最后用源人物的照片搭配目标人物的解码器，从而完成转换。（详见）
【 图片来源： 所有者：github 】
当然，deepfake 也有局限——无法在小样本上工作，也就是说无法凭一两张照片就替换两张脸，模型的训练过程也需要消耗大量资源。
雷锋网了解到，由于用户 deepfakes 制作并上传的换脸视频涉及色情内容，且侵犯了他人隐私，reddit 官方将其封号，而作为报复，deepfakes 也将换脸视频的 ai 代码免费公开。
潘多拉的魔盒一打开，deepfake 开始凭借着惊人的发展速度、逼真的换脸效果，并最终造成了恶劣的社会的消极影响。荷兰网络安全初创公司 deeptrace 曾于 2019 年 10 月发布了一份关于 deepfake 现状的报告（详见），并指出网络上现有的 deepfake 视频中有 96% 涉及色情，各大色情网站上流传的 deepfake 视频中，所有受害者均为女性；同时，娱乐圈名人成为 deepfake 视频的主要恶搞对象。
另外，deepfake 对政局的影响也不容小觑，其中最为典型的两个例子是：
正如荷兰网络安全初创公司 deeptrace 创始人兼首席科学官 giorgio patrini 所说：
无论是视频、音频还是文本，我们一直以来依赖和信任的多个数字通信渠道都已遭到了颠覆。
政府、企业、学界联合发力
deepfake 视频的发展自然而然引发了人们的恐慌与深思。因此，各大科技企业也开始联合学术界做出行动，避免造成更深的负面影响。
正如纽约州立大学工程与应用科学学院吕思伟教授所说：
解决这一问题需要技术人员、政府机构、媒体、公司以及每一个在线用户的共同努力。
2019 年 9 月 5 日，facebook cto mike schroepfer 宣布，facebook 正与微软公司联合包括麻省理工学院、牛津大学、康奈尔科技校区和伯克利大学在内的多所大学研究检测 deepfake 的方法，同时非营利性研究组织 partnership on ai 也参与其中，该组织的成员包括 google、苹果、亚马逊、ibm 等大型科技公司。
另外，facebook 投入了 1000 万美元发起“deepfake 检测挑战赛”（deepfake detection challenge，dfdc），竞赛于 2019 年末在温哥华举行的 neurips 2019 上正式启动，并于 2020 年春季结束，进而激励研究人员以及业余爱好者寻找和记娱乐手机版的解决方案。
当月，google ai 开源 deepfake 视频检测数据集，该数据集共包含来自 28 个不同场景的由真人演员历时 1 年现场拍摄的 3000 多段视频。
2019 年 10 月初，美国参议院情报委员会的 mark warner 和 marco rubio 召集了包括 facebook、twitter、youtube、reddit 和领英在内的 11 家科技公司负责人，旨在加快制定行业标准，规范 ai 合成内容的分享、移除及存档。月末，twitter 发布了平台拟将执行的草案，并公开征集用户意见。
正如本文开头提到的，facebook 近日发布博客，公开了针对 deepfake 视频的新政策。
博客提到，facebook 将删除符合以下标准的操纵媒体：
值得一提的是，对于不符合上述标准的视频，第三方事实核查员也会审查（包括 facebook 的全球 50 多个和记娱乐ag旗舰版本下载的合作伙伴，将使用 40 多种语言进行核查）。如果视频被评定为虚假或部分虚假，facebook 将明显减少其在 news feed 信息流中的传播，用户在分享该视频时也会收到提醒。
同时，facebook 指出，新政策不适用于涉及模仿或讽刺内容的视频，以及仅作了删减或改变了说话顺序的视频。
facebook 新政策充满争议
美智库新美国安全中心 cnas 技术与国家安全项目主任 paul scharre 曾警告说：
deepfake 具有极大的破坏性，利用它来操控选举只是时间问题。
因此，进入 2020 年，随着本届美国总统大选临近，作为全球最大的社交媒体平台，facebook 此举自然也考虑了政治方面的因素。
雷锋网(公众号：雷锋网)了解到，monika bickert 的博客于她即将出席国会关于网络操纵和欺骗的听证会之前发出，这可能并非巧合——距离 2020 年大选只剩 10 个月时间，很少有哪个政治阶层的人对 facebook 在民主进程中发挥的作用感到满意，此次政策的宣布似乎是 facebook 在向当局证明自己的能力。
谈到政治，犹记得，2019 年一段美国民主党议员 nancy pelosi 的演讲视频遭到恶搞（视频倍速降低至 0.75x，nancy pelosi 音调也被调高），使其看上去很像是醉酒状态。很快，这段视频就传遍了各大社交网络，对当事人形象造成了极大影响。
对此，facebook 表示，由于视频属于常规剪辑，并未违反平台的任何规定，因此不会删除；不过鉴于其负面影响，facebook 减少了该视频在平台的传播。
这一做法招致了广泛批评，而 facebook 此次推出的“新政”也未针对类似去年 nancy pelosi 视频的虚假内容给出令人信服的策略，因此充满争议，争议的主要原因有以下几条：
第一，第 1 条标准只适用于那些「让观众误以为视频中的人物说了他们实际上没有说过的话」的视频，也就是说不包含那些让观众误以为视频中的人物做了他们实际上没有做过的事情的 deepfake 视频。
其实这是个很大的漏洞。按照 facebook 的说法，哪怕一个 deepfake 视频里面有政客焚烧美国国旗，参加白人民族主义集会，或与恐怖分子握手，facebook 也不会删除视频。虽然以上都是「极端情况」，但在外交政策、国家安全和选举诚信方面，这些往往是最紧要的。尴尬的是，facebook 一位发言人的确向美国付费媒体 onezero 证实，这些情况下平台不会删除视频。
第二，第 2 条标准对于控制虚假信息的传播效果有限，因为现阶段绝大多数此类视频依然是通过视频剪辑软件来编辑的，通过手动删除背景信息或调整语序，视频剪辑者便到达了“断章取义”的目的。正如纽约大学斯特恩商业和人权中心副主任、政治虚假信息专家 paul barrett 所说：
根据 facebook 的新政策，即便是虚假视频，但因为篡改的手段不先进，所以不会被删除。
第三，facebook 在博客里提到的「事实核查政策」有严重的局限性。美国《连线》杂志作家 renée diresta 认为：
事实核查政策的一个主要问题就是太慢了，在查明事实之前，视频一直在病毒式传播；而且如果涉及到政治，大多数人并不会相信事实核查的结果，这甚至还会升级为党派之争。
一个很好的例证便是——2019 年 facebook 的事实核查机制启动时，nancy pelosi 的视频已经广为传播，而且最终也没被删除，负面影响并未降低；面对网络暴力，nancy pelosi 还指责 donald trump 团队也有不可推卸的责任（雷锋网注：视频中 nancy pelosi 在谈论 donald trump）。
第四，该政策仅针对视频。近日，美国亚利桑那州共和党众议员 paul gosar 在 twitter 上发了一张前总统 barack obama 与伊朗总统握手的伪造照片。facebook 证实，这确实也不在新政策针对的范围内。
第五，该政策最大的漏洞是不适用于涉及模仿或讽刺的视频。实际上，虚假信息制造者往往是利用“讽刺”的标签做幌子，一次次顺利通过 facebook 的事实核查，病毒式传播着带有明显误导性的消息。除非 facebook 明确定义什么才算“讽刺”，否则 deepfake 视频借着“讽刺”的名号蒙混过关也不是不可能。
第六，该政策可能有向权贵低头之嫌。据《纽约时报》报道，facebook 的一位发言人发邮件称：
如果政治演讲符合公众利益，facebook 不会对其进行审查。 如果是政治人物违反了平台规定，我们将通过权衡「公共利益价值和损害风险」来进行评估。
对此，《纽约时报》认为，所谓的「公共利益价值和损害风险」定义模糊，但可以确定的是，政治人物是受到保护的阶级。如此看来，政治人物操纵社交媒体，似乎比普通人更容易。
在批评声不绝于耳之时，也有一些人士表示了对这一政策的肯定。
比如非营利组织 witness 的项目主管 sam gregory 表示：
我认为这个政策很好，在 deepfake 成为一个普遍的问题之前，社交平台首先要清楚地表明立场，宣布他们的具体政策，这是很重要的。
另外 认为，做得不够好总比什么都没做要好，至少 facebook 的新政策考虑到了一些可能出现的典型 deepfake 视频，这对政治是有积极意义的。诚然，如今绝大多数 deepfake 涉及色情，而非政治，但 facebook 一直以来禁止裸露和色情的规定其实也已经有了不错的效果。
在雷锋网编辑看来，facebook 一直以来联合企业、学术界、政府做出的努力，的确表现出了它作为全球最大社交媒体的社会责任感；但不得不说，面对让众多女性、名人深受其害的 deepfake，facebook 的博客像是一份考虑不周的、匆匆交上的答卷。
要有效地避免受害者群体更加庞大，或许还得三思而后行。
