AI换脸，你怎么看？

hellioncu

技术是双刃剑，封锁不能解决问题。每个人都提高法律意识，不搞违法的事情就行了

xdsnet

      投票是中立的，因为技术是双刃剑，是中立的
      且即使不采用AI换脸术，在当前强大工具支持下，只要有足够的利益，纯人工换脸也是可以完成的。现在只是这样的技术降低了相应的技术成本（难度）而已。所以这在一定层度上说明对此技术是无法封堵的。
      
      要处理后续非技术问题，则只能在其他方面找办法啦，这包括法律方面、相应管理方面。

aloki

针对AI换脸技术的出现，AI换脸背后是怎么回事呢？你是什么样的看法呢？
      AI换脸技术英文名叫DeepFake，它是GitHub的一个开源项目代码仓库。Deepfake 的整个流程包括三步，一是提取数据，二是训练，三是转换。其中第一和第三步都需要用到数据预处理，另外第三步还用到了图片融合技术。通过采用GANs（生成式对抗网络）深度学习，在制作DeepFake的过程中该算法会让两个神经网络彼此对抗。第一个神经网络被称为生成网络，它负责制作尽可能逼真的生成模型；第二个网络为鉴别器，它将原模型和复制模型与原始数据库中大量的“特征点”进行对比。基于每一次的“对抗”结果，生成网络会调整它制作时使用到的参数，直到鉴别器无法辨别它生成的作品和真迹，就算“成功”。这时候，最终合成的视频基本可以以假乱真了。
      简单来说，这个过程就像是两个人都在扮演孙悟空的角色，一个是师傅（生成网络）一个是徒弟（鉴别器），徒弟的任务就是不断向师傅学习演技直至没人能区分出两个孙悟空是谁扮演的为止。
相同的技术原理很早前便被应用到了电影特效拍摄当中，但当时这是一项操作难度很高的工作。GitHub引入的DeepFake技术将这一过程简化到只需要一张目标对象的照片通过配置计算机就可以使用开源算法做出真假难辨的“换脸”视频来。再后来“FakeApp”应用的出现大大降低了操作门槛，让几乎所有人都能够使用换脸技术，只要会安装应用，稍加学习训练即可。

      视频“换脸”这件事的确会助力假新闻、假视频的滋生。除了换脸引发的道德和伦理问题，黑灰产利用 AI 换脸，是目前常见的一种攻击手段。举个例子，2017 年 11 月下旬，阿里安全图灵实验室就发现，有犯罪团伙通过 3D 软件控制人脸照片进行攻击操作，共发起过几百次攻击，导致近百名受害人驾照分被盗刷。通过 3D 合成“假脸”认证账号注册或登陆后，黑灰产人员可在受害人毫不知情的情况下，用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。
     但这也并不是无计可施，可以基于安全 AI 的方法来很好地解决这一攻击问题。在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用 AI 的手段来解决 AI 的攻击。通过深度学习技术，训练模型，来通过两者的纹理、肤色、反光等特性的不同而识别出来。可实现在毫秒级时间内揪出假人脸，目前识别准确率达到 99.9 %。值得一提的是，去年DeepFake也惊动了美国五角大楼。他们通过美国国防部高级研究计划局(DARPA)委托全美各地的专家，研发了自动检测“换脸”假视频的AI工具，准确度达到99%。
     技术本身没有对与错，关键还是要看用的人。用在好的方面就能造福世人，用在不好的地方就可能祸害子孙。

woxizishen

1.人脸识别技术目前本身就是有缺陷的，要不然金融证据公司在启动人脸识别认证时候，还要对方讲一段话^_^。

2.其实作为研发图形识别，声音识别，指纹识别的部门或者公司，应该进行合并。不能只讲究便捷而忽视安全。
对于修改重要的交易密码或涉及金额或异地登陆时候，就应该人脸，指纹结合使用。而现在鬼扯的是很多大点公司除了人脸识别，最后又严格到回归到要用户上传**，手持**那么麻烦的地步。让用户这么折腾，不如人脸，声音，指纹三种统一认证，只要一样没通过就不行。不知道研发部门不考虑下结合使用，而不是每次到最后无可老何情况下，又让用户上传**和手持**，而这些电子证件经常被手机缓存，对用户有极大的危险。

别说AI变脸了，我这头像开了一点美颜，基本上熟人都不知道我是谁了。现在变脸技术说不好听点，有不少都是来自中国强大的PS技术。

fenyun689

AI技术换脸是挡不住 的，只要有利益，都有人会去干。需要制定相关的法律，加强在法律层面的约束。

应用方面，美颜都可以随便用了，换脸只是更高层次的应用。只要没危害也是可以用的。
例如
拍电影，就可以用替身，然后换脸。
想看小电影，又喜欢某个美女。就可以直接换了脸看。

forgaoqiang

AI 换脸本来是影视领域的技术 现在有开源的人工智能 普通群众也可以使用这个技术
AI换脸之所以这么火热，主要是因为github上开源了一个机器学习项目 deepfaker ，然后Bilibili的一位up主上传了一段他处理好的视频，于是AI换脸大热。
这个项目的作用就是将影片中的人脸进行更换，本来换脸是好莱坞的特效，现在普通的群众就能够利用开源工具进行快速操作

AI换脸神奇之处和Photoshop处理静态图片不同，完全不需要你手动去修改每一帧图像，软件根据学习到的人脸自动完成替换，换句话说说AI是自学习的，只需要提供原始材料，剩下的交给AI处理就可以了。

对于这门技术的看法：
技术本身就是技术，没有好坏之分，就看使用者的情况，这门技术也不能被禁止，合理的使用是个人应该遵守的底线，相关法律也要跟着完善，对于恶意犯罪行为需要惩罚。

危害和识别：
DeepFakes会让视频也成为不可信的来源，不再是照片可以被PS，这门技术还将有可能被利用制造虚假证据。
识别难度会越来越高，机器学习是能够“进化”的，目前能够通过观察面部细节、以及光线环境分析来进行初步判断。


有好事者建立了个中文的项目站点，里面有详细的技术细节和操作步骤，方便每个人使用这项目来创作作品
https://deepfakes.com.cn/
目前对于个人PC计算量还是非常大的，需要较长时间完成视频制作。

PS：有人分析这门技术的诞生背景
我们一定要提防 deepfakes 诞生背后的思想。我们可以对使用人工智能所涉及的伦理道德、虚假新闻、机器学习工具的普及等问题展开长篇大论，但我们首先应该认识到，这项可能触发核战争的技术，最初是被男性用来满足他们对女性身体的幻想。

renxiao2003

科技的发展总是会被部分不法份子所使用的。但不可阻碍历史前进的步伐。

infoback

故事背景：
      我知道这个梗，作为一个资深的A粉和B粉，B站上的UP主放了一段电影《射雕英雄传》(1994年版)朱茵主演黄蓉改造视频，里面就是用了所谓“AI换脸术”也就是我们这次讨论的DeepFake技术处理过的杨幂的脸，神态表情如同朱茵饰演的黄蓉一样生动俏皮，毫无违和感，现在当然下架了，下架之前点击量有1.1亿，B站几个镇站之宝都没上升这么快。

技术来源：
      其实这个技术的火热，就像这次论坛讨论帖的发起者，用的那么隐晦的词语，哈哈哈，技术真正火起来的原因不是什么高大上的梦想？！
     当时“神奇女侠”盖尔·加朵的脸被贴在了一个xxx（技术宅男都懂的电影）电影女主的脸上，令无数宅男神往的女神就这么......，当时新闻一出在网络上引起了不小的轰动。而这家电影公司采用的就是这个名为 deepfake 的深度学习技术，当然这款工具本来的用途是用来识别和交换图片、视频中人物脸部图像的工具，，但是就有这么一群不安分的人，非要把一项本该得到很好利用的技术用在某些迷之领域，╮(╯▽╰)╭，也真的是醉了~~~

技术个人感想：
     其实，在我看来，技术这个真的就像之前坛友所说的，是把双刃剑，AI技术，我们所知的，不仅包括deepfake，包括图像语音识别等等，像今天讨论的用技术来还原人物形象的做法在电影中很早已经出现很多次。比如我们熟悉的大作《速度与激情 7》中用 CG 技术还原了已经去世的Paul，当时坐在车里的Paul再次出现的时候，整个电影院的人都在唏嘘感叹，很多影迷还真的哭出来，因为太真实了，还有《星球大战外传：侠盗一号》中还原了Peter。这些 CG 技术难度很大，成本也高，AI 技术、机器学习的普及让制造假视频变得简单起来。
      还有大家是否记得前几年网上流行过一段奥巴马踹门的视频，后来被证明是通过剪辑合成的。如果这些场景放到今天用 AI 来实现，恐怕那些微商们不需要 20 万就可以和前美国总统合影了。但现在，deepfake 的出现大大降低了换脸门槛，使用者不仅用它来捏造针对政要人士的假新闻，还用它来制造很多不可描述的事情。
    也许以前的视频用的都是公众人物的素材，一些吃瓜群众还看得挺过瘾。可当这样的事情发生你自己、亲人和朋友身上时，你还会这样想吗？就像那句话说的，雪崩之前没有一篇雪花是无辜的，我们真的要合理利用技术，尤其是我们这些本身就是技术一线的人员

seesea2517

道高一尺，魔高一丈，只有技术的互博，才能促进技术的进步，火眼金睛的AI马上就来了哈，妖怪快现形！

michael1983

技术的进步，这个AI换脸技术的出现不足大惊小怪，而且换的也多是静态图片，顶多能用于恶搞，真正用于国计民生，还有许多技术难关和伦理道德需要跨越。
确实，随时AI、VR、大数据等技术的迅猛发展，我们以前只能在科幻电影里面看到的场景都在陆陆续续变为现实，印象中的视网膜认证、指纹识别、声音认证，这些技术现在已经在很多地方落地使用，而且使用场景和规模也在迅速扩张。
尤其现在的金融行业，一些交易环节的认证，都在使用人脸识别了，辅助以一些动作展示（摇头、张开嘴巴等），来避免类似AI换脸的作弊，效果也是非常不错。
技术都有两面性，我们要利用好的一面，限制其不利的一面，从制度、法律、道德、标准等多种层面对其进行约束，这样才能驾驭技术这匹野马，让其真正为我所用。