查看原文
其他

细思恐极!AI换脸术让朱茵变杨幂,还有更可怕的……

南方都市报 南方都市报 2019-03-30


在“AI换脸杨幂”视频引发风波后,2月27日,上传该视频的网友公开称已经下架了相关视频,并表示应该尊重版权与肖像权。


日前,一段通过“AI换脸技术”修改后的《射雕英雄传》片段在网上流传,视频中原由朱茵饰演的黄蓉被更换成杨幂的脸。


朱茵饰演黄蓉


替换成杨幂后


对此,有专家表示因应用场景的不同,AI换脸技术也面临着不同的法律风险,如涉嫌侵犯影视作品的著作权,侵犯他人的名誉权、肖像权等。


视频网站存大量“明星换脸视频”


2月25日,一段通过“AI换脸技术”修改后的《射雕英雄传》片段在网上流传。南都记者从视频画面中获悉,视频中原由朱茵饰演的黄蓉被更换成杨幂的脸。


原版朱茵



换脸杨幂


从视频上看毫无破绽

简直让人以为就是杨幂演的了

因为太逼真

旋即在网上引起轩然大波



“创作的初衷时希望更多朋友认识这项技术,避免将来有人伪造明星负面内容的视频时,会给公众人物带来更大的损失。同时也让更多人了解造假视频背后的工作原理。”网友“换脸哥”在微博表示,他已经和杨幂的官方工作室沟通,AI换脸应该用正确的方式打开,在使用的同时也要尊重版权与肖像权。


除了被换脸的朱茵版《射雕英雄传》,南都记者以“AI换脸”为关键词在视频网站上搜索出大量结果。除了被“换脸”修改的视频成品,还有“换脸软件安装指南”等“换脸”视频教程。


杨幂的肖像被用于修改后的《神奇女侠》电影中。


以B站UP主“AI徐*外”为例,该UP主于2018年1月发布了视频《杨幂出演神奇女侠时,场面一度泪崩》。在该视频中,电影《神奇女侠》女主角盖尔·加朵所饰演的戴安娜·普林斯一角的面部被更换成杨幂。该视频全长为2分41秒,播放量超过了18万。此前,该UP主还上传过如《使用AI让PAPI酱变身苏菲玛索》等其他的“换脸视频”。


主播阿冷的脸分别换成范冰冰、刘亦菲等明星。


此外,还有“冯提莫换脸赵丽颖”、“阿冷换脸刘亦菲”等换脸视频。以主播阿冷的一个弹唱视频为例,有网友在视频《人工智能深度学习视频换脸》中,将阿冷的脸分别换成范冰冰、杨幂、佟丽娅、唐嫣和刘亦菲,并在同一画面进行对比展示。


“AI换脸存侵权风险

未来或将影响影视产业 ”


杨幂与朱茵换脸的视频走红后,不少网友在讨论中提出,此举可能侵犯了明星的肖像权,也有人表示“换脸”是对原作品的不尊重。


2017年12月开始,AI换脸技术开始走红。据西南政法大学人工智能法学院院长陈亮介绍,目前AI换脸技术在影视制作、视频直播、新闻播报等方面的应用越来越广。“2017年当时是国外有网友发布了一个虚假的淫秽视频,就是将色情明星的脸与知名度高的大众明星的脸进行了更换,这个视频当时造成了很大的影响,这项技术也开始被公众熟知。”


陈亮称,AI换脸技术因其应用场景的不同也面临着不同的法律风险:“比如未经授权修改影视作品,涉嫌侵犯影视作品的著作权;在相关色情视频中的换脸,可能侵犯他人的名誉权;未经本人同意擅自使用其肖像进行换脸,可能侵犯他人的肖像权。”


中国社科院知识产权中心教授杨延超长期关注人工智能领域,在他看来,包括换脸技术在内的人工智能会对未来影视产业带来很大的影响。“AI换脸技术是通过机器学习的方式,将事先采集好的人脸数据加上数据计算的方式实现的。未来可能一个明星他不用真人上镜了,只需要把他的面部数据等采集好。”杨延超认为,虽然这项技术可以提高影视生产的效率,但也会一定程度地使观影效果下降。


“换脸涉及到原作作者、制片人、原表演者一方,同时也涉及到被使用头像的另一方。根据相关规定,在未获得影视作品版权方授权的情况下对作品进行修改,涉嫌侵犯修改权。对于表演者而言,更多是涉及肖像权、名誉权等人格权的侵权问题。”杨延超说。


AI换脸术已用于黑产实施诈骗


除了换脸引发的道德和伦理问题,阿里安全图灵实验室高级算法专家觉奥表示,黑灰产利用AI换脸是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击。”


南都记者从阿里安全方面了解到,2017年11月下旬,阿里安全图灵实验室发现,有犯罪团伙通过3D软件控制人脸照片进行攻击操作,共发起过几百次攻击,导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后,黑灰产人员可在受害人毫不知情的情况下,用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。


由于深度学习的迅猛发展,网络攻防的技术不断进步。值得注意的是,无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。


当前,如何识别“虚假人脸”也成了互联网企业关注的焦点。据觉奥介绍,阿里安全图灵实验室可做到通过深度学习技术,训练模型,将两者的纹理、肤色、反光等特性识别出来。“目前识别准确率达到99.9%,可实现在毫秒级时间内揪出假人脸,”觉奥说。


据南都记者了解,今年年初,阿里安全图灵实验室提出了安全AI的概念,包括AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI,希望提升行业对这一领域的关注,推动AI更好发展。


南方都市报(nddaily)报道

南都记者 李玲 秦楚乔


* 南方都市报(nddaily)原创内容未经授权,不得转载。


标星+置顶南方都市报

一秒找到南都君



南都君特选(戳下方标题)

认准这3张脸,警方提高悬红至150万!


广东人挺住!伊服·赛布干·内酷·梅德穿!


何洁诞下第三胎!


大妈捡到几个纸箱卖了9元,结果被判赔8万!


联想董事长diss折叠屏手机:都没超过3年前联想发布的概念机



点个“好看” ↓↓

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存