查看原文
其他

杨幂在直播卖衣服??细看怪怪的……

南都报道 南方都市报 2023-06-21


近日,多个电商直播间被爆出使用明星AI换脸直播,引发争议。南都记者留意到,有不少直播间里出现了“明星脸”,还是不同的主播共享同一张明星脸。

对此,广东合邦律师事务所律师肖锦阳告诉南都记者,直播间未经明星同意,利用深度合成技术使用其肖像制作“AI换脸”行为,属于“故意告知消费者虚假情况或者故意隐瞒真实情况,诱使消费者作出错误意思表示的行为”,上述行为已构成欺诈。

“在纯粹的‘无人直播’‘数字人直播’发展完善之前,AI换脸直播能够在实用程度上解决部分问题,有助于企业打造统一IP、规避主播离职风险,”微媒创始人天狐(张庚)认为,但需要强调的是,“如果大家不要在肖像权上面做擦边球动作的话,真正把自己的统一人设、统一IP打造起来,肯定还是有发展空间的。”

不同时段、不同主播同一张“杨幂”脸

南都记者留意到,女装品牌SDEER的微信视频号直播间里,主播长相和女明星杨幂十分相似。而在不同时段内,该直播间的不同主播,都有着和杨幂相似的脸。

该直播间的不同主播都有着一张神似杨幂的脸

一位长期观看该女装品牌的消费者告诉南都记者,这个女装品牌的视频号直播间的主播,和其淘宝直播间的直播,是同样的人。但相同的主播在两个直播间用的是不同的脸,“他们在淘宝直播间就是用的自己的脸,在视频号直播间就用AI换过的脸”。

 同一个主播在淘宝直播间出现时,和杨幂并不相像

除了该女装直播间外,八马茶叶的直播间也被爆出主播神似杨幂、迪丽热巴,但在主播低头、转身时,又会暴露出是换脸后的结果。

目前,八马茶叶的直播间已经看不到神似杨幂、迪丽热巴的主播,但在SDEER直播间,直到5月24日早晨,神似杨幂的主播仍在照常直播。

对此,广东合邦律师事务所律师肖锦阳告诉南都记者,直播间未经明星同意,利用深度合成技术使用其肖像制作“AI换脸”行为,属于“故意告知消费者虚假情况或者故意隐瞒真实情况,诱使消费者作出错误意思表示的行为”,上述行为已构成欺诈。

同时,直播间“AI换脸”行为构成对明星肖像权、隐私权的侵害。明星可以要求运营商承担停止侵权、赔礼道歉并赔偿损失等民事责任;如发现自己的视频被人用于违法犯罪,可向公安机关报案追究相关人的法律责任。

肖锦阳建议,AI换脸不仅具有极高的欺骗性,也带来个人信息安全、肖像权的侵害及视觉失真与新闻失实等一系列社会风险。目前对于深度合成服务与应用方面的规范还需进一步细化和明确,要从法律和技术方面加以约束。

目前,已经有平台对于这类行为提出了规范。5月9日,抖音于其官方公众号上发布“关于人工智能生成内容的平台规范暨行业倡议”,其中重点提到创作者、主播、用户、商家、广告主等平台生态参与者应对人工智能生成内容进行显著标识,同时虚拟人需在平台进行注册,虚拟人技术使用者需实名认证。虽然该倡议内容不具备强制性,但从目前来看,抖音成为国内首批对人工智能生成内容可能带来的风险提出明确规范的内容平台。

从政策监管上看,今年1月生效的《互联网信息服务深度合成管理规定》中指出,提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

AI换脸直播成数字人直播“平替”

在《互联网信息服务深度合成管理规定》和抖音发布的“关于人工智能生成内容的平台规范暨行业倡议”中,都同时提到了AI换脸类直播和数字人类直播。但实际上两者的技术门槛和成本都并不一样。

微媒创始人天狐(张庚)告诉南都记者,这类AI换脸直播和纯粹的“数字人直播”“无人直播”还是不一样,AI换脸直播还是需要有个主播出现在屏幕里,和观众进行互动,相当于实时视频输出,还是需要直播人力成本,而“数字人直播”“无人直播”则是完全替代真人直播。

“AI换脸直播对算力的要求会低很多,也不涉及什么大模型,就只是一个面部轮廓,然后中间某些区域的合成。”天狐透露。

对于目前AI换脸直播需要的费用,天狐透露,价格是参差不齐的,但也并不高,“有些可能是几千块钱一个月的,也有几百块钱一个月的,因为这项技术其实不算太新,已经比较便宜了。很多收费就是想割韭菜、收代理商的钱,早期能用得起来就快速收一波代理招商费,所以价格反而是其次了。”

南都记者咨询了一家提供AI换脸直播软件的企业,对方收费仅99元,在这项收费里,包括培训、软件还有部分已有脸部模型的内容。对方还透露,如果想定制专属的脸部模型,可以在电脑配置允许的情况下“自己去跑”,“就是花费的时间会长一些,但你只要配置够就能自己跑模型出来”。

事实上,有不少直播间都在通过AI换脸,让直播间里不同主播共享同一张脸,无论这张脸是否来自明星。天狐告诉南都记者,这是因为有品牌意识的公司,需要摆脱对大主播的依赖,“至少和主播这边签约的时候,他能更有底气。甚至公司直接拿一个虚拟人的脸,然后所有主播上阵的时候,都用这同一个品牌IP。一方面巩固他们自己的IP的归属性,另外就不会被主播绑架。”

对于平台监管,天狐认为,实际上对AI换脸直播的监管和识别的成本是大于无人直播的,“无人直播监管比较容易,是因为平台直接可以看到,比如这片段播放了以后,直接生成标签,或者MD5码值之类的,后面再有同样的片段出来,很容易就识别出来了。但是明星换脸或者是真人换脸的形式,是有人真的在后面做互动,所以平台单纯通过整个视频和内容的重复度去检测的话,成本就很高。”

天狐表示,数字人直播完全替代真人直播,仍有不短的发展周期,“AI换脸直播现在是中间特别好的过渡,在达到完全的无人直播之前。”

对于AI换脸直播的未来发展,天狐认为,AI换脸直播对比完全的无人直播,虽然技术会要求更低,但是在实用度上确实解决了品牌方的一些问题。但需要强调的是,“只要大家不要在肖像权上面做擦边球动作的话,真正把自己的统一人设、统一IP打造起来,还是有发展空间的。”

南方都市报(nddaily)、N视频报道
南都记者 汪陈晨

 ▊ 南都君特选(戳下方标题)


已投35亿,突然解除合同!涉广东这条地铁

至少11只,今年强制退市!
命丧珠峰!他的遗体至今还在山上



 点亮关注 ↓↓ 

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存