首页 > 手机数码 > 正文

AI换脸两大风险是什么?AI换脸存在哪些风险?AI换脸风险危害细数

2019-09-02 10:02 来源:网络

  AI换脸两大风险。这几天,一款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“AI换脸视频”。什么是所谓“AI换脸视频”呢?就是通过这款软件,用户可以将影视剧、综艺节目片段中明星的脸换成自己的照片,因为是AI人工智能技术,所以呈现出的换脸效果比较好,脸部表情自然,效果十分逼真,就像是自己演的一样。

  传奇来了

AI换脸两大风险是什么?AI换脸存在哪些风险?AI换脸风险危害细数

  因为看到很多朋友的分享,记者昨天也去应用商店下载了这个免费的软件。打开软件之后,赶紧通过软件自拍了一张符合提示要求的自拍照,可是当选择了想替换明星脸的影视片段时,软件一直出现“服务器繁忙”的提示,可见飞速增长的用户给软件服务器带来多大的压力。

  没玩成这个软件,你没准是幸运的。在软件火爆之余,昨天开始也有用户在社交媒体表达了对隐私泄露的担忧。由于换脸后需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,同时注册平台需要手机号码,不少用户担心脸部数据被泄漏会引发一系列问题。也有细心的用户发现,这款软件的用户协议中还暗藏玄机。专家指出,此类软件的确存在隐私泄露风险,同时,软件中提供给用户用来换脸的影视剧片段也存在侵权可能性。

  “换脸”有风险,存在泄漏核心个人信息可能

  利用这款软件进行“换脸”,首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频,则需要进行验证确认所使用的照片的确是用户本人,而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析,这个过程中,可能存在核心个人信息泄露的风险:“首先‘换脸’技术,包括在搜集过程中左脸右脸转动、眨眼,本质是搜集了你的面部的识别信息,这个是一个用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里面,有可能涉及到财产安全和人身安全的问题。”

AI换脸两大风险是什么?AI换脸存在哪些风险?AI换脸风险危害细数

  软件宣称,照片提交上传后,会对照片进行非公众人物验证和肖像权验证,确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制,也无法被分享或下载。虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞,但朱巍指出:“这种东西看似是以娱乐为目的,因为大家笑一笑不会产生什么伤害。但是技术的发展道高一尺魔高一丈,如果被坏人利用这个技术,盗取了你换脸的这些信息,包括你的个人信息,一旦匹配成功了,轻则是精准诈骗,重则的话有可能你的账号、密码都是一个不安全的状态。所以平台的责任实际是更大的。软件的影响范围越大、越火,平台的社会责任和道德责任层面的法律责任也就越高。”


  使用影视剧片段“换脸”,是否侵权有隐患

  与此同时,软件内置可供选择的影视剧片段中,有包括《延禧攻略》、《长安十二时辰》、《还珠格格》在内的多部热门国内电视剧,也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段,还有大量热门的综艺片段。对此,朱巍指出:“换脸技术涉及的是放到影视剧里面去,那么影视剧本身涉及著作权、知识产权。你突然间把这个脸换了的话,是不是构成合理使用?这个可能跟知识产权法是有密切关系的。”

AI换脸两大风险是什么?AI换脸存在哪些风险?AI换脸风险危害细数

  其实,人工智能进行换脸的技术数年前已经出现。2017年,国外一个论坛用户首先将自己制作的换脸视频发布在网络上,利用这一技术,他将国外女明星的照片与色情影片合成,几乎以假乱真,一度引发巨大争议。虽然相关视频最终被删除,但是这项技术随后被开源。今年年初,有国内用户在网络上发布一段合成的换脸视频,将一段电影片段中朱茵的脸换成了杨幂,也曾引起争议。随着如今这款软件的爆红,视频“换脸”门槛进一步降低。朱巍分析:“很多的换脸,它实际上并非是以娱乐为目的的,有一些涉及到一些比如说人格尊严,包括人的名誉权,肖像权的侵害,他换的可能不是自己的脸,可能是别人的脸,或者是在一些这种非法低俗的网站上进行这样的一个行为,尤其它做的特别逼真,非常有可能让其他人认为是不是被换脸的这个人就实际从事的表演,这些都是安全隐患。”

  用户协议暗藏玄机 “必要授权”存在大幅修改

  有细心的用户发现,这款软件的用户协议中还暗藏玄机。其中写道,使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出:“我授权给你以后,但是你不能够把我的照片用于其他的一些非法用途,或者是把我的照片来进行修改丑化,或者恶搞这样的一些变化、修改,那这样的话对于我授权给你的使用肖像权的目的,其实可能就会存在着一定的偏差。这个时候其实对于上传照片的这些APP用户来讲的话,可能构成的是一种名誉上的侵权,或者说是导致他的社会评价降低等等,这些也有可能会构成侵权。”


  用户协议中还写道,该款软件及其关联公司可自行选择是否使用以及使用方式,包括但不限于编辑相关信息、授权给合作方使用、编辑与传播。还称会“尽最大努力在合理范围内使用”。岳屾山分析:“APP用户在上传了之后,或者说是授权给了APP经营者之后,它的经营者还要求说可能会给他的关联公司,或者说给其他人。这个时候对于转售权来讲的话是过于的模糊并不清晰,而且很有可能会造成自己的隐私的这种泄露,所以说也是建议相关部门对于这类的用户协议予以相应规制,包括使用者也要仔细的看一下这些用户协议,如果说确实存在着这些风险和对自己很不利和不公平的条款存在的话,建议不要使用。”

AI换脸两大风险是什么?AI换脸存在哪些风险?AI换脸风险危害细数

  昨晚中国之声记者发现,该款软件“用户协议”中,“您的必要授权”这一项内容与此前相比进行了较大幅度的修改,去掉了关联公司等相关表述。同时在用户协议的醒目位置,增加了一则特别提示,其中指出,用户上传的短视频及人脸等信息,将仅限用于为用户提供上传/发布短视频,以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务。

  同时,新增内容中承诺,相关的内容将严格按相关法律法规的规定保留在软件上,除非为了改善该款软件为用户提供的服务,或另行取得用户的再次同意,不会以任何其他形式或目的使用上述内容。此外,用户协议中相比之前补充了撤回及删除条款,并承诺用户执行相关操作后,将依据相关法律法规的规定在服务器上删除。

文章内容来源于网络,不代表本站立场,若侵犯到您的权益,可联系多特删除。(联系邮箱:[email protected]