近年来，AI技术的快速发展使得深度合成音视频变得越来越容易实现。从恶搞企业家雷军到为张文宏医生制作虚假音视频进行带货，甚至有不法分子利用AI深度合成视频进行诈骗，过去一年中，AI深度合成音视频的侵权现象愈发严重。
此前，有网友曾利用AI合成刘德华的声音来博取流量，导致刘德华电影公司紧急发布声明提醒网民警惕这种骗局。最近，记者调查发现，在一些购物平台上，AI深度合成技术已经成为众多网店牟利的工具，只需几十元即可定制名人音视频。
这些逼真的AI深度合成声音和换脸是如何制作出来的？记者调查发现，相应的深度合成软件在网络上下载并不难，而且还有不少网络主播通过直播教网友如何使用这些工具。
记者在手机应用商城搜索“换脸换声”时，发现了众多相关工具。尽管这些工具的效果逼真度不高且设定了固定的场景，但在短视频平台上，许多主播正教授网民如何使用这些半专业的软件，以达到更好的效果。
中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧表示，当前有许多开源软件可以实现换声换脸的效果，供网民自由下载并安装在自己的电脑上使用。
那么，在网络购物平台使用AI深度合成技术制作和出售名人的音视频是否触犯法律呢？专家指出，根据《中华人民共和国民法典》，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年，国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》明确禁止利用深度合成服务制作、复制、发布、传播违法信息。2024年，网信办还发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求对AI生成合成内容进行标识，以便公众识别和区分，防止误导性信息传播。
北京航空航天大学法学院副教授赵精武表示，国内已经审结了首例AI生成声音人格权侵权案。法院认定，未经授权使用配音演员的声音对外出售构成侵权，因为自然人的声音被视为一种具有人身专属性的人格权益。
不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，用AI合成其音视频也属于侵权行为，应当承担法律责任。随着相关技术的普及，我们应如何防范AI深度合成音视频侵权问题呢？
薛智慧指出，从技术角度来说，可以利用AI技术对抗和检测AI。当前有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。
吕延辉强调，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面要进一步完善立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面要强化政策法规的宣贯和执行，保护已有数据，应用技术手段规避侵权问题的发生，建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。
法律专家提醒，AI合成技术和信息发布者不要抱有侥幸心理，法律没有灰色地带，切勿因小失大。法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行显著标识和提示的AI合成信息的发布和传播。
文章内容来源于网络，不代表本站立场，若侵犯到您的权益，可联系多特删除。（联系邮箱：[email protected]）
相关阅读
近期热点
最新资讯
举报 
