近年来，“ai换脸拟声”技术的滥用问题引起了广泛关注。特别是在今年全国两会期间，这一话题频频登上热搜，引发了社会各界的热议。从雷军回应“国庆7天被AI雷军骂了8天”，到靳东建议对AI换脸进行立法，公众对于这一技术带来的风险和挑战表现出高度关注。
一些不法分子利用“AI换脸拟声”等高科技手段实施诈骗，给演艺界人士、专家学者和知名企业家等公众人物带来了诸多困扰。在3月5日的政协小组讨论上，全国政协委员、中国煤矿文工团团长靳东表示：“一些喜欢我作品的观众，被AI换脸视频骗得很惨。这种犯罪性质非常恶劣，希望能建立更好的规则。”
同样深受其扰的还有全国人大代表、小米集团创始人雷军。他在3月4日公开了今年两会的五条建议，其中特别提到要加强对“AI换脸拟声”的违法侵权行为进行治理。雷军本人也曾是“AI换脸拟声”的受害者。去年国庆长假期间，短视频平台上出现了大量恶搞视频，言辞犀利甚至爆粗口，不少网友因此受到了“AI雷军”的谩骂。
雷军指出，“AI换脸拟声”技术的滥用不仅侵犯了肖像权，还可能引发公民个人信息泄露、诈骗等犯罪行为，造成难以挽回的形象和声誉损害，带来社会治理风险。他建议加快单行法立法进程，提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传力度，增强民众的警惕性和鉴别力。
全国人大代表、TCL创始人李东生也建议，加快出台人工智能深度合成内容标识管理规章制度，明确惩罚制度，并加强国际合作，有效监管人工智能生成、合成内容。
随着AI技术的发展，“AI换脸拟声”操作变得愈发简单。只需获取照片和声音等个人信息，就能借助技术以假乱真。记者在尝试使用某款AI换脸软件时发现，上传一张人物照片并按照提示进行简单操作后，短短几分钟内便生成了一段换脸后的视频，尽管表情和动作略显生硬，但整体相似度较高。
基于此类技术，不法分子在网络上制造出各种违法乱象。从假冒名人诱导中老年人转账，到伪装单位领导要求汇款，甚至有线上游戏平台利用AI技术，将明星的肖像、声音及过往视频片段合成制作为带有赌博性质的代言宣传片。
福州大学计算机与大数据学院博士生肖博怀指出，GitHub这类知名开源平台上提供了大量AI换脸、语音合成的开源代码与工具，大大降低了技术使用门槛。例如，热门的开源项目DeepFaceLab，使得即便技术水平有限的人也能快速搭建起简易的“AI换脸拟声”程序。这些开源资源让合法的创新探索更加便捷，但也为恶意利用技术提供了便利。
深耕互联网行业的资深从业者认为，当前用户在网络环境中注册各类平台账号时，风险意识普遍薄弱。许多用户为图便捷，随意填写真实姓名、身份证号、联系方式等关键个人信息，甚至忽视平台隐私设置选项，默认全部公开。这些泄露的信息与“AI换脸拟声”技术相结合，无疑为诈骗分子提供了“作案利器”。
近年来，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，并对人工智能治理进行了有益探索。然而，鉴于技术的迅猛发展，治理的“工具箱”仍需不断扩容。
福建省司法厅行政立法咨询顾问专家库成员、福建三山律师事务所主任洪必景表示，当前涉及深度伪造、一键换脸等滥用人工智能侵权乃至诈骗行为的相关治理规则还不完善，导致利用人工智能侵权的违法成本极低，受害者的维权成本极高。通过立法明确伦理规范和治理规则，确保人工智能的发展与应用始终符合人类福祉显得十分迫切和必要。
福建融成律师事务所合伙人齐海绪建议，面对“AI换脸拟声”等新型诈骗，应加快制定相关法律法规，明确技术的应用边界与违法后果，建立AI生成内容强制标识制度，增强信息透明度。2.进一步强化互联网平台审核责任，要求互联网企业采用技术手段拦截虚假信息，并建立“先行赔付”机制。4.应完善法律适用标准，推动建立AI内容追踪溯源体系，结合现行法规形成全链条治理。
文章内容来源于网络，不代表本站立场，若侵犯到您的权益，可联系多特删除。（联系邮箱：[email protected]）
近期热点
最新资讯
举报 
