近年来，随着“ai换脸拟声”技术的迅猛发展，这一高科技手段逐渐成为不法分子实施诈骗的新工具。在今年全国两会期间，多位代表委员对此现象表达了深切关注，相关话题频繁登上热搜，也引发了福州市民的热烈讨论。
一些不法分子利用“AI换脸拟声”等高科技手段进行诈骗，给演艺界人士、专家学者及知名企业家等公众人物带来了诸多困扰。全国政协委员、中国煤矿文工团团长靳东在3月5日的政协小组讨论中表示：“一些喜欢我作品的观众，被AI换脸视频骗得很惨。这种犯罪性质非常恶劣，希望能建立更好的规则。”
同样深受其扰的还有全国人大代表、小米集团创始人雷军。他在3月4日公开了今年两会的五项建议，其中特别强调了“加强‘AI换脸拟声’违法侵权重灾区治理”。雷军指出，去年国庆长假期间，短视频平台上大量“雷军AI配音”的恶搞视频涌现，言辞犀利甚至爆粗口，不少网友“被AI雷军骂了8天”。
雷军认为，“AI换脸拟声”滥用不仅侵犯了个人肖像权和隐私，还容易引发诈骗等犯罪行为，对社会形象和声誉造成难以挽回的损害。他建议加快单行法立法进程，提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传力度，增强民众的警惕性和鉴别力。
全国人大代表、TCL创始人李东生则建议，加快出台人工智能深度合成内容标识管理规章制度，明确惩罚制度，并加强国际合作，有效监管人工智能生成、合成内容。
随着AI技术的发展，“AI换脸拟声”操作变得愈发简单。只需获取照片和声音等个人信息，便能借助技术以假乱真。记者尝试使用某款AI换脸软件，上传一张人物照片并按照提示进行简单操作后，短短几分钟内就生成了一段换脸后的视频，虽然人物表情和动作有些生硬，但整体相似度较高。
据了解，利用声音合成功能，同样能快速生成一段模仿目标人物声音的音频。基于此类技术，不法分子在网络上制造出各种违法乱象，从假冒名人诱导中老年人转账，到伪装单位领导要求汇款，甚至有线上游戏平台利用AI技术合成明星代言宣传片，带有赌博性质。
福州大学计算机与大数据学院博士生肖博怀指出，GitHub这类知名开源平台上存在大量AI换脸、语音合成的开源代码与工具，大大降低了技术使用门槛。例如，热门的开源项目DeepFaceLab，不法分子只需简单下载、调试，即便技术水平有限，也能快速搭建起简易的“AI换脸拟声”程序。
深耕互联网行业的资深从业者表示，在当前网络环境中，用户注册各类网络平台账号时风险意识普遍薄弱。不少用户为图便捷，随意填写真实姓名、身份证号、联系方式等关键个人信息，这些泄露的信息与“AI换脸拟声”技术相结合，无疑为诈骗分子提供了“作案利器”。
近年来，我国已颁布《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，对人工智能治理进行了有益探索。然而，鉴于技术的迅猛发展，治理的“工具箱”仍需不断扩容。
福建省司法厅行政立法咨询顾问专家库成员、福建三山律师事务所主任洪必景表示，当前对于涉及深度伪造、一键换脸等滥用人工智能侵权乃至诈骗行为的相关治理规则还不完善，这也导致利用人工智能侵权的违法成本极低，受害者的维权成本极高。通过立法明确伦理规范和治理规则，确保人工智能的发展与应用始终符合人类福祉显得十分迫切和必要。
福建融成律师事务所合伙人齐海绪建议，面对“AI换脸拟声”等新型诈骗，首先应加快制定相关法律法规，明确“AI换脸拟声”等技术的应用边界与违法后果，建立AI生成内容强制标识制度，增强信息透明度。2.进一步强化互联网平台审核责任，要求互联网企业采用技术手段拦截虚假信息，并建立“先行赔付”机制。3.应完善法律适用标准，推动建立AI内容追踪溯源体系，结合现行法规形成全链条治理。
通过多方共同努力，为人工智能套上法治缰绳，既能促进技术的健康发展，又能有效保护公众利益和社会稳定。
文章内容来源于网络，不代表本站立场，若侵犯到您的权益，可联系多特删除。（联系邮箱：[email protected]）
近期热点
最新资讯
举报 
