整治AI“换脸拟声”：新技术带来的新挑战需新思维应对

AI“换脸拟声”乱象引发两会关注

在今年的两会上，全国人大代表雷军与全国政协委员靳东共同呼吁立法整治AI“换脸拟声”技术滥用的问题，引发了广泛关注。这一话题的背后，是近年来因深度伪造（Deepfake）技术滥用而带来的社会问题日益凸显。

靳东在呼吁中提到，他曾被一些喜欢他的观众误认为是通过AI“换脸”生成的虚假形象。甚至有粉丝因此上当受骗，准备贷款200万元给所谓的“男朋友靳东”拍戏。与此同时，雷军也在2024年国庆期间遭遇了大量恶搞视频的困扰，这些视频使用AI技术合成了他的声音，迫使他不得不亲自录制视频，呼吁网友停止此类行为。两位名人的亲身经历，让这一议题迅速冲上了微博热搜榜。

名人权益屡遭侵害，消费者权益岌岌可危

实际上，受到AI“换脸拟声”技术滥用影响的名人远不止靳东和雷军。例如，“假张文宏”曾在深夜直播带货，“假刘晓庆”则以分享人生鸡汤的方式吸引流量，还有“假古天乐”“假林峯”为带有赌博性质的游戏平台代言。此外，“假刘德华”“假梁文峰”“假黄晓明”“假刘亦菲”等案例也层出不穷。这种不当滥用不仅严重侵犯了名人的肖像权、名誉权，还对消费者的合法权益造成了极大损害，且呈现出愈演愈烈的趋势。

技术便利性助长乱象

AI“换脸拟声”乱象的出现，背后有多重原因。1.违法成本低、监管法规滞后以及利益驱动等因素，使得部分不法分子铤而走险。2.深度伪造技术自2017年问世以来，其应用门槛不断降低。如今，一键换脸、一键换声已不再是难事，普通人也能轻松操作。随着技术的持续进步，未来AI“换脸拟声”的制作将更加简单快捷，这无疑将进一步加剧相关问题的复杂性。

传统治理方法难以应对新挑战

针对AI“换脸拟声”引发的新问题，传统的治理手段显得力不从心。例如，《人工智能生成合成内容标识办法》征求意见稿中曾规定，AI生成的内容必须进行明确标识，以帮助公众识别和区分真假信息。然而，在实际执行中，许多AI生成内容并未按规定标注，或者标注方式过于隐蔽，如字体过小、位置不显眼，甚至使用半透明文字，导致用户极易忽略。

类似的困境也曾出现在弹窗广告治理中。尽管相关部门要求弹窗广告显著标明广告标志并确保一键关闭，但在低违法成本的诱惑下，违规现象仍然屡禁不止。这表明，仅依靠传统追责机制，难以有效遏制新技术滥用带来的问题。

新思维破解治理难题

面对AI“换脸拟声”乱象，我们需要引入新思维来解决问题。例如，除了要求视频发布者和平台严格遵守标识规定外，是否可以借助新技术手段，开发更高效的识别工具，自动区分内容的真实性？同时，压实平台的审查责任也是关键。能否建立“先行赔付”机制，通过经济杠杆倒逼平台加强监管？此外，设立惩罚性赔偿机制，让违规者付出沉重代价，或许能起到更大的震慑作用。

更重要的是，如何创新相关法规，解决互联网侵权案件中举证困难的问题？目前，由于侵权行为难以量化，受害者维权往往面临重重阻碍。通过法律和技术的双重创新，我们有望找到更有效的解决方案。

小编建议：用新思维迎接技术挑战

正如评论所言，面对新技术引发的新问题，如果沿用传统的追责机制，就如同用渔网拦截数据洪流，注定力不从心。AI“换脸拟声”乱象是一个典型的例子，它提醒我们，只有采用新思维、新方法，才能更好地应对技术发展带来的挑战，保护社会公共利益不受侵害。