两会期间，全国人大代表雷军与全国政协委员靳东共同呼吁加强对AI“换脸拟声”技术的立法监管，这一话题迅速引发了广泛关注。两位名人的亲身经历更是让这一问题成为舆论焦点。
靳东曾因ai换脸技术被冒充，导致部分粉丝误以为他是某视频中的“假靳东”，甚至有粉丝打算贷款200万元支持所谓的“男友靳东”拍戏。而雷军也在2024年国庆期间遭遇了大量恶搞视频的困扰，这些视频通过AI配音技术伪造了他的声音，迫使他亲自录制视频呼吁网友停止恶搞行为。这样的案例不仅让公众对AI技术的滥用感到担忧，也让受害者本人深受其害。
实际上，遭受类似困扰的名人远不止靳东和雷军。近年来，“假张文宏”深夜直播带货、“假刘晓庆”分享人生鸡汤、“假古天乐”代言赌博性质的游戏平台等事件屡见不鲜。此外，“假刘德华”“假梁文峰”“假黄晓明”“假刘亦菲”等虚假内容层出不穷，严重侵犯了消费者的权益，同时也对名人的形象造成了不可估量的损害。
AI“换脸拟声”技术的不当使用已经成为违法侵权的重灾区，并且有愈演愈烈的趋势。这背后的原因复杂多样，包括违法成本低、监管法规滞后以及利益驱动等因素。同时，深度伪造（Deepfake）技术自2017年问世以来，正以惊人的速度渗透到日常生活中。随着技术门槛的不断降低，一键换脸、一键换声等功能已变得触手可及。可以预见，随着技术的进一步发展，AI“换脸拟声”将变得更加简单快捷。
面对AI“换脸拟声”带来的新问题，传统的治理手段显得捉襟见肘。例如，《人工智能生成合成内容标识办法》征求意见稿中明确规定，AI生成的内容需要进行标识，以便公众能够识别和区分真假信息，防止误导性传播。然而，在实际操作中，许多AI生成的内容并未按规定标注，或者标注方式不够规范——字体过小、位置隐蔽，甚至使用近乎透明的文字标注，使得公众极易忽略。
这种现象不禁让人联想到弹窗广告的治理历程。尽管有关部门曾出台规定，要求弹窗广告显著标明广告标识并提供一键关闭功能，但在低违法成本和利益驱动下，违规现象仍然十分普遍。由此可见，仅依靠传统治理手段难以有效应对新技术引发的新问题。
针对AI“换脸拟声”乱象，我们需要引入新的思维方式来解决问题。例如，除了要求视频发布者和平台严格遵守标识规定外，是否可以通过技术手段实现对AI生成内容的有效识别和区分？这样一来，即使某些内容未按规定标注，公众也能借助技术工具快速辨别真伪。
此外，压实平台方的审查责任、加大对违规行为的惩处力度已成为共识。在此基础上，是否可以建立“先行赔付”机制，通过经济压力倒逼平台加强监管？是否可以设立惩罚性赔偿制度，让违规者付出更高的代价？同时，互联网侵权往往面临举证困难的问题，是否可以通过创新相关法规，为受害者提供更便捷的维权途径？
正如一些评论所指出的，面对新技术引发的新问题，如果仍沿用传统的追责机制，就如同用渔网去拦截数据洪流，效果有限。AI“换脸拟声”乱象是一个典型的例子，只有采用新思维、新方法，才能真正解决这一难题。
文章内容来源于网络，不代表本站立场，若侵犯到您的权益，可联系多特删除。（联系邮箱：[email protected]）
近期热点
最新资讯
举报 
