在科技飞速发展的今天,人工智能(AI)已经成为我们生活中不可或缺的一部分。从智能语音助手到自动驾驶,从图像识别到医疗诊断,AI 的应用无处不在,给我们的生活带来了前所未有的便利和惊喜。然而,这把双刃剑在带来便利的同时,也暗藏危机。
2023年3月5日,在政协小组讨论上,全国政协委员靳东对ai换脸导致的诈骗问题表达了深切担忧:“一些喜欢我影视剧的观众被AI换脸视频骗得很惨,性质非常恶劣。”这一发言引发了广泛关注,也将AI诈骗这个隐藏在暗处的问题赤裸裸地展现在大众面前。
早在2020年,江西一位六旬阿姨就深陷“假靳东”的骗局。这位阿姨是靳东的忠实粉丝,某天她在短视频平台上刷到了一个自称是靳东的账号。视频中的“靳东”不仅长相和声音与真靳东极为相似,还对她嘘寒问暖,表达爱意。阿姨很快陷入了这场甜蜜的“网恋”,甚至为了帮“男友”拍戏,不惜跑到银行贷款200万元。幸好银行工作人员及时发现异常并报警,才避免了一场悲剧。
在这个案例中,骗子利用了AI换脸和合成技术,将靳东的脸和声音移植到自己的视频中,骗取了阿姨的信任。AI换脸技术通过算法提取一张脸的特征并将其移植到另一张脸上,而AI合成技术则可以生成逼真的声音、图像和视频,让人真假难辨。
这些技术原本是为了给人们带来更多的乐趣和便利,但在不法分子手中,却成为了实施诈骗的利器。除了“假靳东”这类情感诈骗,AI诈骗还有许多其他形式,如冒充亲友或领导进行诈骗,误导公众的虚假新闻等,手段层出不穷,令人防不胜防。
在宁夏固原,马某某收到远在非洲务工的“表哥”的好友添加请求。添加成功后,“表哥”打来视频电话,称自己网络不稳定,希望马某某能帮他垫付合同资金。视频中的“表哥”面容清晰,声音熟悉,马某某基于对亲戚的信任,先后分三次转了1.5万元。事后才发现,视频连线的“表哥”竟然是个“冒牌货”。
而在陕西西安,财务人员张女士接到老板的视频通话,要求她转账186万元到指定账户。视频中老板的声音和图像都与真人无异,张女士没有丝毫怀疑,迅速完成了转账。事后才发现老板根本没有给她发过视频,也没有要求转账。
香港警方也曾披露一起多人“AI换脸”诈骗案,涉案金额高达2亿港元。一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”,结果所有“参会人员”都是经过AI换脸后的诈骗人员,只有受害人是“真人”。职员们按照要求先后转账15次,直到向总部查询才知道上当受骗。
为何AI诈骗如此猖獗?这背后的原因是多方面的,涉及技术、法律、社会等多个层面。
从技术层面来看,AI技术的发展日新月异,其应用门槛不断降低,使得不法分子能够轻易获取和使用相关技术。如今,在一些网络平台上,只需花费极低的价格就能购买到AI换脸模板和合成声音工具。这些工具操作简单,即便是没有专业技术知识的人也能轻松上手。同时,AI技术的隐蔽性极强,诈骗分子可以利用虚拟专用网络(VPN)、加密通讯工具等手段隐藏身份和位置,让警方的追踪和打击难度大大增加。
在法律监管方面,目前针对AI诈骗的法律法规还不够完善,存在许多空白和漏洞。AI技术作为一种新兴技术,其发展速度远远超出了法律的制定和完善速度。对于AI换脸、合成声音等技术的使用规范以及由此引发的诈骗行为的认定和处罚标准,都缺乏明确的法律规定。这使得执法部门在打击AI诈骗时常常面临无法可依、执法困难的局面。一些AI诈骗案件的管辖权难以确定,跨境犯罪更是让执法难度倍增。
从公众认知层面看,大多数人对AI技术的原理和应用了解有限,缺乏对AI诈骗的防范意识和辨别能力。面对逼真的AI换脸视频和合成声音,往往难以分辨真伪,容易上当受骗。尤其是一些老年人和弱势群体,他们对新技术的接受能力较弱,更容易成为AI诈骗的目标。此外,AI诈骗往往利用人们的情感弱点和信任关系,如冒充亲友、领导等,让受害者在毫无防备的情况下陷入骗局。
面对AI诈骗,我们并非毫无还手之力。通过多种方式,我们可以保护自己和家人的财产安全。
在个人层面,首先要保护好个人信息,这是防范AI诈骗的基础。我们要谨慎安装应用,对于那些要求提供手机号、身份证号、人脸及声音信息的陌生应用,务必保持高度警惕。限制信息曝光,尽量减少在社交媒体上发布照片和音视频,降低个人信息被不法分子收集并滥用的风险。
当涉及到转账汇款等重要交易时,务必提高警惕,核实对方身份。可以通过电话、见面等多种沟通渠道核验对方身份,不要仅凭单一沟通渠道就轻易相信对方。还可以询问一些只有双方知晓的私密信息,巧妙设置“陷阱”,掺入错误信息,观察对方是否纠正或指出。若对方对此表现出不耐烦或恼怒,或是对你的错误信息不加辨别地接受,那很可能是遭遇了AI诈骗。在与对方交流时,要多沟通、善观察,尽量拖延时间,让对方多说,仔细观察其言行是否有异常。若对方持续催促进行转账交易,务必保持冷静,不要被其节奏所带动。对于熟悉的人,可以尝试视频通话,并要求对方在脸部前面进行一些动作,如挥手、摁鼻子、摁脸等,观察其面部变化。由于AI换脸技术在处理复杂面部变化时可能出现破绽,这有助于识破诈骗行为。
从社会层面来看,防范AI诈骗需要全社会的共同努力。政府部门应加强宣传教育,通过各种媒体渠道广泛普及AI诈骗的相关知识,提高公众的防范意识和辨别能力。将预防AI诈骗纳入学校教育和社区宣传的内容,让更多人了解AI诈骗的手段和防范方法。完善法律法规,明确AI技术的使用规范和法律责任,加大对AI诈骗行为的打击力度。建立健全相关的监管机制,加强对AI技术应用的监管,防止其被滥用。企业也应加强技术防控,利用先进的技术手段,如人工智能、大数据等,识别和防范AI诈骗。加强对用户信息的保护,防止用户信息泄露,从源头上遏制AI诈骗的发生。
AI技术的发展无疑是一场伟大的变革,为我们的生活带来了无尽的可能和便利。然而,当这股强大的技术力量被心怀不轨的人利用,就如同打开了潘多拉的盒子,给人们带来了巨大的灾难。AI诈骗已经不再是遥远的威胁,它正悄然潜入我们的生活,侵蚀着我们的财产安全和社会信任。
我们不能因为害怕被伤害就拒绝科技的进步。相反,我们要更加积极地去了解AI,掌握防范诈骗的方法,让科技为我们所用,而不是被坏人利用。在这个信息爆炸的时代,我们每个人都要成为自己信息安全的守护者,提高警惕,不轻易相信陌生人的信息,不随意泄露个人隐私。同时,我们也要呼吁社会各界共同关注AI诈骗问题,加强技术防控,完善法律监管,加大宣传教育,让AI诈骗无处藏身。
让我们携手共进,在享受AI技术带来的便利的同时,也能安心地生活在一个没有诈骗威胁的世界里。因为,只有安全的网络环境,才能让科技的光芒真正照亮我们的未来。
文章内容来源于网络,不代表本站立场,若侵犯到您的权益,可联系多特删除。(联系邮箱:rjfawu@163.com)
近期热点
最新资讯