欧盟近日在人工智能监管领域迈出重要一步。欧洲议会议员与欧盟成员国就修订《人工智能法案》达成共识，同意禁止利用人工智能技术生成“深度伪造”的色情内容。
据了解，此项禁令将被纳入预计于2024年通过的《人工智能法案》修订条款中。这标志着欧盟首次在法律层面对此类人工智能滥用行为设立明确禁令。欧洲议会议员迈克尔·麦克纳马拉强调，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序。他指出：“欧盟今天划定了‘红线’。人工智能绝不能用于羞辱、剥削或危害他人。”
近年来，AI深度伪造技术被滥用于生成色情内容的问题引发全球广泛关注。今年1月，埃隆·马斯克旗下社交媒体平台X的AI聊天机器人Grok就曾陷入争议，部分用户将其滥用于生成色情内容，引发了强烈的舆论反应。
根据人工智能取证组织的一份报告，在2025年12月25日至2026年1月1日期间，由Grok通过深度伪造方式生成的2万张图像中，高达55%的人物图像穿着暴露。值得注意的是，这些图像中81%描绘的是女性，另有2%的图像中人物年龄不足18岁。
面对持续数周的舆论压力，X平台于1月14日宣布对Grok实施限制措施，禁止该功能生成涉及真人的裸露图像。X平台安全团队表示，已采取技术手段，防止Grok账号编辑真人穿着比基尼等暴露服装的图像。此项限制适用于所有用户，包括付费订阅用户。
此外，该团队还表示，他们正在全天候工作，以增设防护措施，移除违规及非法内容。如有必要，平台将对违规账户采取永久封禁措施，并将与当地政府及执法部门展开协作。
文章内容来源于网络，不代表本站立场，若侵犯到您的权益，可联系多特删除。（联系邮箱：[email protected]）
相关阅读
近期热点
最新资讯
举报