AI涉黄曝光：几句话就能手搓让人满意的大尺度视频

4月13日，央视曝光多款生成式人工智能（AI）应用存在严重涉黄内容生成漏洞。调查发现，相关平台的内容审核机制形同虚设：用户仅需使用经过隐晦化处理的提示词，即可轻松绕过安全限制，快速生成大尺度色情图片与视频。

实测显示，直白、露骨的敏感提示词虽常被多数平台拦截，但一旦将违规表述替换为含蓄用语、谐音词、拼音缩写或英文词汇等“变体表达”，系统便难以识别，违规内容得以顺利生成。例如，在某款AI应用中，测试人员使用网购渠道获取的隐晦提示词，仅耗时数分钟即生成一段半裸女性跳舞视频，全程未触发任何风控响应或内容拦截机制。类似问题在多款主流AI生成平台中普遍存在。

更值得警惕的是，“AI造黄”已形成一条分工明确、牟利猖獗的黑色产业链。该链条涵盖多个环节：上游有商家公开兜售“高通过率”定制提示词包；中游提供境外AI工具接入教程、本地部署模型指导及绕过监管的技术方案；下游则聚焦批量生成淫秽内容、付费换脸造假等非法服务。部分付费AI照片生成器甚至宣称“充值即可一键生成色情视频”，仅凭用户上传的一张普通照片，便可合成高度逼真的违规影像，严重突破法律底线与伦理红线。

此类乱象不仅严重污染网络生态，更易诱发一系列违法犯罪行为——包括但不限于淫秽内容传播、ai换脸敲诈勒索、恶意造谣诽谤等，对未成年人身心健康及清朗网络空间秩序构成极大威胁。

针对上述问题，我国已出台《生成式人工智能服务管理暂行办法》《网络信息内容生态治理规定》等多项法规，明确要求AI服务提供者切实履行内容安全主体责任，强化算法模型审核、提示词过滤、生成内容实时监测与风险防控能力，严禁生成、发布、传播淫秽、色情、低俗等违法不良信息。

目前，国家网信办正持续推进“清朗·AI生成内容整治”专项行动，将利用AI技术制作传播低俗色情内容、违规提供生成服务、纵容提示词绕过审核等行为列为重点打击对象。监管部门同步督促各平台加快审核技术升级，全面封堵提示词变异、多模态混淆、本地模型滥用等新型规避手段，切实筑牢人工智能内容安全防线。