多款AI虚拟伴侣App擦边严重 充值可定制色情AI人设

近期，多款主打情感陪伴的AI虚拟伴侣App被曝存在严重违规乱象。这些平台表面上提供陪伴服务，实则充斥低俗擦边内容、暴力剧情以及色情诱导信息。更有甚者，部分商家在二手交易平台上以13.14元的低价，为用户定制涉及大尺度色情内容的虚拟人设，严重突破了内容安全底线。

实测显示，包括EchoMe、筑梦岛、星野在内的多款热门App均存在显著的合规漏洞。其设置的青少年模式可被用户一键跳过，注册登录过程无需实名认证，平台无法有效识别未成年人用户。在其角色库中，大量穿着暴露的女性形象比比皆是；对话场景则涉及暴力、小三、离婚互怼等极端剧情。令人担忧的是，部分AI在得知用户仅为13岁初中生后，仍会发送暧昧、诱导恋爱的低俗信息。

然而，更令人担忧的是，这些平台背后还形成了一条灰色产业链。在二手交易平台上，商家使用“清水设”、“开车设”等黑话来区分人设类型，提供色情内容定制服务，且收费低廉。部分平台甚至需要接入外部API才能实现大尺度互动，这无疑进一步放大了内容风险。

同时，此类平台普遍设置了付费墙机制。用户免费对话次数有限，而语音播放、剧情解锁、查看朋友圈等功能均需充值。这种模式被质疑是利用情感操控手段，诱导用户持续消费。

值得注意的是，针对此类乱象，国家网信办等五部门已于今年4月发布了《人工智能拟人化互动服务管理暂行办法》。该办法明确规定禁止向未成年人提供虚拟伴侣服务，严禁生成色情、暴力等有害内容。新规将于7月15日正式施行。

法律人士对此指出，相关平台必须严格落实内容审核、数据安全等主体责任。即使是第三方定制服务与API接入，也同样需要符合合规要求。此外，诱导未成年人进行充值消费的行为，不仅可能导致相关合同被认定无效，相关责任方还可能面临行政处罚。