南都AI伴侣乱象调查续：平台再表态重点清理低俗色情等内容

发布时间：2026-07-18 02:07:50 来源：安智兰德资讯网 作者：知识

随着《人工智能拟人化互动服务管理暂行办法》进入倒计时，南都AI虚拟伴侣行业的伴侣表态合规整改步伐加快。7月13日，乱象南都N视频记者获悉，调查低俗等内“筑梦岛”App发布最新公告，续平宣布将全面深化产品与社区内容治理，台再重点聚焦未成年人保护、重点内容审核强化及AI生成内容标识规范化三大领域。清理此举是色情对南都此前《AI虚拟伴侣乱象调查》中揭露的“未成年人模式形同虚设”、“身份核验机制失效”等问题的南都直接回应。

“筑梦岛”App发布整改公告

根据公告内容，伴侣表态“筑梦岛”将从以下三个维度完善未成年人保护机制：
1. 优化使用规范：严格规范使用时段与时长，乱象扩充适合未成年人的调查低俗等内优质内容资源池。
2. 强化身份识别：升级实名认证与年龄识别算法，续平提升对未成年人身份的台再精准识别能力。
3. 收敛风险入口：进一步屏蔽不适宜的功能展示，减少可能对未成年人造成干扰或误导的产品入口。

在消费引导方面，“筑梦岛”明确表示不鼓励未成年人进行消费。平台将持续排查并封堵未成年人相关消费场景，在保障用户查询余额、历史订单及退款处理等基本权益的前提下，优化限制措施与提醒机制。

此外，公告强调将加强内容审核力度，开展存量内容回扫行动。重点针对“梦中人”的名称、人设、头像、签名、标签、聊天场景及二创内容进行严格审查，重点清理低俗色情、不良亚文化等隐蔽性违规内容，以及其他违反平台规范的信息。同时，平台将规范AI生成内容的标识展示，并升级投诉举报机制，以持续净化社区生态。

监管红线划定：五部门新规7月15日施行

国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行。该办法明确划出红线，严禁生成淫秽、色情、暴力内容，以及可能引发未成年人产生极端情绪的信息。

此前调查：多款App存在严重合规漏洞

南都记者此前对“EchoMe”“筑梦岛”“喵呜小手机”等多款主流AI虚拟伴侣App进行实测，发现这些主打“情感陪伴”的应用普遍存在安全与合规隐患：
* 防护机制失效：“青少年模式”存在一键跳过漏洞。
* 标识不清：“AI生成”内容标注模糊，误导用户。
* 内容低俗：系统预设角色中包含大量衣着暴露的女性形象，聊天交互中充斥性暗示及低俗话语。
* 诱导消费：部分App采用“付费解锁亲密剧情”等手段诱导用户消费。

行业整改：监管介入推动合规升级

南都调查报道发布后，有效推动了行业整改进程。属地网信部门迅速介入，多个涉事平台启动合规升级，强化实名认证及年龄确认流程。多地消费者委员会也高度关注此事，呼吁规范AI虚拟伴侣服务市场。

针对报道中涉及的情况，上海市网信办工作人员于5月29日向南都记者回应称，已将相关问题移交至对接AI企业的专门部门处理。值得注意的是，“筑梦岛”此前曾因虚拟角色生成低俗内容被依法约谈，此次整改被视为其在监管压力下的进一步合规举措。

采写：南都N视频记者 彭雨欣

相关文章