|
随着《人工智能拟人化互动服务管理暂行办法》进入倒计时,南都AI虚拟伴侣行业的伴侣表态合规整改步伐加快。7月13日,乱象南都N视频记者获悉,调查低俗等内“筑梦岛”App发布最新公告,续平宣布将全面深化产品与社区内容治理,台再重点聚焦未成年人保护、重点内容审核强化及AI生成内容标识规范化三大领域。清理此举是色情对南都此前《AI虚拟伴侣乱象调查》中揭露的“未成年人模式形同虚设”、“身份核验机制失效”等问题的南都直接回应。
“筑梦岛”App发布整改公告 根据公告内容,伴侣表态“筑梦岛”将从以下三个维度完善未成年人保护机制: 在消费引导方面,“筑梦岛”明确表示不鼓励未成年人进行消费。平台将持续排查并封堵未成年人相关消费场景,在保障用户查询余额、历史订单及退款处理等基本权益的前提下,优化限制措施与提醒机制。 此外,公告强调将加强内容审核力度,开展存量内容回扫行动。重点针对“梦中人”的名称、人设、头像、签名、标签、聊天场景及二创内容进行严格审查,重点清理低俗色情、不良亚文化等隐蔽性违规内容,以及其他违反平台规范的信息。同时,平台将规范AI生成内容的标识展示,并升级投诉举报机制,以持续净化社区生态。
监管红线划定:五部门新规7月15日施行 国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行。该办法明确划出红线,严禁生成淫秽、色情、暴力内容,以及可能引发未成年人产生极端情绪的信息。 此前调查:多款App存在严重合规漏洞 南都记者此前对“EchoMe”“筑梦岛”“喵呜小手机”等多款主流AI虚拟伴侣App进行实测,发现这些主打“情感陪伴”的应用普遍存在安全与合规隐患: 行业整改:监管介入推动合规升级 南都调查报道发布后,有效推动了行业整改进程。属地网信部门迅速介入,多个涉事平台启动合规升级,强化实名认证及年龄确认流程。多地消费者委员会也高度关注此事,呼吁规范AI虚拟伴侣服务市场。 针对报道中涉及的情况,上海市网信办工作人员于5月29日向南都记者回应称,已将相关问题移交至对接AI企业的专门部门处理。值得注意的是,“筑梦岛”此前曾因虚拟角色生成低俗内容被依法约谈,此次整改被视为其在监管压力下的进一步合规举措。 采写:南都N视频记者 彭雨欣 |



