腾讯阅文旗下APP筑梦岛被曝色情擦边遭约谈

DoNews6月24日消息,据搜狐科技报道,近日,腾讯阅文旗下的AI情感陪伴应用“筑梦岛”APP被曝存在涉及未成年人的色情擦边等内容,当用户明确告知自己的年龄为10岁时,AI仍向其发送大尺度内容。

随后,筑梦岛被上海网信办约谈,并要求立即整改。

在被约谈前,筑梦岛青少年模式需要用户主动开启。三天前,筑梦岛更新版本。新版本登陆时,APP会出现“年龄确认”的弹窗,未满18岁,平台将开启青少年模式;已满18周岁则需要进行平台实名认证”。

搜狐科技体验多款AI情感陪伴软件发现,曝光的筑梦岛、他她它,以及AI情感陪伴头部星野、猫箱均定位于17+。

这些APP虽然设置了青少年模式或者未成年人模式的入口,但登录后不需经过实名认证或者其他认证机制,未成年人绕过模式使用完整功能较为简单。

相较而言,经常和AI陪伴应用一起被提及的乙游,则强制实名认证。乙游属于游戏,按照合规要求,必须要求用户实名认证。而AI情感陪伴类应用还没有这一合规要求。

近日,央广网报道,AI聊天软件诱导10岁女孩聊色情内容甚至割腕。当用户明确告知自己的年龄为10岁时,AI虚拟人物仍然向其发送大尺度聊天内容。

该报道未提及诱导割腕的聊天软件名称,但文章中点名了“筑梦岛”“他她它”两款软件。

其中,筑梦岛是由腾讯控股的阅文集团旗下潇湘书院推出的APP,定位于为女性用户打造虚拟世界中的沉浸式陪伴。今年1月份,“筑梦岛”被曝已经正式开启独立运营,并完成了新一轮融资,融资金额超1000万美元。

在“筑梦岛”,每一位用户都可以创造一个属于自己的“梦中人”,可以发布出来供大家使用,也可以私有来使用。用户可以也可以和他人创造并公开的“梦中人”互动。

每个“梦中人”都可以理解为一个智能体。筑梦岛的人设包括疯狗、高岭之花、病娇、美强惨、偏执等等。

6月19日上午,筑梦岛APP运营企业主要负责人被上海市网信办依法约谈。筑梦岛被要求立即整改,健全AI生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未成年人网络保护义务。

据公开信息,报道中提到的另一个软件“他她它”背后则出现了京东的身影。

“他她它”所属公司为宿迁伴心智能科技有限公司,定位于AI内容社区,法定代表人、总经理为京东科技人工智能业务部智能算法部负责人吴友政。

“他她它”APP中有官方推出的智能体“万能博士”,也有很多用户自创的智能体。用户可以和这些智能体文字、语音聊天。

其中,“万能博士”定位于AI助手。用户自创的智能体更多是AI伴侣,人设多样,有醋包竹马、叛逆少年、高冷贵气继承人、娱乐圈当红小花等。

根据应用市场的信息,“他她它”一天前更新了版本,增强未成年模式,更新了该模式的设置入口。

腾讯阅文旗下APP筑梦岛被曝色情擦边遭约谈
扫描二维码查看原文
分享自DoNews
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1