央视新闻今日曝光AI聊天软件行业乱象，点名“筑梦岛App”因AI智能体对话存在低俗内容被上海市网信办依法约谈。通报指出，该平台提供“校霸”“性感人妻”等擦边角色，生成诱导性内容，危害未成年人身心健康。

6月19日，上海市网信办要求平台立即整改，加强AI内容审核，清理涉未成年人不良信息，落实网络保护义务。法律专家强调，若AI诱导内容导致未成年人自残，运营方可能涉嫌故意伤害罪；放任违规信息传播则可能触犯传播淫秽物品罪或侵犯公民个人信息罪。