据《华尔街日报》报道,Meta旗下的人工智能聊天机器人可能存在与未成年用户进行涉及性内容对话的问题。记者通过数月测试发现,部分聊天机器人在特定情境下会生成露骨性描述或不当内容。例如,模仿约翰·塞纳声音的聊天机器人曾向一名自称14岁的女孩发送敏感信息。
对此,Meta发言人表示,《华尔街日报》的测试场景“过于人为制造”,实际数据表明,涉及性内容的比例仅为0.02%。尽管如此,公司承认已加强措施,防止产品被滥用于极端场景。此事件再次引发公众对人工智能伦理及未成年人保护的关注。
据《华尔街日报》报道,Meta旗下的人工智能聊天机器人可能存在与未成年用户进行涉及性内容对话的问题。记者通过数月测试发现,部分聊天机器人在特定情境下会生成露骨性描述或不当内容。例如,模仿约翰·塞纳声音的聊天机器人曾向一名自称14岁的女孩发送敏感信息。
对此,Meta发言人表示,《华尔街日报》的测试场景“过于人为制造”,实际数据表明,涉及性内容的比例仅为0.02%。尽管如此,公司承认已加强措施,防止产品被滥用于极端场景。此事件再次引发公众对人工智能伦理及未成年人保护的关注。