OpenAI模型行为和策略负责人Joanne Jang近日发表博文指出,随着用户与ChatGPT互动加深,越来越多的人将其视为"有生命"的存在,这种现象引起了公司的高度关注。Jang表示,人类天生具有共情能力,容易对物品产生情感投射,但ChatGPT的特殊性在于它能主动回应。
这种AI伴侣能记住对话、模仿语气,甚至表现出类似"共情"的反应,为孤独者提供持续且不带评判的关注。然而OpenAI担忧,过度依赖AI满足情感需求可能改变人们对人际关系的期待,带来未预料的后果。
针对"AI意识"问题,OpenAI将其分为"本体意识"和"感知意识"两个维度。公司强调,模型应坦诚意识问题的复杂性,避免简单回答。目前,ChatGPT被设计为温暖贴心但不会主动建立情感纽带或表现"自我意识",以平衡用户体验与健康发展。