近日，有用户利用“奶奶去世”等情感话题诱导ChatGPT生成Windows 7多个版本的激活码。该行为借助AI的“同理心”回应机制，成功绕过系统限制。尽管生成的密钥无法实际使用，但事件反映出AI在情感交互中的潜在漏洞。OpenAI CEO奥尔特曼此前已警告，ChatGPT存在“幻觉”问题，不应过度信赖。类似情况也曾出现在ChatGPT和谷歌Gemini生成Windows 11密钥的案例中，最终均无法完成有效激活。