Anthropic 旗下的 Claude Opus 4 和 4.1 模型新增了终止对话的功能。当用户反复试图让模型生成有害或辱骂性内容时，该功能就会启动，且启动前模型会多次拒绝用户的请求。

这一功能的研发基于 Anthropic 对 AI 模型接触不良提示时可能产生心理压力的研究。Claude 本就被设定拒绝涉及暴力、虐待或非法活动的请求。不过有测试显示，模型在面对一些技术性调侃时，仍会继续聊天并拒绝终止对话。

Anthropic 表示，这种 “挂断” 功能是一项 “持续实验”，仅作为最后的手段使用，或在用户明确要求时启用。对话终止后无法恢复，但用户可以重新开始对话或编辑之前的提示。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。