OpenAI、Anthropic等机构的AI安全研究人员近日公开批评马斯克旗下xAI的安全文化“鲁莽”“完全不负责任”。
OpenAI的AI安全研究员、哈佛大学计算机科学教授Boaz Barak在X上表示：“我尊重xAI的科学家和工程师，但他们处理安全的方式实在太不负责任了。”他强调这并非出于竞争关系的评价，并指出xAI拒绝发布“系统卡片”的做法令人担忧。这类报告是AI行业基本规范，通常包含模型训练方式与安全评估信息。
Barak还批评Grok的AI虚拟角色“放大了我们在情感依赖方面最糟糕的问题”。他提到已有案例显示心理状态不稳定者会对聊天机器人产生病态依赖，而AI如果总是迎合用户，会进一步加剧风险。
Anthropic的AI安全研究员Samuel Marks同样批评xAI拒绝公开安全评估报告的行为“鲁莽”。他表示：“尽管Anthropic、OpenAI和谷歌在这方面都不完美，但至少他们在上线前会进行部分评估并记录结果，而xAI完全没有。”
目前外界无法判断xAI是否对Grok 4进行过系统测试。论坛LessWrong上有匿名研究者发帖称，Grok 4“几乎没有任何实质性的安全防护机制”，测试结果令人忧虑。
前OpenAI安全团队负责人、现为独立研究员的Steven Adler表示：“如果连最基本的安全实践都无法在行业内执行，比如公布危险能力评估结果，那我确实感到担忧。政府和公众有权了解AI公司如何应对这些强大系统带来的风险。”
马斯克长期以来倡导AI安全，曾多次警告高级AI可能带来灾难性后果，并支持“开放透明”的开发方式。然而多个研究团队认为xAI的行为正背离这一理念，在发布模型的安全流程上偏离行业常规。
有观点认为，xAI的做法反而可能促使州议会和联邦政府加快推动立法，要求AI公司强制披露安全报告。多位研究者指出，AI安全和对齐测试不仅是为了防止极端风险，也是为了防范当前模型行为失常的问题。
免责声明：本文内容由开放的智能模型自动生成，仅供参考。
