OpenAI上线AI任务‘控制室’系统,35秒内可强制终止高风险任务

2026年11月10日,OpenAI宣布在其内部研究设施部署新型‘控制室’系统。该系统由公司自主研发,用于实时监控与干预潜在高风险AI智能体任务。当研究员启动任务时,需向控制室申领唯一任务ID,所有推理请求须经其授权;一旦触发终止指令,系统最迟35秒内阻断后续输出。此举旨在强化前沿AI研究(尤其是强化学习)的安全管控,配套自动化模型监控器已同步启用。OpenAI表示正优化缓存机制,目标将响应延迟降至零。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号