OpenAI 逐步部署AI模型引发争议

据外媒 Wccftech 报道,OpenAI 最近分享了其谨慎、逐步部署 AI 模型的方法,以确保系统安全。公司强调,GPT-2 的发布是这一策略的一部分,旨在通过现有工具的学习来保障未来系统的安全性。然而,前 OpenAI 政策研究员 Miles Brundage 对此提出批评,指责公司歪曲了 AI 安全的历史。

OpenAI 表示,GPT-2 的发布采取了分阶段的方式,每个阶段都分享了相关信息,安全专家也认可公司的谨慎态度。但 Brundage 认为,OpenAI 在文件中声称 AGI 将通过逐步发展而非突发突破的说法,实际上重写了 GPT-2 的历史。他担忧这种做法可能为未来的安全问题设立不恰当的标准,甚至将合理的担忧视为过度反应。

Brundage 强调,过去的谨慎措施并非过度,而是必要且负责任的。他担心,如果忽视长期安全问题,随着 AI 系统的进步,未来可能面临严重风险。

Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1