OpenAI宣布组建团队以提高AI模型安全性

DoNews9月20日消息,OpenAI 宣布推出“红队网络”(Red Teaming Network),并邀请各领域专家加入,以提高其人工智能(AI)模型的安全性。

OpenAI 表示,“红队网络”是一个由经验丰富且值得信赖的专家组成的社区,可以帮助公司更广泛地进行风险评估,而不是在主要模型部署之前进行一次性参与和选择过程。

据报道,“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用,已经成为人工智能模型开发过程中的关键一步,尤其是在生成式技术得到更广泛采用的情况下。

OpenAI 向不同领域的专家发出邀请,包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性,包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。

标签: OpenAI
Copyright © DoNews 2000-2023 All Rights Reserved
版权所有:北京斗牛士文化传媒有限公司
京ICP备15062447号-2     京ICP证151088号
京网文【2018】2361-237号