蒙特利尔大学教授、“AI教父”约书亚・本希奥近日成立非营利组织LawZero，致力于开发能识别“流氓”AI系统的“诚实”AI。该组织首期获3000万美元资金支持，成员包括Future of Life Institute及科技界知名人士。

LawZero的核心项目Scientist AI旨在充当AI系统的“守卫”，通过概率评估预测并阻断有害行为。本希奥将其比喻为“心理学家”，可理解AI智能体的潜在风险。他呼吁加强资源投入，确保监控技术与AI发展同步，防止无监督AI引发严重后果。目前，团队正验证方法论可行性，后续将推动政府及企业合作扩大应用。