在2025世界AI大会上，由杰弗里・辛顿、姚期智等20余名国际顶尖专家联合签署的《AI安全国际对话上海共识》正式公布。共识指出，当前AI系统正迅速接近甚至可能超越人类智能水平，若缺乏有效控制，可能带来灾难性后果。

共识强调，目前尚无可靠方法确保超级AI系统的安全对齐，并提出三项关键应对措施：强化前沿AI开发的安全保障、建立全球性可验证的行为红线、推动安全AI技术研究。同时，呼吁成立具备技术能力与国际包容性的协调机构，推动全球治理标准统一。

姚期智指出，AI发展应避免数字鸿沟，确保技术红利公平共享。