2025世界AI大会今日在上海开幕，图灵奖得主约书亚・本吉奥在演讲中指出，前沿AI模型在规划和推理领域进展显著，若趋势持续，其能力有望十年内达到人类水平。但他同时警告，缺乏有效防护的强AI系统可能加剧虚假信息、网络攻击及生物威胁等风险，甚至导致人类失去对自我保护型智能体的控制。

本吉奥强调，科学界需保持高度警惕，目前尚无可靠方法确保AI始终遵从人类意图。他呼吁技术与政策双管齐下，推动无危害能力的开源AI项目，并对闭源模型实施严格安全措施，防止其被滥用。