今日，阿里巴巴通义千问推出下一代基础模型架构Qwen3-Next，并开源了基于该架构的Qwen3-Next-80B-A3B系列模型。相比此前的Qwen3 MoE模型，Qwen3-Next在结构上进行了多项核心改进，包括引入混合注意力机制、高稀疏度MoE结构、多项训练优化技术，以及提升推理效率的多token预测机制。此次更新旨在提升模型训练稳定性与推理效率，进一步推动大模型的应用发展。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。