月之暗面开源2.8万亿参数Kimi K3大模型

7月27日,月之暗面正式开源Kimi K3模型。该模型参数达2.8万亿,为当前最大规模开源模型,支持100万token上下文及原生视觉理解。其采用KDA混合线性注意力与Attention Residuals技术,并集成MoonEP、FlashKDA和AgentEnv三大训练基础设施。通过Stable LatentMoE框架,模型可在896个专家中高效激活16个,扩展效率较K2提升约2.5倍。Kimi K3在长程编码、代码库理解、视觉-工程协同等任务上表现突出,综合能力稳居开源模型首位,但略逊于顶尖闭源模型Claude Fable 5与GPT-5.6 Sol。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号