淘宝MNN发布轻量端侧大模型MNN-Pocket-0.3B

2026年11月6日,淘宝MNN团队正式发布面向手机应用的轻量语言模型MNN-Pocket-0.3B。该模型参数约3亿,专为端侧低算力、低内存(峰值<300MB)、低功耗(100次推理耗电<电池总量1%)场景优化,在iPhone 18 Pro实测解码速度达350token/s,部署体积仅173MB。模型支持中英文,指令遵循能力领先同规模模型,开源多个训练与部署版本,适配Metal、OpenCL及CPU后端。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号