腾讯混元发布端侧极轻量AI模型HY-1.8B-2Bit,内存仅600MB

腾讯混元于2026年2月10日正式推出面向消费级硬件终端的极小规模AI模型HY-1.8B-2Bit。该模型等效参数量为0.3B,内存占用约600MB,体积小于多数常用手机应用。

该模型基于原有1.8B模型实施量化感知训练,在等效参数量降低6倍的前提下,完整保留思维链能力。在端侧真实设备上,其文本生成速度较原始精度模型提升2至3倍,首字响应速度最高提升8倍。

技术实现上,通过数据优化与训练策略创新,模型在数学、代码等关键能力指标上达到与4比特量化模型相当水平。模型已提供适配格式,支持在搭载Arm SME2等技术的移动平台高效运行,适用于端侧隐私保护及离线AI应用场景。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号