腾讯混元发布Hy3 1bit/4bit量化版,支持单卡部署

2026年7月14日,腾讯混元团队宣布开源Hy3大模型的1bit与4bit量化版本。该模型参数量达295B,原需多卡集群运行,经量化并打包为GGUF格式后,可依托llama.cpp生态在单张显卡或内存充足的本地设备上高效推理。此举响应开源社区对轻量化部署的迫切需求,显著降低硬件门槛,提升模型实用性。目前量化版本已随Hy3开源项目同步上线。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号