2026年7月14日,腾讯混元团队宣布开源Hy3大模型的1bit与4bit量化版本。该模型参数量达295B,原需多卡集群运行,经量化并打包为GGUF格式后,可依托llama.cpp生态在单张显卡或内存充足的本地设备上高效推理。此举响应开源社区对轻量化部署的迫切需求,显著降低硬件门槛,提升模型实用性。目前量化版本已随Hy3开源项目同步上线。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
2026年7月14日,腾讯混元团队宣布开源Hy3大模型的1bit与4bit量化版本。该模型参数量达295B,原需多卡集群运行,经量化并打包为GGUF格式后,可依托llama.cpp生态在单张显卡或内存充足的本地设备上高效推理。此举响应开源社区对轻量化部署的迫切需求,显著降低硬件门槛,提升模型实用性。目前量化版本已随Hy3开源项目同步上线。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。