摩尔线程确认,其MUSA架构已成功适配开源项目llama.cpp,进一步融入全球AI生态。llama.cpp作为纯C/C++实现的大语言模型推理工具,以轻量化部署和跨硬件兼容性著称,支持LLaMA、Mistral等主流模型及多模态应用。此次适配意味着用户可在MTT S80/S3000/S4000系列GPU上通过官方容器镜像高效运行AI推理。
今年4月,MUSA SDK 4.0.1已扩展至Intel处理器与国产海光平台,此次与llama.cpp的联动,进一步降低了开发者部署大模型的门槛,为本土AI硬件生态注入新动能。