积算科技联手清程极智推出赤兔推理引擎,助力AI模型高效部署

近日,北京积算科技有限公司宣布其算力服务平台正式上线赤兔推理引擎。该引擎由北京清程极智科技有限公司联合清华大学团队开发,并已发布开源版本。作为积算科技PowerFul-AI应用开发平台的重要合作成果,赤兔推理引擎突破了FP8模型部署对GPU硬件的限制,用户通过远程算力平台的预置资源,仅需50%的GPU算力即可实现大模型推理、企业知识库构建及智能体开发。这一创新方案显著降低了AI部署成本,为行业提供了高性价比的轻量化选择。

最新文章
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1