近日,北京积算科技有限公司宣布其算力服务平台正式上线赤兔推理引擎。该引擎由北京清程极智科技有限公司联合清华大学团队开发,并已发布开源版本。作为积算科技PowerFul-AI应用开发平台的重要合作成果,赤兔推理引擎突破了FP8模型部署对GPU硬件的限制,用户通过远程算力平台的预置资源,仅需50%的GPU算力即可实现大模型推理、企业知识库构建及智能体开发。这一创新方案显著降低了AI部署成本,为行业提供了高性价比的轻量化选择。
近日,北京积算科技有限公司宣布其算力服务平台正式上线赤兔推理引擎。该引擎由北京清程极智科技有限公司联合清华大学团队开发,并已发布开源版本。作为积算科技PowerFul-AI应用开发平台的重要合作成果,赤兔推理引擎突破了FP8模型部署对GPU硬件的限制,用户通过远程算力平台的预置资源,仅需50%的GPU算力即可实现大模型推理、企业知识库构建及智能体开发。这一创新方案显著降低了AI部署成本,为行业提供了高性价比的轻量化选择。