摩尔线程智能科技(北京)股份有限公司等「模型推理方法及推理系统、设备、存储介质、程序产品」专利公布(人工智能专利快讯)

天眼查App显示,2025年5月2日,「模型推理方法及推理系统、设备、存储介质、程序产品」正式进入专利公布阶段。申请人为摩尔线程智能科技(北京)股份有限公司,该项人工智能专利涉及模型推理技术领域。据专利信息显示,该技术能够显著优化模型部署效率和模型推理效率。发明人为请求不公布姓名。

本公开实施例提供了一种模型推理方法及推理系统、设备、存储介质、程序产品,具体包括:响应任一需求方的关于模型推理的第一请求,基于所述第一请求的指示信息,分别调配与所述第一请求匹配的第一类模型、第二类模型、以及训练数据;第一类模型用于把控模型对整体特征的处理能力,第二类模型用于把控模型对局部特征的处理能力;基于训练数据的数据量、第一类模型和第二类模型的参数量,为第一请求分配第一计算资源;基于训练数据、第一类模型、第二类模型、以及第一计算资源,确定第一请求的模型推理结果。如此,极大降低了部署难度,提高了模型部署效率和模型推理效率。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1