天眼查App显示,2025年7月25日,「模型部署方法、装置、计算机设备及存储介质」专利正式进入专利的公布阶段。申请人为深圳天源迪科信息技术股份有限公司,该项计算、推算、计数领域专利涉及模型部署技术的应用场景。据专利信息显示,该方法通过动态映射表获取目标模型的模型支持信息,并基于计算节点的算力资源指标数据进行部署,从而提高整体资源利用率。发明人为唐光辉、汪东升、俞辉、王彦炜、许先波、陈维燚。本申请揭示了一种模型部署方法,包括通过响应模型部署请求,从模型广场中确定目标模型;基于动态映射表获取目标模型的模型支持信息;获取模型支持信息对应的每个计算节点的算力资源指标数据;基于每个计算节点的算力资源指标数据和动态映射表部署目标模型。本申请可以避免因用户对算力资源估算偏差,导致算力资源不足或者过剩;可以精准灵活地为目标模型分配算力资源并进行部署,可以避免算力资源不足的情况发生,且在计算节点出现故障时,可以根据每个计算节点的算力源指标数据动态调整目标模型的算力资源分配,从而提高整体资源利用率。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。