天眼查App显示,2025年5月2日,「一种多硬件混合大模型推理的方法、系统及相关装置」正式进入专利权的授权阶段。申请人为山东极视角科技股份有限公司,该项人工智能专利涉及多硬件混合大模型推理技术领域,用于提升对复杂模态任务的推理效率和灵活性。据专利信息显示,该技术实现显著优化。发明人为陈硕、徐雷、邓富城、罗韵。
本申请公开了一种多硬件混合大模型推理的方法、系统及相关装置。具体方法包括:根据多模态大模型的结构信息和不同任务阶段的模态变化特性对目标推理任务进行分解;根据硬件适配报告和任务资源需求制定调度策略,并将计算单元分配至合适的硬件执行;在任务执行过程中使用多模态语义融合模型和时间序列预测模型动态监测模态变化趋势,实时调整调度策略;最终完成所有子任务后,合并和验证结果并输出最终推理结果。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。