天眼查App显示,2025年6月6日,「大模型推理方法、装置、设备、存储介质及计算机程序产品」正式进入专利公布阶段。申请人为三六零数字安全科技集团有限公司,该项人工智能专利涉及数据处理技术领域,特别针对大语言模型推理成本优化问题提供了解决方案。据专利信息显示,该技术可以显著优化大语言模型的推理效率和成本。发明人为郑涵中、黄绍莽、潘剑锋。 「本申请公开了一种大模型推理方法、装置、设备、存储介质及计算机程序产品,涉及数据处理技术领域,通过高质量思维链删减和目标思维链生成,解决了现有技术中大语言模型基于长度过长的思维链进行推理时导致推理成本增加的问题。」
免责声明:本文内容由开放的智能模型自动生成,仅供参考。