天眼查App显示，2025年5月13日，「一种基于大模型的推理方法、装置及程序产品」正式进入专利公布阶段。申请人为恒生电子股份有限公司，该项人工智能专利涉及大模型推理技术领域。据专利信息显示，通过温度系数递减策略与候选序列生成优化，处理效率显著提升，同时减少模型开销并保证答复文本准确性。发明人为陈奕名、李昀昊、李定邦和林金曙。本专利提出了一种基于大模型的推理方法、装置及程序产品，通过一次请求的一个提示词，在不人为构建多个提示词的前提下，利用温度系数的递减策略，伴随候选序列的生成过程，使得每个候选序列中的各个词元，依次从追求多样性逐渐过渡至追求精确度。进而在构建答复文本时，将自信度较低的候选序列剔除，保留具有更高自信度的候选序列进行答复文本的生成。从而在提高处理效率，减少模型开销的同时，保证了最终输出的答复文本的准确性。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。