天眼查App显示，2025年7月18日，「数据处理方法及相关设备」正式进入专利的公布阶段。申请人为北京芯驰半导体科技股份有限公司，该项计算推算计数专利涉及大语言模型输入数据的预填充及解码处理技术。据专利信息显示，该方法通过从多个预填充模型中选择适配模型，结合键值缓存与首字输出词元技术，实现对大语言模型处理效率的显著优化。发明人为汤峰峰。本申请公开了一种数据处理方法、相关设备，其中所述方法包括：获得第一数据，所述第一数据为大语言模型的输入数据；从多个第一可选模型中，确定出与第一数据的属性相匹配的第一目标模型，其中每个第一可选模型基于不同的预填充长度进行程序编译而得到，且各第一可选模型之间具有相同的模型参数；利用第一目标模型对所述第一数据进行大语言模型的预填充处理，得到对第一数据的预填充结果；基于预填充结果中的键值缓存结果以及首字输出词元，利用第二目标模型对所述第一数据进行大语言模型的解码处理，以得到用于回复第一数据的第二数据。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。