天眼查App显示,2025年5月6日,「困惑度计算方法、装置、设备及计算机可读存储介质」正式进入专利的公布阶段。申请人为北京金山云网络技术有限公司,该项计算机技术专利涉及通过并行部署多个图形处理器来计算模型困惑度的技术方案。据专利信息显示,该技术能够显著优化显存利用效率,解决单个图形处理器因显存较小而无法计算PPL的问题。发明人为毛雄。 「本公开涉及一种困惑度计算方法、装置、设备及计算机可读存储介质,通过将待评测模型并行部署于多个图形处理器上,使得多个图形处理器分别通过待评测模型对模型输入转换成的符号序列进行前向计算,得到逻辑值,并根据该逻辑值和该符号序列计算得到损失值,即多个图形处理器并行计算损失值,最后将多个图形处理器分别计算得到的损失值聚合到一个图形处理器上,得到聚合后的损失值,并根据该聚合后的损失值,计算该待评测模型的困惑度,从而达到多个图形处理器并行计算困惑度的目的。」
免责声明:本文内容由开放的智能模型自动生成,仅供参考。