新大陆数字技术股份有限公司基于空间级低秩分解蒸馏的模型轻量化方法专利公布(人工智能专利快讯)

天眼查App显示,2025年5月13日,「基于空间级低秩分解蒸馏的模型轻量化方法」正式进入专利公布阶段。申请人为新大陆数字技术股份有限公司,该项人工智能专利涉及一种用于降低模型复杂度同时保持性能的技术方案。据专利信息显示,本发明通过将低秩分解技术与模型蒸馏相结合,实现显著优化效果。发明人为余泽凡、徐逸轩。 「本发明公开一种基于空间级低秩分解蒸馏的模型轻量化方法,包括如下步骤:选择并训练教师模型;对所述教师模型的权重矩阵进行低秩分解,通过奇异值分解技术,得到低秩矩阵表示;将低秩分解后的教师模型作为学生模型,并通过蒸馏技术将低秩分解前教师模型的知识传递给学生模型。本发明将低秩分解技术与模型蒸馏相结合,以便同时降低模型复杂度和保持模型性能。」

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1