摩尔线程智能科技(北京)股份有限公司基于交错式流水线并行的负载调控方法及装置专利公布(计算专利快讯)

天眼查App显示,2025年4月29日,「基于交错式流水线并行的负载调控方法及装置」正式进入专利公布阶段。申请人为摩尔线程智能科技(北京)股份有限公司,该项计算领域专利涉及分布式训练过程中的负载均衡优化技术。据专利信息显示,该技术能够显著优化分布式训练效率,并在经济和环境可持续性方面带来益处。发明人为请求不公布姓名。

本公开提供了一种基于交错式流水线并行的负载调控方法及装置。具体而言,该方法通过确定训练目标模型过程中所需的分配参数(如节点数量、流水线并行规模等),结合各计算节点的节点编号制定计算策略,包括计算类型和预热计算数量。最终,控制各计算节点按照对应的策略执行微批次计算,直至完成目标模型训练。通过精细的负载均衡设计,不仅提升了训练效率,还展现了在商业与学术研究中的广泛前景。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1