腾讯宣布正式开源混元AI基础设施(Infra)的核心技术组件,涵盖分布式训练框架、高性能推理引擎及资源调度系统。
开源内容包括支持千卡级集群的训练加速库、兼容PyTorch生态的模型并行调度器,以及面向大模型服务的低延迟推理中间件。
相关代码已发布至GitHub公共仓库,采用Apache License 2.0协议,面向全球开发者开放使用与协作。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
腾讯宣布正式开源混元AI基础设施(Infra)的核心技术组件,涵盖分布式训练框架、高性能推理引擎及资源调度系统。
开源内容包括支持千卡级集群的训练加速库、兼容PyTorch生态的模型并行调度器,以及面向大模型服务的低延迟推理中间件。
相关代码已发布至GitHub公共仓库,采用Apache License 2.0协议,面向全球开发者开放使用与协作。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。