10月23日消息，PyTorch 官方最新对外公布，TorchTitan 在过去一年完成了从基础训练框架到全链路大模型开发工具栈的全面升级，整体版本迭代至 v0.3.0，不仅补齐了分布式并行、低精度训练、多硬件适配、强化学习拓展四大核心能力，还新增十多款主流大模型原生支持，大规模集群训练的性能与稳定性实现跨越式提升。

项目能够完成这么多技术突破，核心原因是开发团队把分布式训练底层逻辑重构为 SPMD 统一架构，同时联动 TorchAO、TorchFT 等配套工具做一体化优化，并且联合 AMD、多家云厂商完成跨硬件适配验证；整个迭代工作遵循版本规划、模块开发、多集群联调、开源公测四个步骤稳步落地，先完成 v0.2 版本补齐稠密大模型训练能力，再在 v0.3 版本增加 MoE 模型、TitanRL 强化学习模块，最后完成全平台适配与性能调优。

经过一整年持续开发，TorchTitan 已经成为 PyTorch 生态里主流的大模型预训练开源框架，能够支撑上千卡规模的大模型训练，覆盖稠密模型、混合专家模型、多模态模型与强化学习模型，大幅降低开发者搭建超大模型训练集群的工程门槛。