10月27日消息，长期以来，反向传播（backpropagation）是训练 Transformer 大模型的基石，整套深度学习软硬件、优化器、网络架构都围绕可微分与反向梯度计算发展而来。

近日，Jeff Dean投的小型实验室Q Labs Research 团队推出全新零阶优化算法Dust，仅依靠前向传播即可完成 Transformer 预训练，成为首个在预训练任务上可与反向传播相抗衡的零阶方案，为大模型训练开辟全新技术路线。

传统零阶优化、进化策略（ES）的普遍痛点是计算成本高昂：需要生成多套权重副本作为种群样本，逐个执行前向运算，模型规模越大开销爆炸，业界普遍认为这类方法无法适配大型神经网络。

Dust 跳出权重扰动的固有思路，创新性提出虚拟种群（Virtual Population）机制，不在模型权重上增加噪声，转而对每一个 Token 对应的激活输出独立施加高斯噪声扰动。

每一个 Token 就等价于一个独立的种群个体，单次前向传播就能够并行完成数千个样本评估，无需复制生成多份模型权重。算法统计每一处噪声带来的损失变化，给扰动分配对应奖励；将奖励加权后的噪声做平均，间接估算梯度，完成参数更新。

针对 Transformer 的注意力模块，还设计专门的信用分配规则，处理 Token 之间跨位置的信息传递，降低多扰动同时运行带来的信号干扰问题。

实验基于 FineWeb 数据集，覆盖 2M‑243M 参数量级的 GPT 式 Transformer，训练 Token 规模最高达 20M。对比业界顶尖进化策略 EGGROLL‑Transformer，Dust 效率实现千倍至万倍提升，同等效果下需要的种群规模远小于基线方案。

打破过往认知的一点是：更大的模型反而拥有更高种群利用效率，243M 参数模型在绝大多数种群设置下，表现优于参数量小 120 倍的小模型；大模型可以充分利用更大种群持续迭代，而小模型会快速性能饱和。

当种群规模不断扩大，Dust 估算出来的梯度与反向传播梯度的余弦相似度持续走高，该对齐特性在最高 1B Token 测试规模下依旧保持稳定。在充足计算资源条件的部分实验配置中，Dust 测试损失甚至优于反向传播；同时该算法可以直接兼容 Adam 等主流优化器，无需专门改造优化逻辑。

研究团队也客观指出现阶段局限：Dust 当前并非可以直接落地替代反向传播的工程方案，整体计算开销仍然高出传统反向传播。这项工作的核心价值是验证可行性：训练不一定依赖链式求导与反向通路，无需网络完全可微也能完成 Transformer 从零预训练。

这意味着未来有机会训练反向传播难以驾驭的网络结构，比如带外部程序循环、多步循环推演的模型。团队表示后续研究方向包含挖掘损失曲面高阶信息、进一步压缩计算开销、适配更多特殊网络架构。