英伟达今日正式发布 Dynamo,号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。