10月15日消息,当地时间13日下午,英伟达宣布正在将完整的NVIDIA Run:ai平台开源,作为 NVIDIA DSX AI Factory Platform 的一部分。

开发人员、平台团队和合作伙伴可以基于生产级AI工作负载和GPU编排进行构建,以提高GPU利用率、增加工作负载吞吐量,并更快地将AI工厂解决方案推向市场。
据了解,开源版包含四个可独立采用的核心组件:KAI Scheduler(GPU 感知的 Kubernetes 调度器,已 Apache 2.0 开源、也是 CNCF Sandbox 项目)、GPU Fractioning Operator(基于 CUDA 原生的 GPU 分割,CUDA 13.4 MPS fractioning)、KAI Resource Management(组织级 GPU 配额与层级管理)、Workload Map(一致的工作负载契约)。
八家 NVIDIA DSX 生态合作伙伴 Crusoe、Mirantis、Nebius、OpenNebula Systems、Rafay、Saturn Cloud、Spectro Cloud、vCluster 已将开源 Run:ai 整合进各自方案。
在 8 张 NVIDIA H100 VM 上的基准显示,加载速度比默认 loader 快 3 到 6 倍,稳态带宽 80 Gbps(默认路径约 40 Gbps)。



