粤港澳大湾区首个“真武”万卡智算集群在韶关上线

4月4日,由中国电信广东公司联合阿里云共建的粤港澳大湾区首个基于“真武”芯片的万卡智算集群,在韶关数据中心集群正式上线。该项目是国家“超大规模智算集群”新基建在大湾区的首个落地项目,实现从芯片、云平台到模型应用的全链路自主研发。

该集群采用卡间RoCE高性能组网与双平面多轨通信技术,端到端网络时延低至4微秒,网络峰值利用率超95%,可稳定支撑千亿参数级大模型预训练与推理;真武芯片整机提供1.5T大显存,卡间互联带宽超700GB/s。

集群已面向政务治理、医疗民生、新兴产业等领域提供算力及应用服务。在城市治理中支撑“超级搜图”应用,提升海量图文视频检索效率;在医疗领域上线“全诊通”应用,已在中山大学肿瘤防治中心等机构开展国产化迁移试点;在产业侧为电子信息、先进材料、生物医药、装备制造、低空经济等提供模型训练、推理与调优服务。

集群实现算力普惠:相较传统单机部署,单卡吞吐性能提升9.3倍,每秒Token生成总量提升近10倍,每百万Token算力成本显著下降;支持DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等开源模型单机快速部署。

“真武”芯片全面适配主流AI生态,自研软件栈兼容主流模型、框架、算子库及操作系统,提供统一编程接口;集群提供IaaS、PaaS、MaaS全栈AI智算云化服务,支持多机训练、单机与多机推理、基础模型一体机等多种交付形态,并配备训练推理深度优化套件,实现秒级镜像加载与小时级模型调优,训练与推理效率提升超30%。

集群资源已同步上线“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务;未来计划扩容至十万卡规模,打造面向关键行业的国家级智能算力服务平台。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
蜀ICP备2024059877号-1