快讯
全新长安马自达3Axela昂克赛拉到店
39分钟前
【汽车与环境】奇瑞汽车产品技术中心总工刘冶钢:智能化对整车研发体系的挑战
39分钟前
i8之后,宝马新能源汽车让粉丝失望了?
58分钟前
网上游戏平台异常操作违规注单银行维护提不了款怎么办
1小时前
董明珠:2019年后赚钱商机已来,普通人将彻底翻身,该行动了
1小时前
中国数交会在大连闭幕300多个项目达成交易意向
1小时前
蚂蚁金服总裁胡晓明:创新是驱动发展的唯一动力
1小时前
电动越野车靠谱吗?优劣并存的现状
1小时前
沃尔沃:犹豫就会败北!XC40:啥?先犹豫再"白给"?
1小时前
看到新奔驰C级后基本可以确定,奔驰设计师的审美是真的下线了
1小时前
在深圳,总有人比你更努力
2小时前
揭秘Airbnb上市计划:内部员工要求变现关系紧张
2小时前
高质量发展杭州思考:如何打响制造业“升级之仗”
2小时前
美团上市周年记:商家不高兴,对手不给力,王兴不再激进
2小时前
共享充电宝还在“打仗”,支付宝已经笑了
2小时前
马云史玉柱“好基友”十余年:两肋插刀外更因共同利益
2小时前
太突然了!4年关店千家,周杰伦曾代言,很多人都买过……
2小时前
索罗斯“香港惊魂”
2小时前
苏宁易购:为香港苏宁易购、香港苏宁采购提供5.5亿元担保
2小时前
金冠股份拟收购数字货币项目为A股上市公司首例
3小时前
展创新技术麦格纳中国全方位塑造未来出行生态
3小时前
【汽车与环境】吉利汽车研究院总工程师刘卫国:吉利智能网联汽车的研发与应用
3小时前
【汽车与环境】法雷奥顾剑民:自动驾驶所需的车规级激光雷达及感知融合
3小时前
智能加持全民定制上汽MAXUSD60到店实拍
3小时前
摩登大道及部分子公司被控股股东瑞丰集团占用资金余额312万元
3小时前
如何以金融创新支持经济高质量发展?《径山报告》提出八点建议
3小时前
海通证券:牛市第二波上涨即波浪理论中的3浪,初期会反复盘整
3小时前
一年卖61亿袋,中国盐业最大IPO来了
3小时前
华为DigiX数字生活能量站与厦大学子零距离“对话”
4小时前
北京邮电大学教授吕廷杰:5G的机遇与挑战
4小时前

Mellanox 200G HDR深度学习加速引擎结合 NVIDIA 将人工智能平台应用加速两倍

推荐 2019-03-20 10:58:34

2019 年 3 月 19 日, Mellanox Technologies, Ltd.(纳斯达克股票代码:MLNX)是面向数据中心服务器和存储系统的高性能、端到端互连解决方案的领先供应商,该公司今天宣布,其采用“可扩展分层聚合和归约协议”(SHARP) 技术的 HDR 200G InfiniBand 创造了新的性能记录,使深度学习操作性能提高了一倍。Mellanox 网络计算 SHARP技术与 NVIDIA V100 Tensor Core GPU 技术以及聚合通信函数库 (NCCL) 的结合,为深度学习和人工智能应用带来了领先的效率和可扩展性。

将最先进的 NVIDIA GPU、Mellanox 的 InfiniBand网络、GPUDirect RDMA技术 和 NCCL通信库相结合以训练神经网络,已成为扩展深度学习框架(如 Caffe、Caffe2、Chainer、MXNet、TensorFlow 和 PyTorch)的事实标准。借助 Mellanox SHARP 技术和 HDR InfiniBand网络,可以卸载并加速深度学习训练的数据聚合操作,从而将性能提高至两倍。

通过与 NVIDIA 合作,并在 Mellanox 的性能实验室进行测试验证,使用 Mellanox HDR InfiniBand Quantum 交换机连接 4 台系统主机,每台主机使用 8 个采用 NVLink 互连技术的 NVIDIA V100 Tensor Core GPU 和一片ConnectX-6 HDR 网卡,并通过将 SHARP 的本地流聚合功能与 NVIDIA 最新的 NCCL 2.4 通信库(该库现在可以充分利用Mellanox 网络提供的双向带宽)集成,实现了 19.6Gb/s 的有效归约带宽。在使用相同硬件配置的情况下,与NVIDIA 当前基于树型通信结构的实现相比,SHARP实现了两倍的带宽性能。

在更常见的系统配置中,如果每个主机系统中有4 个HCA卡用于各种工作的负载均衡,其中 SHARP 和 NCCL 的初始计算将会产生70.3GB/s的流量。对于更高密度的GPU系统,如 NVIDIA DGX-2,其每个系统节点中有 16 个采用 NVLink 技术的 NVIDIA V100 Tensor Core GPU,Mellanox的网络计算功能和全双向带宽更将被用的淋漓尽致。

Mellanox Technologies 市场副总裁 Gilad Shainer 表示:“我们与 NVIDIA 的长期合作为我们带来了强大的解决方案,这些方案充分利用 Mellanox InfiniBand网络的卓越性能,包括 GPUDirect RDMA技术,以及集成在NCCL中的网络计算技术,为人工智能应用提供了两倍于以往的性能。HDR InfiniBand网络计算加速引擎(包括 SHARP 技术)为 HPC 和人工智能工作负载提供了优异的性能和可扩展性。”

NVIDIA 副总裁兼加速计算总经理 Ian Buck 表示:“Mellanox 的解决方案和我们的开源聚合通信函数库 NCCL的整合,极大地增强了 NVIDIA 无与伦比的 CUDA-X 加速库的性能。我们携手合作,共同提供完整解决方案,确保数据中心内要求最为苛刻的人工智能应用能够从尖端性能和扩展效率中受益。”

辅助资源:

● 深入了解 Mellanox SHARP

●  深入了解 Mellanox Quantum HDR 200Gb/s InfiniBand 智能交换机

● 在 TwitterFacebookGoogle+领英和 YouTube 上关注 Mellanox。

● 加入 Mellanox 社区

 

关于 Mellanox

Mellanox公司的英文全称是Mellanox Technologies(中文名:迈络思),是一家在全球范围内为服务器和存储提供端到端InfiniBand和以太网互联解决方案的领军企业。Mellanox互连解决方案通过低延迟、高吞吐量的强大性能,可以极大的提升数据中心效率,在应用和系统之间快速的传递数据,提升系统可用性。Mellanox为业内提供了加快内部设备互联的技术和产品,包括网卡、交换机、软件和芯片,这些产品都可以加速应用的执行,并最大化的提升HPC、企业数据中心、Web2.0、云计算、存储以及金融服务的效率。更多信息请关注:www.mellanox.com


相关文章

{{news.title}}

{{news.author}} {{news.timeFormat}}

正在加载......