比特大陆AI芯助力百度飞桨远航

2020年伊始,AI技术继续深入发展,人工智能场景规模化落地与应用持续创造着新的中国速度。随着AI技术与传统行业的不断融合,智能经济时代的全新产业版图初步显现。

进入智能时代,AI芯片和深度学习框架二者融合成为构建我国自主AI生态的关键。作为智能时代的操作系统,深度学习框架起到承上启下的作用——上承应用、下接芯片;作为智能时代的核心大脑,AI芯片支持框架平台让AI技术更加普及易用,为行业赋能更多应用场景。比特大陆最新算丰系列AI芯片与百度飞桨(PaddlePaddle)深度学习框架的成功融合,在芯片利用率、性能功耗比等指标上相比传统GPU更适合深度学习推理,是我国构建自主AI生态的典范。

Paddle Lite简介

作为国内功能最完备的端到端开源深度学习平台,飞桨以其兼具灵活和效率的开发机制、工业级应用效果的模型、超大规模并行深度学习能力、推理引擎一体化设计以及系统化的服务支持,成为加快产业智能化升级的主力军。

Paddle Lite是飞桨推出的一套功能完善、易用性强且性能卓越的轻量化推理引擎。轻量化体现在使用较少比特数用于表示神经网络的权重和激活,能够大大降低模型的体积,解决终端设备存储空间有限的问题。推理性能也整体优于其他框架,以ResNet50模型为例,在高通骁龙845上,Paddle Lite相比其他框架,比MNN快10.26%,比NCNN快17.1%。近期已正式上线的V2.3版本更通过支持“无校准数据的训练后量化”及网络结构与算子优化,在不牺牲性能的条件下,将模型压缩率提升至75%,有效将模型体积大幅缩小,进而满足移动及边缘端设备的轻量化需求。现在,搭载了比特大陆AI芯片的V2.4版本即将上线。

百度飞桨与比特大陆兼容性认证书

通过对比特大陆AI芯片的适配,Paddle Lite不仅可实现对多种硬件平台的兼容,亦能更好地服务用户实际业务需求、节省模型迁移时间、加快敏捷开发部署,极大丰富了飞桨的硬件生态。

Paddle Lite支持比特大陆算丰BM系列芯片

算丰芯片与飞桨整合效能

与百度同为国内人工智能企业先行者的比特大陆是世界上少数几家有能力开发云端人工智能芯片的公司之一,并已成功推出四代人工智能芯片(云端芯片算丰BM1680、算丰BM1682、算丰BM1684,终端芯片BM1880)。凭借多年技术积累与行业实践,比特大陆AI芯片正在迅速成长为国产智能芯片阵营的中坚力量,为中国乃至全球的AI平台落地提供核心支撑。比特大陆开发的形态丰富的各种AI硬件产品均基于自主研发AI芯片,拥有完整的国内自主知识产权和专利,同一套SDK和简单易用的工具链支持多形态应用,充分满足云+边的“新基建”算力基础设施建设需求。

最新一代算丰BM1684芯片,聚焦于云端及边缘应用的人工智能推理,采用台积电 12nm 工艺,在典型功耗仅 16 瓦的前提下,INT8 算力可高达 17.6Tops,在 Winograd 卷积加速下,INT8 算力更提升至 35.2Tops,是一颗低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指标业界领先,超过主流推理GPU,在性能满足视频分析业务需求的前提下,可以实现视频结构化的单路成本最优。

算丰1684在飞桨框架上int8运行Resnet50的性能指标

强强联手合构AI生态圈

与此同时,比特大陆积极参与百度的黄埔学院计划,进一步深化双方合作关系,并成功合作开发运行百度“行人车辆”算法的SS-5416C3人工智能一体机,交付于公安部安全与警用电子产品质量检测中心进行检测。此外,在接下发布的飞桨开源框架版本,也会完整实现对比特大陆编译工具BM Lang及相关Profiler工具的支持。

随着飞桨在稳定性、兼容性和成熟度等方面不断升级,比特大陆AI芯片也在不断提升性能、优化指标,助力飞桨加速产业结合,二者联手帮助产业实现智能转型,为我国产业智能化发展贡献力量。

声明:本站转载此文目的在于传递更多信息,并不代表赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容!本网站对此声明具有最终解释权。

Copyright © DoNews 2000-2024 All Rights Reserved
蜀ICP备2024059877号-1     京ICP证151088号
京网文【2018】2361-237号