Arm近日宣布,将其AI推理性能优化软件库Kleidi引入车用领域。这一举措将助力合作伙伴挖掘下一代特定应用AI模型在汽车中的潜力,并显著加快部署速度。自2024年推出以来,Kleidi已在移动设备、云服务和数据中心等领域展现出卓越的性能优化能力,开发人员无需额外工作即可提升Arm CPU上的AI推理效率。
通过与Corellium合作开发的虚拟平台,亚马逊AWS成功为软件定义汽车(SDV)打造了概念验证AI聊天机器人。该机器人利用集成Kleidi的Llama.cpp最新版,实现了响应时间缩短至1~3秒,性能提升达10倍,同时为开发人员节省了6周的优化时间。Arm车用事业部副总裁Suraj Gajendra指出,当前AI技术已广泛应用于自适应巡航控制、车载信息娱乐系统等功能中,而Arm平台凭借灵活性与高效性,成为汽车行业开发者的首选。