芯原股份NPU支持移动端大语言模型推理

6月9日,芯原股份宣布其神经网络处理器(NPU)IP已支持在移动端进行大语言模型推理。该技术具备超低能耗与高性能特点,AI算力可扩展至40 TOPS以上,满足移动平台生成式AI需求,助力AI PC等终端设备发展。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1