英特尔Gaudi 2E AI加速器为DeepSeek-V3.1提供深度优化支持

英特尔宣布,Gaudi 2E AI加速器已实现对DeepSeek-V3.1的深度优化支持。该加速器采用7nm制程,配备96GB HBM2E内存及48MB SRAM,具备2.4TB总内存带宽,有效降低AI任务延迟。其搭载24个可编程张量处理器核心与2个矩阵乘法引擎,支持多卡互联,提供灵活可扩展的AI解决方案。

实测显示,在8张Gaudi 2E支持的服务器上运行DeepSeek-V3.1模型,多项并发条件下token生成速率均达每秒10个,问答及编码能力显著提升。

最新文章
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1