黄仁勋称 Token 是 AI 时代基础单元

DoNews3月17日消息,GPU 技术大会(GTC)3 月 17 日在美国圣何塞拉开帷幕,英伟达首席执行官黄仁勋在演讲中明确指出,“Token”(词元)是新 AI 时代的基础构建单元。

黄仁勋在演讲中庆祝 CUDA 架构诞生 20 周年,并强调 CUDA 是驱动加速计算的“核心飞轮”,并且这种加速计算正在战胜摩尔定律。

黄仁勋表示:“我们花了 20 年时间,在全球构建了数亿台运行 CUDA 的 GPU 和计算系统。我们渗透到每一个云端,渗透到每一家计算机公司。我们几乎服务于所有行业。”

黄仁勋表示,英伟达是一家算法平台公司,帮助其支持谷歌云、Azure 和 AWS 等平台,其数据加速库 cuDF 和 cuVS 已被全球多家领先平台采用。

处理结构化数据时,cuDF 能让数据引擎提速高达 5 倍;而 cuVS 则极大加速了非结构化数据的特征提取。Snap 首席信息官表示,部署 cuDF 使公司每日数据处理成本锐减 76%,三小时内即可完成 10 PB 数据的分析,直接省下数百万美元。

英伟达 60% 的业务是超大规模企业,几乎覆盖所有建设需要 AI GPU 的数据中心的企业,而 40% 是其他所有领域,云计算、企业、机器人、游戏、超级计算等等。

黄仁勋表示英伟达的每 token 成本是世界上最低的,而这可以降低企业的成本,实现更大的利润空间。黄仁勋强调英伟达是 Token King(Token 国王)。

黄仁勋称 Token 是 AI 时代基础单元
扫描二维码查看原文
分享自DoNews
Copyright © DoNews 2000-2026 All Rights Reserved
蜀ICP备2024059877号-1