11月1日消息,OpenAI CEO 萨姆・奥尔特曼昨日在接受 YouTube 播客节目 Cheeky Pint 采访时论证了降低计算成本的必要性。他表示,在 DRAM 存储芯片供应紧张的情况下,将内存集中部署在数据中心并提高利用率,才能够更有效地利用有限的资源。
奥尔特曼在节目中谈到了 AI 行业面临的全球算力供应问题,并以个人电脑运行本地 AI 模型为例,解释了自己的观点。
随着开源模型的发展,部分用户希望直接在个人电脑上运行 AI 模型,以减少对云端服务的依赖。奥尔特曼则认为,在内存供应受限的情况下,将更多资源集中到利用率更高的数据中心,可能更有利于满足整体算力需求。
奥尔特曼认为,供应链的运作方式其实非常不直观。举个例子,很多人倾向于本地化 AI 推理,他们想当然地认为问题现在已经解决了,因为有了开源模型,可以运行在自己的电脑上,因此就不用把所有数据放在数据中心了。
但从全球资源分配的角度来看,如果每个人都在自己的电脑里占用大量有限的 DRAM,而这些内存可能只有 5% 的时间在被使用,这实际上非常糟糕。如果要应对这种供应严重受限的局面,就应该让云端的资源得到最大程度的利用。



