Meteora Web

OpenAI萨姆·奥尔特曼称电脑内存是浪费,真正的归宿是数据中心

萨姆·奥尔特曼在播客中称,家用电脑里的DRAM大部分时间闲置,是一种浪费,把内存放进云端数据中心才能发挥最大价值。他究竟说了什么,哪些事实被他省略,以及当前内存涨价对购买和开发硬件的人意味着什么,这篇文章为你逐一梳理原话出处、背后的供应链原因、各家媒体的不同观点,...

Ing. Calogero Bono 1 分钟阅读
OpenAI萨姆·奥尔特曼称电脑内存是浪费,真正的归宿是数据中心

萨姆·奥尔特曼(Sam Altman)是OpenAI的首席执行官,他在播客Cheeky Pint中说,全世界的DRAM放在家用电脑里、只被少量使用,是「糟糕透了」的做法。他认为内存在云端的产出更高。这些话出现之际,内存短缺正推高笔记本、手机和显卡的价格。对于购买或开发的人来说,这件事关乎成本,也关乎对自己硬件的掌控。

进入正题前的几个术语。 DRAM是电脑的工作内存,也就是我们常说的RAM。本地推理指在自己的设备上运行AI模型,而不是交给远程服务。开源指模型权重可以下载并自行使用的模型。数据中心是装满服务器、用来承载云服务的设施。利用率指资源真正工作的时间占比。

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

萨姆·奥尔特曼究竟说了什么关于内存的话?

在播客中,据Tom's Guide报道由John Collison主持,奥尔特曼回答了关于供应链短缺的问题。他指出,许多人以为问题会解决,因为将来会有可以在自己电脑上运行的开源模型。

核心句子的译文如下,「从全球分配的角度看,每台电脑都占着全球稀缺DRAM供应的一部分,却只用了5%的时间,这真的很糟糕」(Tom's Hardware)。他还说,「在云端,你想要的是最大利用率」。

为什么内存这么稀缺、这么贵?

据The Verge报道,三星和SK海力士与云服务商以及OpenAI的Stargate等项目签有长期协议,已经预留了未来几年的大部分内存产能。该媒体认为,巨额芯片投资正是笔记本电脑和手机涨价的原因。

Tom's Guide补充了其他因素,与AI相关的需求、长期偏低的库存、关税,以及把消费级产能转向服务器的晶圆厂。文中提到一套32 GB的DDR5内存套装,从400美元涨到了500美元。

奥尔特曼是否在维护自身商业利益?

Tom's Hardware讲得很清楚。OpenAI有一些开源模型,但它的主要业务是运行在数据中心的闭源模型,因此奥尔特曼可以说是在维护公司的模式。如果人们能在家里运行模型,将来或许就能少付订阅费。

Windows Central提醒,奥尔特曼此前曾谈到像水电一样按用量出售智能服务。这家媒体态度鲜明,认为其中隐藏着少数巨头控制算力并将其出租的风险。这是观点,不是事实。想了解奥尔特曼和他的提议,也可以阅读关于分配AI财富的计划。

AI泡沫会改变这个局面吗?

对Tom's Guide的记者来说会,但这是他个人的预测。文章提到Anthropic的首次公开募股,其上半年营收为163亿美元,净亏损807亿美元,还提到中国和美国的股市下跌。也提到一些公司正在收紧AI支出,其中包括Uber,据报道它在四个月内用完了34亿美元的预算。

同一位作者承认,他此前对内存价格的预测有误。请把它当作一种情景来看。关于供应商之间的比较,可以阅读Anthropic Claude与OpenAI的对比。

需要留意的局限

那个5%的数字是奥尔特曼的说法,并非我们看到的测量结果。没有任何来源说明它是如何计算的。我们也不知道数据中心的内存究竟被用了多少,Tom's Hardware的一条读者评论提到闲置率超过70%,但那只是没有出处的评论。Tom's Guide的价格情景属于假设。Windows Central则是一篇观点文章。

对于从事数字工作的人,有什么变化

对企业来说,硬件成本仍然高,而且难以预测。如果你要更新电脑或服务器,推迟可能更划算,但前提是现有设备还能支撑工作。用本地AI开发的人,需要权衡内存、隐私和云服务的订阅费用。Tom's Guide指出,许多公司把隐私列为使用云服务的最大顾虑。这个话题还牵涉能源和地方社区,比如意大利大型科技公司数据中心的案例。如果是网站服务器,托管主机可以让你不必自己购买内存。

我们的看法

奥尔特曼的论点有一定道理,因为内存稀缺,而闲置的硬件确实是浪费。但这个推理默认数据中心能更好地利用内存,而他并没有证明这一点。主张把别人的内存转移到云端的人,本身也是购买内存最多的人之一。在拥有和租用算力之间做选择,不只是资源分配的问题,还关乎对少数供应商的依赖。我们希望读者根据自身成本做决定,而不是被一个比喻左右。

常见问题

为什么奥尔特曼说电脑里的内存是个问题?

因为他认为家用内存只用了5%的时间,而在云端它可以跑满。他是在播客Cheeky Pint上谈到DRAM短缺时说的。

内存短缺是OpenAI造成的吗?

部分如此,据来源称。The Verge写道,三星和SK海力士与云服务商及OpenAI的Stargate等项目的协议,占用了大部分产能。Tom's Guide还提到关税和库存偏低。

内存价格会下降吗?

不确定。Tom's Guide给出两种情景,一种是降价,一种是长期短缺,并承认自己之前的一个预测有误。

奥尔特曼的话是为OpenAI说话吗?

Tom's Hardware持这种看法。OpenAI的主要模型是闭源的,运行在数据中心,因此本地推理可能会减少订阅量。

本地AI值得用吗?

要看情况。Tom's Guide提到隐私、没有使用限制以及不依赖订阅,但需要大内存的硬件,而目前这类硬件价格不低。

内存价格与AI的账本,接下来该观察什么

内存价格将跟随厂商的决定以及AI公司的账目走向,其余都是假设。

  • 关注三星、SK海力士和美光是否把产能转回消费级内存,还是继续削减供应。
  • 查看AI公司的财报和上市计划,因为支出放缓会改变内存需求。
  • 在确定硬件预算之前,先评估哪些工作负载可以在本地开源模型上运行。

来源

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

相关阅读

博客精选

最新文章