最近一段时间，内存价格的持续上涨牵动着每个人的心，不仅我们普通消费者在吐槽开学三件套都买不起了，连财大气粗的各大互联网大厂也深陷内存涨价的困扰，甚至有媒体曝出，知名大厂谷歌都被这天价内存逼成了垃圾佬，开始去拆解旧服务器内存来救急了，我们到底该怎么看呢？
天价内存把大厂都逼成了垃圾佬
据快科技的报道，DRAM供应持续紧张，已将AI巨头逼到拆旧服务器回收内存的地步。
谷歌供应链基础设施高级总监Nikhil Cherian近日透露，AI行业已从算力受限快速转向内存受限，高性能内存目前占单台AI服务器物料成本的约75%。
据Cherian介绍，为突破内存瓶颈，谷歌在软硬件两端同时发力，硬件层面甚至建立了内部回收供应链，将退役服务器拆解后回收可用的DDR4内存模块。
Cherian坦言，谷歌专门设计了硬件转接器，使上一代DDR4内存能够连接到新一代AI服务器上，并且正在专门重新导入退役服务器以拆取其中的DDR4模组。
软件层面，谷歌持续优化底层函数库、模型架构和KV Cache压缩技术，试图降低单位算力的内存消耗。
今年谷歌推出了两款TPU ASIC，分别是面向训练的TPU8t和面向推理的TPU8i，其中TPU8i每颗芯片配备288GB HBM3e，提供8.6 TB/s内存带宽，并集成384MB片上SRAM用于存储活跃的KV缓存，减少对外部系统内存的查询需求。
TPU8i服务器采用谷歌自研基于Arm架构的Axion处理器替代传统x86主机CPU，依赖高速DDR5内存架构处理数据预处理等主机级任务。
为啥连谷歌都要拆旧服务器内存来用了？
谷歌当垃圾佬这事乍一听挺魔幻，连谷歌这种万亿市值的科技巨头，居然也开始干起“捡破烂”的活儿，拆解退役服务器的内存条。很多人第一反应是：是不是谷歌没钱了？或者是在搞公关噱头？
首先，AI产业的竞争重心已经从算力过渡到了内存。过去很长一段时间，行业讨论AI产业瓶颈，大家嘴里念叨的永远都是GPU，所有人都把目光盯在显卡芯片上面，默认只要拿到足够多的高性能GPU，大模型的算力问题就可以迎刃而解。可现实产业跑下来大家才慢慢醒悟过来，GPU再强，如果内存跟不上，大量的模型权重、上下文数据就没办法存放，强悍的算力根本发挥不出该有的价值。大模型越做越大，上下文窗口越拉越长，每一次推理、每一轮训练，都要吃掉巨量的内存空间，内存不再是服务器里面一个无关紧要的配角，直接变成了约束AI业务扩张的核心短板，也正是如此现在木桶效应的短板已经从之前的显卡芯片转移到了更为现实的存储芯片。
对于谷歌这种体量的企业来说，它要跑通海量模型，搭建遍布全球的算力集群，内存不是锦上添花的选配，是实打实的刚需。买全新服务器内存的代价已经高到让人难以接受，内存已经占到AI服务器物料成本当中极高的比重，继续大规模采购全新内存，会直接吃掉云计算业务大量的利润空间。退役服务器里面的DDR4内存，硬件本身并没有彻底失效，只是老一代服务器整机到达服役周期，被迫下线淘汰。熟悉计算机硬件的朋友都知道，除非是产品彻底更新换代无法使用了，一根内存条的使用寿命往往很长，笔者2013年读研的时候买的神舟笔记本虽然用的还是老旧的DDR3L内存，但是如今依然可以使用，如果不是因为笔记本屏幕实在老化了，这台笔记本依然有着相当不错的表现。
而对于谷歌而言，这种利用就更为简单，谷歌可以专门设计硬件转接适配器，把旧内存改造适配进新一代AI服务器，本质就是把已经沉淀在自家体系里面的硬件资产重新盘活起来。很多人会有疑问，DDR4相比新一代DDR5性能存在差距，为什么还要强行复用？放到产业现实里面看，并不是所有AI任务都需要极致的内存带宽，部分推理场景完全可以接纳旧规格内存，够用就是最优解。
其次，供应端的结构性失衡才是问题根源。现在的问题出在哪里？以三星、海力士、美光这三大核心巨头为代表的供给端，在巨大的利益驱动和产业趋势裹挟下，已经将绝大部分的先进制程产能、封装资源，都向HBM倾斜。这在商业逻辑上是完全成立的，因为AI的风口之下，HBM的利润空间和订单确定性远超其他产品。但这种战略选择带来的后果是灾难性的：原本服务于通用市场的产能被大量挤占，导致消费级市场出现了严重的供应短缺。
这种短缺不是简单的供不应求，而是结构性的短缺。巨头们为了追逐高利润的HBM订单，主动放弃了对通用市场的供给保障，导致整个产业链的生态平衡被打破。对于谷歌这样的需求方来说，这种错配极其痛苦。他们虽然需要顶级的HBM来支撑核心算力，但在庞大的基础设施体系中，同样离不开通用级内存的支撑。当整个市场呈现出“高端产能挤爆，中低端断供”的局面时，谷歌即便手握重金，也很难在公开市场上买到性价比合适的通用内存，特别是大家熟悉的消费级与服务器级的内存。
更要命的是，这种结构性短缺让供应链变得极其脆弱。一旦HBM产能占据了绝对主导，任何微小的产能波动都会引发连锁反应，而通用内存的短缺又会限制整个系统的扩展能力。所以，谷歌拆解旧服务器，某种程度上也是被这种结构性产能错配逼出来的招数。
第三，谷歌这个时候当“垃圾佬”更是为了成本控制。谷歌拆解服务器内存，这种做法虽然国内互联网很多“垃圾佬”都在使用，但我们千万别以为这只是工程师应急的土办法，这背后其实藏着极致的成本控制哲学。一方面，谷歌是在构建属于自己的内部循环经济体系。很多服务器到了退役年限，其实它的核心零部件，尤其是内存颗粒，物理寿命远远没有终结。传统的报废流程是巨大的资源浪费，现在把这些拆下来重新循环利用，在自己的生态闭环里就把成本消化了。这不仅是省钱，这是在提高资产的周转率和残值利用率。
另一方面，也是最容易被忽视的一点，这是在持续提升自己的供应链弹性水平。外部供应商的产能随时可能因为各种不可抗力或者巨头间的博弈而断供，谷歌不能把自己的大模型命脉交到别人手里。通过建立这种内部循环机制，谷歌相当于在自己庞大的数据中心里建了一个“蓄水池”。外面缺水我不怕，我我自己池子里还有存货。这种供应链弹性，在极端市场环境下的价值，远比省下来的那点硬件采购费要大得多。说白了，这就是在用空间换时间，用存量兜底增量。
第四，内存短缺的系统性风险正在越来越大。连谷歌这种财大气粗、供应链话语权极强的绝对头部大厂都被逼得如此精打细算，甚至要靠拆旧件来维系运转，这其实释放了一个非常危险的产业信号。它代表着当前内存市场的问题已经到了危如累卵的境地。我们常说春江水暖鸭先知，在产业链里，大厂的反应就是那只鸭子。如果连谷歌都开始为了内存发愁，那些中小型AI企业面临的生存环境该有多恶劣？
内存如果再这样毫无节制地涨价下去，对于整个产业的发展将会是巨大的负面影响，甚至可能成为压垮部分AI创新公司的最后一根稻草。产业升级不能变成少数上游供应商收割全产业链的工具。当基础设施成本高到连最大的应用方都觉得难以承受时，这个泡沫就离破灭不远了。
现在的AI产业，就像是在修一条通向未来的高速公路，结果修路必备的沥青被几个供应商炒到了天价，连最大的施工方都只能去刨旧马路上的沥青来补窟窿，这路还能修多远？如果不能尽快平衡存储市场的结构性矛盾，AI产业的大规模落地和商业化闭环，很可能会在“天价内存”这道关卡前戛然而止。这个问题，值得全行业警惕。
当我们被内存涨价逼到开学三件套越来越贵，一台手机能买全家家电，连谷歌都被迫改行当“垃圾佬”的时候，这种内存短缺的问题难道不值得我们深思吗？