谷歌回收退役服务器DDR4内存，经转接卡接入AI服务器
Miranda 据Wccftech报道，DRAM供应持续吃紧，AI服务商面临内存采购压力。谷歌供应链基础设施高级总监尼基尔·切里安在近期峰会论坛上表示，AI产业的主要瓶颈已从算力转移到内存。在单台典型AI服务器中，高性能内存在物料清单中的成本占比约为75%。
切里安提到，谷歌正从软件和硬件两方面应对内存瓶颈。硬件上，谷歌拆解退役服务器，回收仍具利用价值的元器件，建立内部循环利用的供应链。部分场景下，谷歌改用规格较旧的DDR4内存模组，替代新型AI服务器原计划采用的DDR5模组。为此，谷歌设计了专用硬件转接卡，使DDR4等上一代内存方案能够接入新一代AI服务器。切里安称，退役服务器被特意调回机房，目的就是拆解并回收其中的DDR4内存。
软件方面，谷歌持续优化底层函数库、模型架构和KV缓存压缩算法，以降低单位算力下的内存开销。此外，谷歌面向模型推理任务优化的TPU8i芯片采用分层存储体系，整机依靠高速DDR5内存处理数据预处理，每颗TPU8i芯片还搭载288GB的HBM3e高带宽内存。
