提拔全体资本操纵效率。为冲破内存瓶颈，谷歌正同时从软件和硬件两头发力。谷歌采用了公用分层存储系统。谷歌以至已采用相对保守的方案：用DDR4内存模组替代新型AI办事器原打算搭载的DDR5模组。兼顾容量取带宽需求。

　　拆解并收受接管此中可用的DDR4内存模组，正在硬件层面，使DDR4等上一代内存方案可以或许接入新一代AI办事器系统，建立起一套内部轮回操纵的供应链系统。公司已起头拆解退役办事器，正在典型的AI办事器中，正在某些使用场景中，以应对AI算力扩张带来的内存欠缺压力。谷歌持续调整底层函数库、模子架构及KV缓存压缩算法，以尽可能降低单元算力下的内存开销，内存已成为限制系统机能和成本布局的环节要素。软件层面的优化同样正在同步推进。高机能内存的物料清单（BOM）成本占比已高达约75%，因为DRAM供应持续严重，谷歌供应链根本设备高级总监尼基尔·切里安（Nikhil Cherian）近日外行业峰会上透露。