AI基础设施遭遇瓶颈：Marvell称铜连接和内存将成为算力扩张关键
Marvell高管表示，推理模型推动KV缓存需求增长约10倍，单机架内存容量已难满足前沿模型运行，AI基础设施正从铜连接转向光学互连，并通过HBM、CXL、3D堆叠和光子织物内存等技术扩展容量。公司称，模拟SerDes规模扩展网络有望将相关功耗降至约四分之一，全面部署后数据中心整体能耗或降低25%以上。
来源：华尔街见闻
Marvell高管表示，推理模型推动KV缓存需求增长约10倍，单机架内存容量已难满足前沿模型运行，AI基础设施正从铜连接转向光学互连，并通过HBM、CXL、3D堆叠和光子织物内存等技术扩展容量。公司称，模拟SerDes规模扩展网络有望将相关功耗降至约四分之一，全面部署后数据中心整体能耗或降低25%以上。
来源：华尔街见闻
