美光科技在AI基础设施中的内存与存储布局

2026年08月14日 04:59

  美光正在与核心服务器生态系统合作伙伴协作,在当前及新一代服务器平台上对 256GB 1-gamma DDR5 RDIMM 进行验证。通过联合兼容性测试,确保该产品具备广泛的平台兼容性,帮助大规模构建 AI 和高性能计算基础设施的数据中心客户加速量产部署。该模块基于美光 1-gamma 制程打造,传输速率最高可达 9,200 MT/s,比当前量产的内存模块快 40% 以上。

  2026 年 3 月,美光科技向客户送样业界容量领先的 256GB SOCAMM2 LPDRAM 模块。该产品依托业界首款单晶粒 32Gb LPDDR5X 设计,为 AI 数据中心提供低功耗内存容量。与相同容量的 RDIMM 相比,SOCAMM2 的功耗仅为其三分之一,尺寸亦缩减至三分之一,有效提升机架密度并降低总体拥有成本。

  NVIDIA 数据中心 CPU 产品部门主管 Ian Finder 表示,美光通过 256GB SOCAMM2 以低于传统服务器内存的功耗实现超大内存容量与带宽的突破,为下一代 AI CPU 提供关键助力。大语言模型、智能体 AI、实时推理及高核数 CPU 负载场景的快速普及,正推动超大规模云厂商和硬件平台合作伙伴对更大容量、更高带宽和更优能效的服务器内存需求迅速增长。

  美光高级副总裁暨云端存储事业部总经理 Raj Narasimhan 指出,容量、带宽和功耗是决定 AI 效率的核心因素,256GB DDR5 RDIMM 采用先进的 3DS 和 TSV 封装技术,提供业界领先的速率和能效。美光在 JEDEC SOCAMM2 规范制定过程中持续发挥领导作用,并维持与系统设计人员的深度技术合作,推动下一代数据中心平台在能效与性能方面的全行业提升。

  模块化 SOCAMM2 设计可提升设备可维护性、支持液冷服务器架构,并随着 AI 与核心计算内存需求的持续增长实现未来容量扩充。每颗 8 通道服务器 CPU 可配置 2TB LPDRAM 容量,支持更大的上下文窗口及更复杂的推理工作负载。在制程技术层面,美光 1γ DRAM 节点采用新一代 HKMG 技术和 EUV 光刻工艺提升容量密度。

  基于 1γ 节点的 LPDDR5X 速率达 10.7 Gbps,功耗降低高达 20%,封装尺寸缩小至 0.61 毫米。2025 年 6 月已向特定合作伙伴送样 16GB 产品,提供从 8GB 至 32GB 的多种容量用于 2026 年旗舰智能手机。数据中心服务器、智能汽车和 AI PC 等设备同样在评估将 LPDDR5X 内存用于高性能、低功耗场景的可行性。

  美光在统一内存架构中,256GB SOCAMM2 用于 KV 缓存卸载时,可将长上下文、实时 LLM 推理的首个 token 生成时间加速 2.3 倍。在独立 CPU 应用中,针对高性能计算工作负载,LPDRAM 的每瓦性能较主流内存模块提升超 3 倍。美光正与 NVIDIA 携手合作,共同设计高性能内存解决方案以满足先进 AI 基础架构的需求。

  Q: 美光 256GB DDR5 RDIMM 目前在哪些服务器平台上进行验证?

  A: 美光正与核心服务器生态系统合作伙伴协作,在当前及新一代服务器平台上对 256GB 1-gamma DDR5 RDIMM 进行联合兼容性测试,确保广泛的平台兼容性。

  Q: SOCAMM2 模块对 AI 服务器机架密度有什么影响?

  A: 与相同容量的 RDIMM 相比,SOCAMM2 的尺寸缩小至三分之一,功耗降至三分之一,有效提升机架密度并降低总体拥有成本。模块化设计还支持液冷服务器架构。

  Q: NVIDIA 与美光在 AI 内存领域有哪些合作?

  A: 美光正与 NVIDIA 携手合作,共同设计高性能内存解决方案以满足先进 AI 基础架构的需求。NVIDIA 数据中心 CPU 产品部门主管 Ian Finder 明确肯定了 256GB SOCAMM2 对下一代 AI CPU 的价值。

  Q: 美光在低功耗内存行业标准制定中扮演什么角色?

  A: 美光在 JEDEC SOCAMM2 规范制定过程中持续发挥领导作用,并维持与系统设计人员的深度技术合作,推动下一代数据中心平台在能效与性能方面实现全行业性提升。

  Q: 1γ 制程的 LPDDR5X 对非手机设备有哪些适用场景?

  A: 随着 AI 应用对高性能、低功耗计算需求的增长,数据中心服务器、智能汽车和 AI PC 等设备可能越来越多地采用基于 1γ 节点的 LPDDR5X 内存。该产品速率达 10.7 Gbps,功耗降低高达 20%。

  Q: 256GB SOCAMM2 在推理性能上的关键指标是什么?

  A: 在统一内存架构中,用于 KV 缓存卸载时,可将长上下文、实时 LLM 推理的首个 token 生成时间加速 2.3 倍。每颗 8 通道 CPU 可配置 2TB LPDRAM,支持更大的上下文窗口。

    郑重⚠️声明
    凡排名测评,皆为一家之研究或观点,非官方权威,仅供参考。
    『独贾参考』:独特视角,洞悉商业世相。
    关注『书仙笙』:结茅深山读仙经,擅闯人间迷烟火。
    研究报告、榜单测评、高管收录、品牌收录、企业通稿、行业会务
    ★★★媒体消息非真理,商业推广勿轻信。★★★
    声明:本页面含有商业推广信息,请注意甄别。
    过去心不可得,现在心不可得,未来心不可得。