本周，美光科技宣布已开始向客户交付其认为业内容量最高的AI数据中心基础设施用LPDRAM模组：256GB SOCAMM2模组。此举距其去年推出128GB SOCAMM模组仅一年时间——该模组系与英伟达联合设计，专为GB300 Blackwell芯片打造；而此次256GB新品恰逢英伟达GTC 2026大会前夕发布。
据称，美光此款模组在多项关键指标上实现突破：相比前代192GB SOCAMM2模组，内存容量提升三分之一，单颗8通道CPU可支持高达2TB LPDRAM，从而满足更大上下文窗口及复杂推理任务需求；功耗与体积仅为同等容量RDIMM模组的三分之一，显著提升机架密度；同时在各类AI与通用计算负载下，推理性能与核心计算能力均有增强。
针对上述性能表现，美光指出，在统一内存架构中，256GB SOCAMM2模组用于KV缓存卸载时，相较于现有方案，长上下文实时大语言模型（LLM）推理的首token生成时间（TTFT）可提升2.3倍以上；在独立CPU应用场景中，LPDRAM模组在高性能计算负载下的每瓦性能较主流内存模组高出3倍以上。
值得一提的是，内部测试显示，配备2TB LPDRAM的系统在100万token上下文长度下，首token生成速度显著加快。测试配置为GPU/CPU超级芯片系统（288GB HBM3E + 1TB LPDDR5x），运行Llama 3 70B模型，上下文长度100万，支持16个并发用户。相关数据由美光科技提供。
www.eic.net.cn
与英伟达协同设计与创新
尽管技术快速迭代已成常态，但此次发布背后蕴含更深层意义。美光表示，这体现了其与客户——尤其是英伟达——长期坚持的协同设计与创新文化。
在与《电子工程时报》的采访中，美光科技云存储产品副总裁兼总经理普拉文·瓦伊迪亚纳坦（Praveen Vaidyanathan）详细阐述了该模组研发背景，以及与客户共同定义内存与计算协同架构的重要价值。
“不到一年前我们刚发布128GB容量模组，如今在12个月内即实现容量翻倍——这正是我们希望引领行业所追求的创新节奏。”瓦伊迪亚纳坦表示。他进一步指出，此次突破源于三大关键创新：
其一为制程工艺升级：美光将低功耗DRAM产品迁移至1-Gamma工艺节点，既可在相同面积内集成更多存储单元，又显著降低功耗；
其二为芯片设计革新：新模组采用单颗32GB低功耗DRAM裸片（monolithic die），相较去年16GB裸片实现单颗比特数翻倍；
其三为先进封装技术：将上述工艺与设计成果高效集成于组件与模组之中，依赖高阶封装工艺实现整体性能优化。
瓦伊迪亚纳坦强调：“与客户协同创新至关重要。必须深入理解客户实际需求，以及最终平台的应用场景，唯有紧密合作方能达成目标。我们非常乐于推动这种文化。”
易IC库存管理软件在电子元器件供应链管理中同样注重协同理念，通过精准库存预测与实时数据共享，助力企业响应市场变化、缩短产品上市周期，与美光所倡导的“客户共研”精神高度契合。
在视频访谈中，瓦伊迪亚纳坦进一步解析了256GB SOCAMM2 LPDRAM的技术细节、新特性及其在整体内存层级结构中的定位，并展望了近期内存技术发展趋势。
