高通与AMD将在AI产品中采用SOCAMM2内存

高通与AMD正考虑将SOCAMM2内存集成至其AI产品线中以提升内存容量与速度。此前，英伟达的“Vera”处理器已采用SOCAMM规格的LPDDR5X内存，可提供1.2TB/s的内存带宽，支持最大1.5TB的LPDDR5X内存。高通与AMD计划采用类似策略，打造高速、大容量的AI系统。这类系统需要靠近AI加速器的高速内存，而SOCAMM内存可对加速器上大容量的HBM内存形成补充，充当具备充足容量的高速内存池，能够将整个模型存储在内存中，从而减少向SSD传输数据的需求。

英伟达的SOCAMM方案采用在处理器周边配置多个SOCAMM模块的设计，高通与AMD预计将在其AI解决方案中采用这一策略。AMD的Instinct MI加速器搭配EPYC处理器，可能成为下一批集成该内存的产品，也不排除AMD会开发一套全新的系统。高通目前已推出AI200和AI250等推理加速器在内的AI解决方案，每块加速卡最多搭载768GB LPDDR5内存。这些产品很快可能会加入SOCAMM内存支持，借助SOCAMM标准实现标准化内存扩展，而非采用焊接独立内存模块的方式。这种方案将使厂商只需添加或移除SOCAMM模块，就能提供多种系统版本及解决方案，无需进行大量PCB焊接工作。