AMD内存扩容至58TB,DRAM扩产成本降低82%

区块链文库报道:

AMD以MEXT软件实现内存扩容,成本较DRAM降低82%

AMD宣布,通过在内部服务器中部署内存管理软件MEXT,成功增加了约58TB的可用内存。与同等容量的DRAM扩容方案相比,该方案将内存扩展成本降低了82%。

在成本对比方面,AMD指出,若通过增加DRAM来实现相同的扩容效果,预计成本约为330万美元(约合4.43亿韩元)。而采用MEXT解决方案的成本则仅为约60.1万美元(约合8.07亿韩元)。

MEXT技术原理与优势

NVMe闪存介质的单位比特成本约为DRAM的1/50,功耗也仅为DRAM的约1/30。MEXT成立于2023年,其预测性内存软件于2026年4月发布,AMD随后于2026年6月15日完成了对MEXT的收购,此时距离其产品正式发布仅过去约两个月。

MEXT的核心机制在于:将不常使用的内存页面迁移至NVMe闪存存储中,从而为DRAM释放空间。对于AI模型而言,系统能够预测应用程序即将请求的数据部分,并在请求发出前将这些数据从闪存重新加载回DRAM中。

需要明确的是,这并不意味着闪存本身变成了与DRAM速度相同的组件。MEXT采用的是混合策略:对延迟敏感的高频数据使用DRAM,而对容量需求大的数据则利用闪存进行存储。

应对AI计算瓶颈

大型AI模型和数据密集型工作负载对高速内存的需求巨大,导致内存容量成为人工智能和高性能计算领域的关键瓶颈。与此同时,随着需求增长,DRAM价格也在持续上涨。

AMD表示,在某些特定工作负载下,即使将DRAM容量减少一半,仍能保持原有性能的最高99%。不过,这一性能数据基于特定的工作负载和配置环境得出,并不能直接推广至所有数据中心。实际效果可能因具体的内存使用模式而异。

在结合使用DRAM与MEXT的配置中,AMD指出每美元的性能提升幅度可达1.9至3.5倍。

与传统交换技术的区别

传统的Linux Swap和Windows页面文件也会在内存不足时将数据移至存储设备,但其工作原理是在发生数据缺失后才启动,并需要在等待存储设备读取数据的过程中产生延迟。相比之下,MEXT利用AI模型预测数据请求的方式被称为“预测性内存”(Predictive Memory),从而有效避免了等待时间。

此次提到的82%成本节约,是相对于用DRAM获取相同额外容量所需的预估成本而言,并非指服务器整体采购成本或数据中心运营总成本的削减。

据Crypto Briefing报道,AMD计划到2027年底之前,将MEXT技术的应用范围扩展至数千台服务器。

© 版权声明
THE END
喜欢就支持一下吧
分享