/ 中存储网

什么是HBM存储?HBM存储原理介绍及优点分析

2023-11-20 13:56:32 来源:中国存储网

什么是HBM?

HBM,全称 High Bandwidth Memory(中文:高带宽存储器)。这是一种用于某些 AMD GPU(又名显卡)的 3D 堆叠 DRAM存储器 (动态随机存取存储器)以及服务器、高性能计算 (HPC) 、网络连接的内存接口。

优点:HBM 旨在提供更高的带宽、更低的功耗,与当今大多数游戏显卡中使用的 GDDR 内存相比。

行业推动力:

HBM架构主要作为DDR系列中GDDR芯片的升级版出现,广泛用于图形计算显存高性能计算内存等领域。

AI大模型的数据计算量激增,需要应用并行处理数据的GPU作为核心处理器,而“内存墙”的存在限制了GPU数据处理能力,HBM突破了内存容量与带宽瓶颈,可以为GPU提供更快的并行数据处理速度,打破“内存墙”对算力提升的桎梏,被视为GPU存储单元理想解决方案,将在AI发展中持续收益。

什么是HBM存储?HBM存储原理介绍及优点分析

 

图片来源AMD

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

 

革命性的 HBM 打破了加工瓶颈

HBM 是一种新型的 CPU/GPU 内存(“RAM”),可垂直堆叠内存芯片,就像摩天大楼中的地板一样。这样一来,它缩短了您的信息通勤时间。这些塔通过称为“中介层”的超快速互连连接到 CPU 或 GPU。多个 HBM 堆栈与 CPU 或 GPU 一起插入转接板,组装好的模块连接到电路板。

虽然这些 HBM 堆栈没有与 CPU 或 GPU 进行物理集成,但它们通过中介层紧密而快速地连接在一起,以至于 HBM 的特性与片上集成 RAM 几乎没有区别。

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

电源效率

在过去的七年里,GDDR5 为行业提供了良好的服务,迄今为止,几乎所有高性能显卡都使用了许多 GB 的内存技术。

但随着图形芯片的快速增长,它们对快速信息传递(“带宽”)的需求不断增加。GDDR5 满足这些带宽需求的能力开始减弱,因为该技术达到了其规格的极限。每秒增加 GB 的带宽开始消耗过多的功率,对于设计人员或消费者来说,这不是一个明智、高效或具有成本效益的决策。从逻辑上讲,GDDR5很容易开始阻碍图形芯片的持续性能增长。HBM 重置时钟的内存电源效率,效能>3 倍。

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

什么是HBM存储?HBM存储原理介绍及优点分析

图片来源AMD

市场分析:

目前2023年,各大机构按现有市场能见度给HBM市场的整体空间约在16~20亿美元。

厂商:目前主要HBM生产商有美光、三星和SK海力士。

HBM已成为AI芯片(特别是GPU芯片)主流内存解决方案

目前GPU主流存储方案主要分GDDR方案与HBM方案两种,其中GDDR方案在SoC周围有大量外设,该方案主要通过从GDDR5升级为GDDR6提高带宽,但GDDR如果要增加1GB的带宽将会带来更多的功耗,因此不利于系统性能提升;

而HBM方案作为近存计算的典型技术,可以改善存算分离导致的“存储墙”问题,即存储单元的带宽问题、存储单元与计算单元键数据传输的能效问题,并且HBM方案中存储Die的垂直堆叠也增大了容量,由此HBM技术完美契合当前GPU对更多的内存、更高的带宽的刚性需求。

目前的三种HBM规格参数

什么是HBM存储?HBM存储原理介绍及优点分析