► AI高算力需求推动下，HBM将大放异彩。与传统DDR存储器不同，HBM使用TSV和微凸块垂直堆叠多个DRAM芯片，并通过封装基板内的硅中介层与GPU直接相连，从而具备高带宽、高容量、低延时与低功耗等优势，相同功耗下其带宽是DDR5的三倍以上。因此，HBM突破了内存瓶颈，成为当前AI GPU存储单元的理想方案和关键部件。高端AI服务器GPU搭载HBM芯片已成主流，2023年全球搭载HBM总容量将达2.9亿GB，同比增长近60%。
► HBM在带宽、功耗、封装体积方面具备明显优势。HBM（High Bandwidth Memory）意为高带宽存储器，是一种面向需要极高吞吐量的数据密集型应用程序的DRAM，HBM的作用类似于数据的“中转站”，就是将使用的每一帧，每一幅图像等图像数据保存到帧缓存区中，等待GPU调用。按照不同应用场景，行业标准组织JEDEC将DRAM分为三个类型，标准DDR、移动DDR以及图形DDR，图形DDR中包括GDDR和HBM。
► HBM制造工艺包括TSV、Bumping和堆叠等工艺环节。HBM是由多个DRAM die堆叠而成，利用硅通孔（TSV）和微凸块（Microbump）将die之间相连接，多层DRAM die再与最下层的Base die连接，然后通过凸块（Bump）与硅中阶层（interposer）互联。目前HBM存储芯片的整体良率在65%左右，HBM良率的高低主要受到其堆叠架构复杂性的影响，这涉及到多层次的内存结构和作为各层连接之用的直通TSV技术。
► HBM核心是“连接”与“堆叠”，3D混合键合成趋势。HBM堆叠核心，MR-MUF与TC-NCF对比。TC-NCF在高温下通过间隙填充模塑渗透微凸块，同时需要外力；MR-MUF键合的关键技术。TCB的优点便是可以更好地解决翘曲的问题，这也是TCB成为HBM封装第一种主流技术的原因；英特尔在封装形式上相比OSAT封测厂和代工封装更广泛采用TCB，英特尔的专利细节较少，海力士的方法是在晶圆背面沉积一层预应力薄膜来控制翘曲，此前HBM封装多采用TCB。
