据TrendForce集邦咨询研究显示，为解决高速运算下，存储器传输速率受限于DDR SDRAM带宽而无法同步成长的问题，高带宽存储器（High Bandwidth Memory，HBM）应运而生，其革命性传输效率是让核心运算元件充分发挥效能的关键。目前高端AI服务器GPU搭载HBM已成主流，预估2023年全球HBM需求量将年增近六成，来到2.9亿GB，2024年将再成长三成。