解锁高级数据:最高 立减50%InvestingPro手慢无

招商证券:AI服务器存储量价齐升 算力需求推动HBM市场数倍增长

发布时间 2023-11-23 13:54
更新时间 2023-11-23 14:05
© Reuters.  招商证券:AI服务器存储量价齐升 算力需求推动HBM市场数倍增长
SSEC
-
600547
-
600843
-
600999
-
601668
-

智通财经APP获悉,招商证券发布研究报告称,AI算力升级带动服务器的CPU迭代并提升GPU需求,带动AI服务器存储容量和价值量较传统服务器数倍增长。训练型AI服务器中GPU承担大部分算力,算力要求推动了HBM等新型存储器超百亿美元新兴市场,进而提升Bumping、TSV、CoWoS等先进封装工艺需求,并带来减薄、键合、模塑、测试等设备以及EMC、电镀液、PSPI等材料的增量需求。叠加国内自主可控需求持续增长,国内存储及HBM等催生的先进封装产业链发展空间巨大。

招商证券观点如下:

AI服务器CPU和GPU随算力需求而升级,对存储器容量和价值量均有数倍拉动。

传统服务器以CPU作为算力核心,随着AI训练模型的算力要求不断提升,CPU的核心数、主频、线程数量均不断提升,但仅靠CPU已经无法满足算力需求,需要搭配GPU进行多线程数据处理,主流训练型服务器一般搭配8个GPU。AI服务器用到的主要存储器包括CPU内存、GPU显存和硬盘NAND等,存储器容量和价值量均较普通服务器有数倍提升,1)DRAM:英伟达训练型AI服务器中的CPU DRAM容量高达2TB,另外单个GPU一般搭载80GB以上的HBM存储器,AI服务器HBM总容量预计超640G,总内存容量相较普通服务器有4-8倍的提升,仅CPU内存价值量预计有5倍的提升,GPU的HBM则为纯增量市场;另外,服务器内存也在不断迭代,目前普通的服务器均多配备DDR4,但最先进的AI服务器已经搭配了DDR5或LPDDR5;2)NAND:AI服务器的硬盘容量高达30TB,相较传统服务器提升2-4倍,另外传统服务器同时使用机械硬盘和固态硬盘(SSD),但AI服务器基本全部使用SSD,整体价值量较普通服务器预计提升10倍左右。

HBM能够突破训练型AI服务器的GPU带宽极限,2024年增量空间预计超百亿美元。

HBM(High Bandwidth Memory)即高带宽存储器,是基于2.5/3D封装技术的一种新型CPU/GPU内存芯片,将DRAM Die垂直堆叠,Die之间通过TSV的方式连接。HBM能够以低功耗产生高带宽,因此广泛搭配训练型AI服务器的GPU使用,训练型AI服务器对HBM需求的拉动主要体现在:1)AI服务器搭载GPU数量的提升:由普通服务器的2个提升至目前的8个;2)单个GPU搭载HBM Stack数量的提升:在HBM1方案中,单个GPU搭载4个HBM1,而在目前HBM2e或HBM3方案中,一般单个GPU搭配6个HBM Stack;3)HBM堆叠的DRAM层数和容量增多:从HBM1到HBM3,单个DRAM Die密度从2Gb提升至16Gb,堆叠高度从4Hi提升至12Hi,单个HBM叠层容量从1GB提升至24GB。Trendforce预计2025年全球服务器出货量为1700万台,当前AI服务器渗透率大概不足2%,假设2024年AI服务器渗透率约4%,按照每个AI服务器搭载8个GPU、每个GPU搭载6个共80GB至100GB及以上的HBM Stack的方案测算,那么2024年AI服务器带来的HBM增量空间预计超百亿美元。

AI服务器的GPU采用2.5D+3D封装工艺,推动TSV、CoWoS等核心封装技术需求。

HBM和GPU采用2.5D+3D封装工艺,根据Yole,2021年HBM和Si中介层封装市场规模合计约14亿美元,预计2027年增至35亿美元,其中HBM和硅中介层封装市场分别增至16.3和18.8亿美元。TSV(Through-Silicon Via)即硅通孔技术,顺应2.5D封装架构而产生,能够以最低的能耗提供极高的带宽和密度,是实现电路小型化、高密度、多功能化的首选解决方案。2.5D TSV技术已经广泛用于AI GPU基板上的HBM中,实现DRAM各层Die之间的连接,以及HBM芯片和下方的金属凸块之间的连接。CoWoS工艺用于将HBM和硅中介层、封装基板等进行整体封装,当前台积电处于领先地位,伴随着谷歌TPU、英伟达GPU、AMD MI300等均导入生成式AI,台积电CoWoS需求自2022年以来翻倍增长,目前持续供不应求,展望2024年将目前CoWoS产能翻倍。

HBM多层堆叠结构提升工序步骤,将带动封装设备和材料需求持续提升。

1)设备:HBM中大量增加前道工序,前道检、量测设备主要增量来自微凸点、TSV、硅中介层等工艺,另外HBM中增加的预键合晶圆级测试和KGSD相关的封装级测试也带动分选机、测试机、探针台等后道测试设备的数量和精度提升;HBM堆叠结构增多,要求晶圆厚度不断降低,进而提升减薄、键合等设备需求;HBM多层堆叠结构要求超薄晶圆和铜-铜混合键合工艺,增加了临时键合/解键合以及混合键合设备需求,各层DRAM die的保护材料也非常关键,对注塑或压塑设备提出较高要求;另外,诸如划片机、固晶机、回流焊机/回流炉等传统设备需求也均受益于HBM封装带来的工艺步骤提升和工艺变革带来的价值量提升;2)材料:HBM中芯片间隙采用GMC(颗粒状塑封料)或LMC(液态塑封料)进行填充,GMC最主要原材料为球形硅微粉和球形氧化铝;HBM采用底部填充胶用于FC封装工艺,采用PSPI作为硅中介层中RDL的再钝化层;HBM中的Bumping、RDL、TSV等引入前道工艺,带来电镀液用量提升;另外,HBM也将提升电子粘合剂、封装基板、压敏胶带等其他材料需求。

投资建议:相较传统服务器,AI服务器的存储器容量和价值量均提升数倍,其中训练型AI服务器GPU对带宽要求显著提升,催生了HBM等新型存储器的增量需求。当前DRAM、NAND、HBM等份额均主要由海外原厂如三星、美光、SK海力士等占据,HBM的CoWoS封装工艺主要由台积电掌握,但考虑到AI对整个存储产业链的拉动,叠加行业需求持续复苏、国产自主可控需求持续提升,国内存储及HBM等催生的先进封装产业链发展空间巨大。

建议关注:

先进封装设备标的中科飞测(688361.SH)、北方华创(002371.SZ)、中微公司(688012.SH)等;

先进封装材料标的鼎龙股份(300054.SZ)、安集科技(688019.SH)、雅克科技(002409.SZ)等;

先进封装标的长电科技(600584.SH)、通富微电(002156.SZ)、华天科技(002185.SZ)等;

存储模组及主控标的江波龙(301308.SZ)、佰维存储(688525.SH)、朗科科技(300042.SZ)等;

存储经销标的香农芯创(300475.SZ)、雅创电子(301099.SZ)等;

存储及HBM配套标的国芯科技(688262.SH)、澜起科技(688008.SH)、创益通(300991.SZ)等。

风险提示:AI服务器渗透率提升不及预期、存储行业复苏不及预期、国产替代进程不及预期、研发进展不及预期的风险。

最新评论

风险批露: 交易股票、外汇、商品、期货、债券、基金等金融工具或加密货币属高风险行为,这些风险包括损失您的部分或全部投资金额,所以交易并非适合所有投资者。加密货币价格极易波动,可能受金融、监管或政治事件等外部因素的影响。保证金交易会放大金融风险。
在决定交易任何金融工具或加密货币前,您应当充分了解与金融市场交易相关的风险和成本,并谨慎考虑您的投资目标、经验水平以及风险偏好,必要时应当寻求专业意见。
Fusion Media提醒您,本网站所含数据未必实时、准确。本网站的数据和价格未必由市场或交易所提供,而可能由做市商提供,所以价格可能并不准确且可能与实际市场价格行情存在差异。即该价格仅为指示性价格,反映行情走势,不宜为交易目的使用。对于您因交易行为或依赖本网站所含信息所导致的任何损失,Fusion Media及本网站所含数据的提供商不承担责任。
未经Fusion Media及/或数据提供商书面许可,禁止使用、存储、复制、展现、修改、传播或分发本网站所含数据。提供本网站所含数据的供应商及交易所保留其所有知识产权。
本网站的广告客户可能会根据您与广告或广告主的互动情况,向Fusion Media支付费用。
本协议的英文版本系主要版本。如英文版本与中文版本存在差异,以英文版本为准。
© 2007-2024 - Fusion Media Limited | 粤ICP备17131071号 | 保留所有权利。