過去近兩年來，受消費電(diàn)子市場需求疲軟等因素影響，存儲芯片産(chǎn)業遊進入庫存過剩、訂單減少、價格暴跌的“寒冬”。三星、美光、SK海力士、铠俠等存儲芯片大廠紛紛減産(chǎn)、去庫存，但市場行情是否築底衆說紛纭，整體(tǐ)産(chǎn)業回暖的迹象亦不明顯。

然而，在生成式AI對算力需求的帶動下，2023年初以來高帶寬内存(HBM)在整個存儲芯片産(chǎn)業中(zhōng)可(kě)謂“這邊風景獨好”。目前，三星、SK海力士、美光等存儲芯片大廠均在布局與搶占這一細分(fēn)市場利好。

與此同時，随着AI對内存速率提出更高的要求，HBM技(jì )術創新(xīn)仍将持續不斷演進。因此，相對整個存儲芯片産(chǎn)業而言，HBM這一細分(fēn)領域出現了産(chǎn)能(néng)和性能(néng)雙提升的增長(cháng)态勢。

HBM增長(cháng)勢頭強勁

HBM（High Bandwidth Memory）是一款新(xīn)型的CPU/GPU内存芯片（即“RAM”），其實就是将很(hěn)多(duō)個DDR芯片堆疊在一起後和GPU封裝(zhuāng)在一起，實現大容量、高位寬的DDR組合陣列，可(kě)被廣泛應用(yòng)于高性能(néng)計算、人工(gōng)智能(néng)、圖形處理(lǐ)和數據中(zhōng)心等領域。

整體(tǐ)來看，HBM具(jù)有(yǒu)超越一般芯片集成的RAM的特殊優勢：一是高速、高帶寬的特性使HBM非常适合用(yòng)于GPU顯存和HPC高性能(néng)計算、AI計算；二是由于采用(yòng)了TSV和微凸塊技(jì )術，HBM具(jù)備更好的内存功耗能(néng)效特性，相對于GDDR5存儲器，HBM2的單引腳I/O帶寬功耗比數值降低42%，更低的熱負荷降低了冷卻成本；三是在物(wù)理(lǐ)空間日益受限的數據中(zhōng)心環境中(zhōng)，HBM緊湊的體(tǐ)系結構也是其獨特的優勢。

今年初以來，ChatGPT突然爆火，帶動了AI大模型的快速增長(cháng)，使得具(jù)備高帶寬和低功耗特性的HBM成為(wèi)處理(lǐ)大規模數據和複雜計算任務(wù)的理(lǐ)想選擇。據悉，2023年開年後，三星、SK海力士兩家存儲大廠HBM訂單快速增加，價格也水漲船高，HBM3規格DRAM價格甚至上漲5倍。

過去數月裏，HBM乘AI東風，市場關注度大幅上升。據悉，三星電(diàn)子、SK海力士等韓國(guó)本土存儲半導體(tǐ)企業正在推動HBM專用(yòng)線(xiàn)的擴張。兩家公(gōng)司計劃在2024年年底前投資超過2萬億韓元，使HBM生産(chǎn)線(xiàn)目前的産(chǎn)能(néng)增加一倍以上。SK海力士計劃利用(yòng)利川現有(yǒu)HBM生産(chǎn)基地的清州工(gōng)廠的閑置空間。三星電(diàn)子正在考慮擴大位于忠清南道天安(ān)市的HBM核心生産(chǎn)線(xiàn)。

另一大存儲大廠美光也很(hěn)早就嗅到AI應用(yòng)商(shāng)機，于2019年在中(zhōng)國(guó)台灣成立HBM部門。美光甚至表示，看好2022年至2025年HBM市場年複合成長(cháng)率超50%。

當前，HBM市場呈現三足鼎立格局。TrendForce研究顯示，2022年三大原廠HBM市占率分(fēn)别為(wèi)SK海力士占50%、三星約40%、美光約占10%。

從發展進程來看，2023-2024年将是AI建設爆發期，大量需求集中(zhōng)在AI訓練芯片上，勢必推升HBM使用(yòng)量。預計2023年，HBM即便在原廠擴大産(chǎn)能(néng)的情況下，仍無法完全滿足客戶需求。從各原廠規劃看，預計2024年HBM供給位元量将年增長(cháng)105%。另據semiconductor-digest預測，到2031年，全球高帶寬存儲器市場預計将從2022年的2.93億美元增長(cháng)到34.34億美元，在2023-2031年的預測期内複合年增長(cháng)率為(wèi)31.3%。

三星獲英偉達HBM訂單

在AI大模型熱潮影響下，科(kē)技(jì )大廠接連布局AI大模型，掀起了AI大模型競争之戰，可(kě)以預見未來算力需求仍将大幅增長(cháng)。目前，NVIDIA、AMD、Intel等高端AI芯片大多(duō)選擇搭載HBM。而作(zuò)為(wèi)加速計算領導者，英偉達更是受益于ChatGPT引發AI大模型需求增長(cháng)，今年以來股價累計漲幅已超過245%,目前（9月5日）市值已站上1.2萬億美元。

當前，在核心GPU（圖像處理(lǐ)器）加速計算芯片供不應求的情形下，英偉達在加大GPU供應量的同時，也加速推出新(xīn)一代算力更快的芯片——超級芯片GH200，以持續鞏固AI大模型核心算力芯片供應商(shāng)地位。

中(zhōng)信證券分(fēn)析認為(wèi)，目前英偉達數據中(zhōng)心加速卡銷量仍主要以高端的A100/H100系列卡為(wèi)主，其中(zhōng)台積電(diàn)CoWoS環節産(chǎn)能(néng)為(wèi)主要約束，考慮到封測設備的交貨周期等因素，預計台積電(diàn)CoWoS産(chǎn)能(néng)實質(zhì)性改善至少應在2024Q2左右。

當然，除了CoWoS産(chǎn)能(néng)不足之外，HBM也是供不應求。目前，SK海力士是HBM3領域的全球領導者，迄今為(wèi)止也是英偉達唯一為(wèi)AI加速器提供HBM的供應商(shāng)。有(yǒu)專家認為(wèi)，HBM3是需高帶寬的人工(gōng)智能(néng)服務(wù)的理(lǐ)想選擇。

然而，SK海力士一家遠(yuǎn)遠(yuǎn)難以滿足英偉達對HBM的需求。據悉，英偉達計劃到2024年出貨最高200萬顆H100。此前HBM供應商(shāng)主要是SK海力士，但是産(chǎn)能(néng)也有(yǒu)限，如果英偉達不引入其他(tā)HBM供應商(shāng)，那麽要達成這一目标将變得相當困難。這勢必迫使英偉達尋找更多(duō)的HBM供應商(shāng)進行合作(zuò)。

9月5日消息，據韓國(guó)媒體(tǐ)報導，三星電(diàn)子已獲得英偉達（NVIDIA）的高帶寬内存(HBM)訂單。據悉，三星的HBM已通過NVIDIA的第四次測試，也是最後一次品質(zhì)測試。随後，兩家公(gōng)司已同意簽訂供應協議。根據該協議，雙方的供貨最早可(kě)能(néng)在10月啓動。現在NVIDIA已經擁有(yǒu)SK Hynix和三星作(zuò)為(wèi)其HBM供應商(shāng)，這使得AI GPU的産(chǎn)量能(néng)夠提升。

花(huā)旗集團分(fēn)析師也曾在一份報告中(zhōng)寫道，三星電(diàn)子将從第四季度開始供應HBM3新(xīn)一代内存，經過優化配合人工(gōng)智能(néng)加速器使用(yòng)。未來，随着三星的加入，英偉達将在很(hěn)大程度上緩解GPU供應不足的壓力。

HBM技(jì )術不斷演進

未來數年，HBM的發展“錢景”被存儲大廠廣受看好。而在當前高性能(néng)計算應用(yòng)對内存速率提出更高要求的背景下，HBM技(jì )術将繼續進行改進和創新(xīn)。

從技(jì )術發展趨勢看，HBM促使DRAM從傳統2D加速走向立體(tǐ)3D，充分(fēn)利用(yòng)空間、縮小(xiǎo)面積，契合半導體(tǐ)行業小(xiǎo)型化、集成化的發展趨勢。具(jù)體(tǐ)來看，增加堆疊層數、提高數據傳輸速度和密度，以及降低功耗和成本等方面的改進，将推動HBM技(jì )術的進一步發展。

目前，HBM内部的DRAM堆疊屬于3D封裝(zhuāng)，而HBM與AI芯片的其他(tā)部分(fēn)合封于Interposer上屬于2.5D封裝(zhuāng)，是典型的Chiplet應用(yòng)。

過去十年裏，高帶寬和高密度的HBM解決方案不斷湧現，使得數據傳輸速度更快、容量更大，同時降低功耗和占用(yòng)空間。據悉，HBM發展至今第四代性能(néng)不斷突破。自2014年首款矽通孔HBM産(chǎn)品問世至今，HBM技(jì )術已經發展至第四代，分(fēn)别是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代），HBM芯片容量從1GB升級至24GB，帶寬從128GB/s提升至819GB/s，數據傳輸速率也從1Gbps提高至6.4Gbps。

為(wèi)了搶占未來HBM市場，目前各大存儲大廠也在不斷提升HBM技(jì )術性能(néng)。近日，美光中(zhōng)國(guó)台灣地區(qū)董事長(cháng)盧東晖就表示，美光有(yǒu)多(duō)達65%的DRAM産(chǎn)品在中(zhōng)國(guó)台灣生産(chǎn)，繼日本廠于2022年10月開始量産(chǎn)1β（1-beta）制程技(jì )術後，中(zhōng)國(guó)台灣現在也開始量産(chǎn)1-beta制程。同時，台日團隊還研發新(xīn)一代的1-gamma制程，是美光第1代采用(yòng)極紫外光（EUV）的制程技(jì )術，将在2025年上半年先在台中(zhōng)廠量産(chǎn)。

而三星早在2022年10月召開的Samsung Foundry Forum 2022活動上，就對外公(gōng)布了DRAM技(jì )術路線(xiàn)圖。按照規劃，三星将于2023年進入1bnm工(gōng)藝階段，芯片容量将達到24Gb（3GB）- 32Gb（4GB），原生速度将在6.4-7.2Gbp。

今年5月，三星已宣布量産(chǎn)12納米級16Gb DDR5 DRAM，随後9月宣布采用(yòng)12納米(nm)級工(gōng)藝技(jì )術，開發出其容量最大的32Gb DDR5 DRAM，全新(xīn)12納米級32Gb DDR5 DRAM計劃于今年年底開始量産(chǎn)。

盡管各大儲存廠商(shāng)正不斷加碼HBM，但其技(jì )術創新(xīn)仍需克服兩大主要問題：一是HBM需要較高的工(gōng)藝，進而大幅度提升了成本；二是大量DRAM堆疊，和GPU封裝(zhuāng)在一起，産(chǎn)生大量的熱，如何散熱是極大的挑戰。

整體(tǐ)來看，存儲産(chǎn)業出現了分(fēn)化的市場行情：一方面在多(duō)類消費電(diàn)子需求疲弱背景下，多(duō)家NAND Flash廠商(shāng)仍在減産(chǎn)，另一方面因AI服務(wù)器需求增加，與AI場景高算力需求匹配的HBM需求上升。然而，AI浪潮催化下的DRAM行情雖有(yǒu)好轉迹象，但整個存儲芯片産(chǎn)業似乎仍待實際需求支撐。