AI芯片，向LPDDR轉移

公眾號記得加星標??，第一時間看推送不會錯過。

人工智能（AI）服務的普及推動了存儲半導體需求的激增，這種需求不僅來自高帶寬內存（HBM），也蔓延至低功耗動態隨機存取存儲器（LPDDR）。LPDDR主要用于智能手機、平板電腦和筆記本電腦，也被稱為“移動動態隨機存取存儲器”。近期，隨著英偉達、高通和特斯拉等公司積極在其AI芯片設計中采用LPDDR，市場出現了供應短缺。

據業內人士28日透露，今年各大半導體設計公司推出的每個AI服務器機架，預計都將配備相當于數千部智能手機所用LPDDR內存容量的芯片。因此，一些分析師表示，智能手機廠商正在出現搶購LPDDR的“恐慌性購買”現象。據悉，繼HBM之后，三星電子、SK海力士和美光等主要內存廠商在LPDDR領域也展現出了更強的定價能力。

單個 AI 機架中使用了相當于數千部智能手機的 LPDDR 內存

三家內存廠商（三星電子、SK海力士和美光）近期已開始全面量產搭載于AI芯片上的SOCAMM2產品。SOCAMM2是指針對AI芯片定制的LPDDR5X內存模塊。LPDDR標準已按1、2、3、4、4X、5和5X的順序發展，SOCAMM2則是在最新服務器環境LPDDR5X的基礎上進行改進，使其能夠搭載于下一代AI芯片中。

SK海力士于20日正式宣布開始量產基于10納米（nm，十億分之一米）級第六代（1c）工藝的192GB SOCAMM2固態硬盤。美光科技也曾在3月份表示正在“量產SOCAMM2”。三星電子近期在多個展會上展示了SOCAMM2實物，暗示其正在向客戶供貨。

英偉達被認為是SOCAMM2的最大目標客戶。英偉達計劃在今年下半年推出其下一代人工智能芯片Vera Rubin。該芯片的一項關鍵特性是將72個Rubin圖形處理器（GPU）和36個Vera中央處理器（CPU）集成到一個機架中，以提升性能。

SOCAMM2 集成在 Vera CPU 上。Nvidia 表示，每個 Vera CPU 最高支持 1.5 TB 的 LPDDR5X 內存。該架構將八個 192GB 的 SOCAMM2 模塊集成到單個 Vera CPU 中。如果采用機架式設計，則可安裝超過 50TB 的 LPDDR5X 內存。與上一代產品（Blackwell，17TB LPDDR5X）相比，容量提升了約 3.2 倍。

通常，一部高端智能手機會配備 12GB 的 LPDDR5X 內存。簡單計算一下，僅一個 Vera Rubin 機架就需要消耗相當于約 4500 部智能手機所需的 LPDDR5X 內存。一位業內人士表示：“人工智能芯片就像一個‘黑洞’，不斷吞噬低功耗 DRAM。”他還補充道：“預計從今年下半年 Vera Rubin 發布開始，LPDDR 內存的短缺問題將更加突出。”

LPDDR也被用于特斯拉和高通的下一代AI芯片，這可能會加劇LPDDR的短缺。據悉，特斯拉首席執行官埃隆·馬斯克最近公布了下一代AI自動駕駛芯片AI5的流片（設計完成和工藝輸入），該芯片在單顆芯片上集成了192GB的LPDDR5X內存。

隨著高通公司將業務從傳統移動芯片擴展到人工智能數據中心解決方案，LPDDR的需求也隨之增長。該公司表示，今年計劃發布的每張專注于推理的AI200顯卡都支持768GB的LPDDR內存。一些人認為，高通首席執行官克里斯蒂亞諾·阿蒙近期訪問韓國會見三星電子和SK海力士高管，旨在解決LPDDR供需日益不穩定的問題。

從智能手機到人工智能芯片，需求激增……合約價格飆升

由于三大內存廠商優先向高利潤的人工智能芯片制造商供應LPDDR內存，智能手機行業已對此保持警惕。三星電子和蘋果近期就12GB LPDDR5X內存的價格和初始供貨問題進行的談判，便是這一趨勢的典型例證。

據稱，三星電子近期與蘋果就iPhone 18系列所使用的LPDDR5X內存的定價和初期供貨量進行了磋商。有消息稱，盡管價格幾乎是之前的兩倍，蘋果還是接受了三星電子的提議。12GB LPDDR5X內存的單價從去年年初的30美元左右上漲到今年年初的70美元左右（約合10萬韓元），而蘋果接受了這樣的價格上漲。

隨著人工智能芯片需求在現有智能手機需求的基礎上進一步增長，LPDDR內存價格也在快速上漲。市場研究公司TrendForce估計，第一季度LPDDR4X和LPDDR5X的合約價格較上一季度上漲了約90%，并且“有望創下有史以來最高的增長率”。

LPDDR價格上漲也令無晶圓廠（半導體設計）企業頭疼不已。一位要求匿名的國內無晶圓廠高管表示：“現在買一塊LPDDR5X的價格相當于去年買16塊的價格。”他還補充道：“即便我們能承受這次價格上漲，市場需求量也很小，這才是主要問題。”

人工智能市場對SOCAMM2的需求激增，主要歸因于不斷提高的性能要求。傳統的AI芯片配置采用HBM和雙倍數據速率（DDR）5寄存式雙列直插內存模塊（RDIMM），難以同時滿足性能、功耗和尺寸方面的要求。目前，LPDDR正致力于解決這一問題。集成到GPU封裝中的HBM可提供超高帶寬，但在容量、成本和發熱量方面存在局限性。DDR5 RDIMM容量大，但結構上存在限制，帶寬和能效相對較低。

SOCAMM 是一種將多個 LPDDR 芯片堆疊并組裝成模塊的結構，并以高密度排列在封裝附近。與直接焊接在主板上的傳統 LPDDR 不同，SOCAMM 在保持高帶寬和低功耗的同時，還支持插拔和更換。它比 HBM 更接近系統內存，但在帶寬和延遲方面，它比 RDIMM 更接近 GPU 和 CPU，可以作為“中間層”內存使用。隨著 AI 模型規模的擴大和參數的激增，HBM 無法單獨應對容量和功耗方面的限制，SOCAMM 正通過充當緩沖層，成為“未來的增長引擎”。

一位半導體行業官員表示：“隨著 SOCAMM2 作為彌合 HBM 和系統內存之間性能、功耗和外形尺寸差距的新層級出現，其應用正在不斷增加。”

（來源：編譯自chosun）

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4390內容，歡迎關注。

加星標??第一時間看推送

求推薦