公眾號記得加星標??,第一時間看推送不會錯過。
Meta計劃部署數千萬個亞馬遜網絡服務(AWS)的Graviton 5 CPU核心,作為一項多年合作的一部分,這將使這家社交網絡成為這家云巨頭自研芯片有史以來最大的用戶之一。
該計算資源將支持 Meta 的智能體 AI 部署。雖然 GPU 對于訓練和運行生成式 AI 模型仍然至關重要,但駕馭這些模型所需的軟件框架仍然運行在 CPU 上。
亞馬遜最新的Graviton處理器配備了192個Arm Neoverse V3核心,以及更大的L3緩存,并支持高達DDR5 8800 MT/s的內存。與Graviton 4相比,這一組合帶來了25%的性能提升。
Meta 的基礎設施主管 Santosh Janardhan 在一份聲明中表示,與 AWS 的合作是為了使這家社交網絡公司的計算資源多樣化。
“隨著我們不斷擴展Meta人工智能發展所需的基礎設施,計算資源多元化已成為一項戰略要務。多年來,AWS一直是值得信賴的云合作伙伴,”他說道。
不難找到多元化戰略的證據,因為在過去的幾個月里,Meta 與基于 ARM 的 CPU 設計者們建立了密切的聯系。
今年2月,該公司透露,它是首批大規模部署英偉達獨立式Grace CPU的公司之一。此后,這家社交網絡巨頭又宣布了部署英偉達全新88核Vera CPU的計劃。
然后,在 3 月份,Arm 透露它與 Meta 密切合作,設計了其首款自有品牌數據中心芯片——“AGI CPU”,該芯片將 136 個 Neoverse V3 內核集成到一個 300 瓦的部件中。
Arm 的新款芯片今年晚些時候不會出現在 Meta 的數據中心部門。不過,AGI CPU 與亞馬遜的 Graviton 5 芯片非常相似,這意味著 Meta 目前或許可以先在 AWS 上部署,等到 Arm 的芯片最終準備就緒后,再將這些工作負載遷移回公司內部。
Arm 數據中心處理器的普及,尤其是在人工智能應用領域,預計將大幅提升這家英國芯片設計公司的市場份額。
Counterpoint Research 的分析師最近預測,到 2029 年,基于 Arm 的 CPU 將占 AI ASIC 服務器 CPU 市場的 90%。
“雖然 x86 架構目前在 AI 服務器基礎設施中仍然占據重要地位,但我們逐代分析表明,這種既有的優勢正在迅速向專有的基于 Arm 的設計過渡,”Counterpoint 分析師 David Wu 在一篇博客文章中表示。
這種轉變可以說始于英偉達在 2023 年推出的 Grace CPU。此后,基于 Arm 架構的 CPU 在許多英偉達 GPU 系統中取代了英特爾和 AMD 的 x86 架構部件。
去年12月,AWS宣布將在其Trainium 3 AI機架系統中用自研CPU替換英特爾的CPU。就在本周,谷歌也表示將采取同樣的做法,用自研的基于Arm架構的Axion芯片替換其TPU集群中的x86芯片。
Meta與AWS簽署協議
Meta已簽署協議,將大規模部署AWS Graviton處理器。隨著Meta構建其下一代人工智能,這項協議標志著兩家公司長期合作關系的顯著擴展。
此次部署初期將部署數千萬個 Graviton 核心,并可根據 Meta 人工智能能力的增長靈活擴展。這項交易反映了人工智能基礎設施構建方式的轉變:雖然 GPU 對于訓練大型模型仍然至關重要,但智能體人工智能的興起正在催生對CPU密集型工作負載的巨大需求,例如實時推理、代碼生成、搜索以及多步驟任務的編排。Graviton5正是為此類工作負載而生,能夠為 Meta 提供高效大規模運行這些工作負載所需的處理能力。
這些芯片將為 Meta 的各種工作負載提供支持,包括支持該公司的 AI 項目。這項工作需要能夠處理數十億次交互并協調復雜的多步驟代理工作流程的基礎設施——而這正是 Graviton 芯片專為處理 CPU 密集型任務而設計的。
AWS Graviton5 采用 3 納米芯片技術——這種制造工藝能夠生產更小巧、更高效的處理器。由于 AWS 從零開始設計芯片,并掌控從芯片設計到服務器架構的整個流程,因此它能夠以現成處理器無法企及的方式優化性能和效率。
最終打造出的基礎設施性能更強勁,同時保持領先的能源效率,助力 Meta 在實現雄心勃勃的 AI 目標的同時,也能穩步達成可持續發展目標。Graviton5 的性能比上一代產品提升高達 25%。
隨著整個行業對人工智能計算的需求不斷增長,底層基礎設施的效率變得越來越重要——無論對于控制成本還是減少對環境的影響而言都是如此。
這項交易標志著大規模人工智能基礎設施建設方式的新篇章,以及像 Graviton 這樣的專用芯片如何幫助像 Meta 這樣的公司為全球數十億人提供更智能、更個性化的體驗。
(來源:編譯自aws)
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯系半導體行業觀察。
今天是《半導體行業觀察》為您分享的第4387內容,歡迎關注。
加星標??第一時間看推送
求推薦
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.