![]()
芯東西(公眾號:aichip001)
作者 ZeR0
編輯 漠影
芯東西4月16日報道,近日,AI全棧式互聯(lián)公司奇異摩爾宣布,已成功構(gòu)建800G AI超級網(wǎng)卡(SNIC)平臺架構(gòu),除了800Gb/s 的高帶寬,亞微秒的超低延時,其關(guān)鍵技術(shù)還涵蓋面向AI網(wǎng)絡的增強型RoCE v2機制,包括包噴灑,多路徑傳輸,高性能重傳,與先進的可編程擁塞控制等。基于該自研平臺架構(gòu)設(shè)計的AI SNIC ASIC,已于近期完成回片,并順利通過核心RDMA架構(gòu)的硅驗證,單通道吞吐量穩(wěn)定在400Gbps,關(guān)鍵時延約1微秒。
在當前國產(chǎn)高性能網(wǎng)卡公開產(chǎn)品與產(chǎn)業(yè)敘事仍多集中于100/200G RDMA ASIC引擎階段的背景下,奇異摩爾正以單通道400G RDMA ASIC引擎這一實質(zhì)性突破,為國產(chǎn)AI超級網(wǎng)卡快速邁向800G ASIC揭開序幕。
![]()
▲800G AI SNIC平臺架構(gòu)設(shè)計的ASIC已順利通過RDMA架構(gòu)的硅驗證,單通道吞吐量穩(wěn)定在400Gbps
一、為什么是基于以太網(wǎng)的RDMA AI 原生網(wǎng)卡
在AI網(wǎng)絡興起之前,行業(yè)對智能網(wǎng)卡(SmartNIC)的主流劃分,并非圍繞AI訓練與推理場景,而是依據(jù)芯片架構(gòu)與卸載能力深度進行區(qū)分。核心關(guān)注點在于其能夠為CPU分擔多少基礎(chǔ)設(shè)施工作,包括虛擬機間網(wǎng)絡交換、存儲、加解密,安全與遙測,壓縮與解壓縮等硬件卸載功能,典型產(chǎn)品如數(shù)據(jù)處理單元(DPU)網(wǎng)卡,并非針對大模型集群通信做專項定制優(yōu)化。
進入大模型時代,隨著AI訓練從千卡向萬卡規(guī)模擴展、推理從單機部署走向大規(guī)模分布式服務,Scale-out網(wǎng)絡正在成為決定GPU利用率、集合通信效率和單位Token成本的關(guān)鍵基礎(chǔ)設(shè)施。無論是All-Reduce、Reduce-Scatter,還是All-to-All等典型集合通信,都要求網(wǎng)絡具備更高帶寬密度、更低時延、更低尾時延,以及更快的擁塞反應能力。
在此背景下,基于以太網(wǎng)的高性能RDMA路線愈發(fā)清晰:它既繼承了以太網(wǎng)生態(tài)開放、部署成熟、成本可控的優(yōu)勢,又通過面向AI網(wǎng)絡的RoCE/RDMA專項優(yōu)化,逐步具備支撐大規(guī)模AI集群的能力。
這一技術(shù)趨勢在國內(nèi)頭部云服務提供商(CSP)的技術(shù)需求規(guī)范,以及國外超以太網(wǎng)聯(lián)盟(UEC)的誕生中體現(xiàn)得尤為明顯。就是交付一套面向AI與HPC場景的開放、高性能以太網(wǎng)架構(gòu),重點解決傳統(tǒng)以太網(wǎng)在大規(guī)模訓練環(huán)境下面臨的多路徑傳輸、快速擁塞響應、尾時延控制、易配置與可擴展性等問題。
換句話說,以太網(wǎng)不再只是“通用網(wǎng)絡”的代表,而是在AI時代被重新定義為承載大規(guī)模集群互聯(lián)的主航道之一。
“奇異摩爾AI 超級網(wǎng)卡技術(shù)路線,與頭部云服務提供商(Tier1 CSP)的需求完全一致,與UEC的規(guī)范也高度趨同。我們已構(gòu)建的800G平臺架構(gòu)能力,能有效支持最高800Gb/s RDMA吞吐, 數(shù)百萬級消息處理能力與數(shù)百萬級隊列(QP),大大增強了RoCE v2協(xié)議棧,增加了包噴灑、亂序重組、高效重傳,高級可編程擁塞控制等AI網(wǎng)絡急需的增強特性。以太網(wǎng)的技術(shù)路線確保了產(chǎn)品的開放互操作性與生態(tài)兼容性,為進入頭部云服務供應商以及未來平滑融入超以太網(wǎng)生態(tài)、實現(xiàn)跨廠商協(xié)同奠定了基礎(chǔ)。” 奇異摩爾網(wǎng)絡技術(shù)VP葉棟表示 。
![]()
▲800G AI SNIC 及功能描述
葉棟擁有超過20年的網(wǎng)絡互聯(lián)系統(tǒng)架構(gòu)設(shè)計經(jīng)驗,在AI網(wǎng)絡協(xié)議、RDMA、虛擬化、軟件協(xié)議棧等方面擁有豐富的專業(yè)知識。其在英特爾(中國)工作多年,曾任英特爾網(wǎng)絡互聯(lián)產(chǎn)品事業(yè)部技術(shù)總監(jiān),負責英特爾以太網(wǎng)、智能網(wǎng)卡,P4可編程交換芯片、英特爾/Google IPU相關(guān)系統(tǒng)架構(gòu)產(chǎn)品的本地化研發(fā)和部署。啟動和主導了多家大型云服務提供商大規(guī)模部署的技術(shù)方案的底座。
針對網(wǎng)絡密集型大規(guī)模并行計算對高帶寬、低延遲數(shù)據(jù)傳輸?shù)膰揽列枨螅琋VIDIA不僅推出基于IB網(wǎng)絡的超級網(wǎng)卡(SNIC),也推出了面向以太網(wǎng)的SNIC,旨在為AI工廠與云數(shù)據(jù)中心提供強大的網(wǎng)絡支撐。NVIDIA對AI超級網(wǎng)卡的定義十分清晰:這是一類“專為網(wǎng)絡密集型、海量分布式AI計算工作負載打造的新型網(wǎng)絡加速器”。其價值遠不止于完成數(shù)據(jù)包的傳輸,更在于讓多GPU、多節(jié)點環(huán)境下的通信真正成為釋放算力的加速引擎。
二、對標NVIDIA ConnectX-8/9 的領(lǐng)先性,800G AI網(wǎng)卡從“接口”走向“中樞”
NVIDIA公開表示,ConnectX-8是業(yè)界首個把PCIe Gen6級交換能力與超高速網(wǎng)絡處理能力集成到單一器件中的超級網(wǎng)卡(SNIC)。它不僅服務于AI、HPC和超大規(guī)模云數(shù)據(jù)中心場景,還通過集成48 lanes 的PCIe Gen6 Switch,把原本需要獨立PCIe Switch和獨立NIC共同完成的任務,整合到一個高集成度器件中,這是一項絕無僅有的創(chuàng)新技術(shù)路徑。
傳統(tǒng)1機8卡PCIe GPU服務器普遍采用以 CPU 為根節(jié)點、PCIe Switch 向下連接 GPU 的樹形拓撲。
這種架構(gòu)在通用計算時代較為成熟,但在大模型訓練場景下,其結(jié)構(gòu)性性能瓶頸日益突出:GPU間通信往往需要經(jīng)過PCIe Switch,跨Socket路徑還可能受到主機鏈路約束,導致時延升高、帶寬利用率下降,難以滿足All-Reduce、Reduce-Scatter、All-to-All 等高頻集合通信對低時延和高吞吐的要求。
所以ConnectX-8將PCIe Gen6交換能力與高速網(wǎng)絡能力整合到單一器件中,可替代傳統(tǒng)離散PCIe Switch,既優(yōu)化GPU到GPU、GPU到NIC的數(shù)據(jù)路徑,也降低系統(tǒng)復雜度、功耗和總體擁有成本。
![]()
在端口形態(tài)上,ConnectX-8也已經(jīng)明確邁入800G時代。NVIDIA官方顯示,ConnectX-8以太網(wǎng)版本具備2×400GbE的產(chǎn)品形態(tài),其不僅擁有800G級總帶寬能力,也具備更靈活的雙端口組網(wǎng)方式,更適合未來大規(guī)模AI集群對冗余、分流、彈性擴展和復雜拓撲部署的需求。從出貨形態(tài)來說,ConnectX-8已將高速網(wǎng)絡能力與PCIe Gen6 Switch能力整合至單一器件之中,并以一體化集成設(shè)計形態(tài)面向平臺出貨。
三、奇異摩爾創(chuàng)造里程碑:國產(chǎn)AI SNIC從“可用”邁向“高性能”
正是在這樣的全球技術(shù)演進背景下,奇異摩爾基于自研800G AI SNIC ASIC架構(gòu)構(gòu)建的單通道400G引擎完成了核心RDMA ASIC 流片驗證,才顯得意義格外突出。
與FPGA方案更適合早期驗證、快速迭代不同,ASIC路線決定了一款產(chǎn)品是否真正具備面向大規(guī)模AI訓推集群的性能上限、功耗效率、板卡集成度和量產(chǎn)一致性。
奇異摩爾率先在國產(chǎn)陣營中實現(xiàn)單通道400G RDMA ASIC引擎,吞吐量穩(wěn)定在400Gbps,不僅填補了國內(nèi)高帶寬超級網(wǎng)卡芯片的空白,更充分證明了其已掌握2×400G乃至更高速率產(chǎn)品的核心設(shè)計能力,為下一代800G網(wǎng)卡奠定了堅實技術(shù)基礎(chǔ)。
奇異摩爾最新800G SNIC全面對標英偉達ConnectX-8/9的架構(gòu)方向,采用與國際先進方案相一致的“高速網(wǎng)絡處理+PCIe Switch能力”一體化設(shè)計思路,在產(chǎn)品形態(tài)上支持 2×400G端口以太網(wǎng)總帶寬,在架構(gòu)層面同時承擔AI服務器內(nèi)部互連優(yōu)化與節(jié)點間高速通信能力。
這意味著,該企業(yè)在800G產(chǎn)品布局不只是帶寬規(guī)格升級,更是對未來AI高性能集群互連形態(tài)的提前卡位:通過集成PCIe Switch能力,重構(gòu)GPU到GPU、GPU到NIC的數(shù)據(jù)路徑,提升集合通信效率、降低系統(tǒng)復雜度,并增強對整機平臺和集群方案的定義能力。
![]()
奇異摩爾網(wǎng)絡技術(shù)VP葉棟補充道,奇異摩爾最新800G 超級網(wǎng)卡按計劃于年內(nèi)量產(chǎn),有望成為國產(chǎn)化在800G AI超級網(wǎng)絡芯片、系統(tǒng)集成方案以及平臺級架構(gòu)能力上的重大突破,進一步增強中國廠商在未來AI高性能集群基礎(chǔ)設(shè)施中的產(chǎn)品定義權(quán)、方案協(xié)同權(quán)和產(chǎn)業(yè)話語權(quán)。
結(jié)語:國產(chǎn)化窗口已開,市場潛力加速釋放
從產(chǎn)業(yè)空間與政策環(huán)境來看,奇異摩爾所切入的并非小眾賽道,而是一個正在快速擴容的核心基礎(chǔ)設(shè)施市場。公開研究顯示,僅ConnectX-7級別的高性能AI網(wǎng)卡市場規(guī)模已超過百億元,并仍在持續(xù)增長。這意味著,以ConnectX-7/ ConnectX-8為代表的高性能AI網(wǎng)卡賽道,背后對應的是一個數(shù)百億元級、且仍在不斷放大的市場機遇。
與此同時,國家對自主可控智算底座、高速互連及國產(chǎn)化集群的戰(zhàn)略訴求正持續(xù)加強。國家發(fā)展改革委等部門已明確提出,要加快部署智能無損網(wǎng)絡、400G/800G等先進技術(shù),建設(shè)高速泛在、安全可靠的全國一體化算力網(wǎng),并強化自主創(chuàng)新技術(shù)供給能力。
奇異摩爾是一家深度聚焦AI互聯(lián)多年的全棧式解決方案提供商,以網(wǎng)絡+芯粒技術(shù)為底層特色,除面向Scale Out場景的AI網(wǎng)卡芯片,公司還提供面向Scale Up超節(jié)點的G2G IO互聯(lián)芯粒,并已在業(yè)內(nèi)實現(xiàn)落地應用。這一不同于其他芯片廠商的技術(shù)基因構(gòu)筑了差異化的競爭壁壘,也賦予了其在下一代高性能集群互聯(lián)中更強的靈活性、更廣闊的發(fā)展空間以及更深的技術(shù)縱深。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.