2006 年,一項大膽的并行計算構(gòu)想悄然啟程。如今,它已成為現(xiàn)代科學(xué)與 AI 發(fā)展的基礎(chǔ)脈動。
NVIDIA 在 GTC 大會慶祝 CUDA 發(fā)明二十周年——這項成就凝聚了全球超過 600 萬開發(fā)者在計算棧各層持續(xù)創(chuàng)新的成果。如今,CUDA 依然是一座跨時代的橋梁,連接著首批編寫內(nèi)核的先驅(qū)與下一波部署萬億參數(shù) AI 模型的建設(shè)者。
在 GTC,由 NVIDIA CUDA 架構(gòu)師 Stephen Jones 主持的專題會議上,來自 Jump Trading、Meta Superintelligence Labs 和 NVIDIA 的研究人員與工程師共同回顧了 CUDA 二十年來的創(chuàng)新歷程,探討它如何幫助開發(fā)者攻克全球最復(fù)雜的難題,以及 NVIDIA DGX Spark 桌面 AI 超級計算機(jī)等系統(tǒng)將如何賦能下一代 CUDA 開發(fā)者。
參會嘉賓分享了關(guān)于 CUDA 的早期記憶。Meta Superintelligence Labs 軟件工程師 Paulius Micikevicius 表示:“那時候沒有人愿意使用 GPU,我們不得不去懇求別人考慮使用 GPU。”
當(dāng)時,NVIDIA 現(xiàn)任資深杰出研究科學(xué)家兼高級研究總監(jiān)、時任伊利諾伊大學(xué)厄巴納-香檳分校教授 Wen-Mei Hwu,決定帶領(lǐng)一群研究生在兩個月內(nèi)搭建一個由 200 塊 GPU 組成的系統(tǒng)。
Hwu 表示:“幾周后,200 塊 GPU 主板、電源和所有配件都到了,但沒有機(jī)箱。我們只好給每塊主板做了木制框架,隨后我們運行了 Green500 基準(zhǔn)測試,拿到了第三名。那一刻我意識到 GPU 蘊藏著巨大的能效潛力。”
隨著加速計算規(guī)模已轉(zhuǎn)向機(jī)架級擴(kuò)展系統(tǒng)和 AI 工廠,參會嘉賓認(rèn)為,像 DGX Spark 這樣的桌面 AI 系統(tǒng)將為原型設(shè)計和早期開發(fā)提供全新路徑。
NVIDIA 杰出 DevTech 工程師 Kate Clark 表示:“關(guān)鍵在于你要具備進(jìn)行初步探索的能力,并且有一臺桌面計算機(jī)或者筆記本電腦這樣的便攜設(shè)備。我認(rèn)為這一趨勢在短期內(nèi)不會改變,CUDA 將無處不在。”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.