11月23日,第二十二屆中國國際半導(dǎo)體博覽會(IC China 2025)在北京國家會議中心開幕。在同期舉行的第七屆全球IC企業(yè)家大會上,英特爾公司副總裁、英特爾中國研究院院長宋繼強發(fā)表演講。他表示,當(dāng)前,AI計算的重心已從通用基座大模型擴展至推理應(yīng)用。未來,80%的AI計算將用于推理領(lǐng)域。異構(gòu)的AI基礎(chǔ)設(shè)施是未來發(fā)展的趨勢。
![]()
宋繼強表示,智能體AI是推理領(lǐng)域真正產(chǎn)生客戶價值的部分,其算力需求將從2025年起逐步上升,并超越用于訓(xùn)練基座大模型與微調(diào)大模型的規(guī)模,今年,其規(guī)模已有140倍的增長,達(dá)到每月1400萬億Token的使用量。為應(yīng)對智能體AI的高速增長需求,算力支持是首要的,算力基礎(chǔ)設(shè)施的帶寬、存儲等都要跟上。Token服務(wù)供應(yīng)商,如云服務(wù)和數(shù)據(jù)中心供應(yīng)商也需對構(gòu)造成本結(jié)構(gòu)的方式進(jìn)行系統(tǒng)級的優(yōu)化。
宋繼強指出,早期的智能體AI在中間層專門對應(yīng)某一種語言模型,在底層則與具體的硬件和軟件組合相對應(yīng),是在某種專門的應(yīng)用架構(gòu)上調(diào)優(yōu)出來的,擴展比較受限。新出現(xiàn)的思維鏈技術(shù)得以支撐更廣泛、更高級別的能力,但也需要更多的執(zhí)行步驟、更多不同的模型,運用思維鏈方式完成一個問題使用的Token數(shù)比之前多10倍。而智能體內(nèi)部不止一個思維鏈,對Token的使用量與調(diào)用復(fù)雜度將增長百倍以上。
因此,宋繼強強調(diào),異構(gòu)的AI基礎(chǔ)設(shè)施一定是未來發(fā)展的趨勢,既能提高當(dāng)前應(yīng)用的性能、效率和成本效益,也能夠保持對于未來智能體AI應(yīng)用的長期有效性。
他表示,這樣的計算架構(gòu)需要至少三個維度的技術(shù)支撐。
第一,在硬件層,為避免受限于特定架構(gòu)或供應(yīng)商,必須構(gòu)建異構(gòu)的硬件架構(gòu)基礎(chǔ)。這也是目前算力中心與公有云服務(wù)建設(shè)中常常討論并采納的方式。
第二,在中間的系統(tǒng)級,越來越多的推理應(yīng)用存在于某一個企業(yè)的工作范圍內(nèi),所以一定要對企業(yè)應(yīng)用開發(fā)、服務(wù)器部署友好。要針對企業(yè)所需要、所能夠支持的尺寸交付算力,對于互聯(lián)互通也需要采用開放的、基于以太網(wǎng)方式的能力規(guī)模擴展方案。
第三,是更開放的軟件棧和軟件框架,需要具備可編程性、可調(diào)配組合,能支持多種AI框架。
宋繼強進(jìn)一步分享了英特爾的一系列實踐與創(chuàng)新案例。例如,制程技術(shù)方面,要提供更高能效比、更高性能、生產(chǎn)制造更靈活的方案。今年10月,英特爾公布了其最新的制程節(jié)點Intel 18A的技術(shù)細(xì)節(jié),同時使用了RibbonFET全環(huán)繞柵極晶體管和背面供電技術(shù)PowerVia,可以提供更高晶體管密度、提升每瓦性能、降低功耗,為英特爾未來至少三代客戶端與服務(wù)器產(chǎn)品提供支撐。
封裝技術(shù)方面,宋繼強表示,英特爾持續(xù)演進(jìn)先進(jìn)技術(shù):從傳統(tǒng)的二維封裝到2.5D的EMIB嵌入式多芯片互聯(lián)橋接方案、Foveros 2.5D和3D技術(shù),再到Foveros Direct 3D,在先進(jìn)封裝技術(shù)的加持下,芯片Bump間距已經(jīng)降到了10微米以下。
宋繼強還分享了英特爾對未來定制芯片的設(shè)想,他指出,未來的定制芯片內(nèi)部既可以有英特爾的主計算單元,也可以有客戶的計算單元,并能夠通過3D技術(shù)將兩者封裝在一起。在靈活構(gòu)造的基礎(chǔ)上,加上EMIB 2.5D、TSV等技術(shù)加持,將大大地提升芯片尺寸,目前最大能實現(xiàn)相當(dāng)于十幾個光罩尺寸大芯片規(guī)模,這將給可定制的未來處理器或AI加速器新的機會。他表示,針對未來多元的應(yīng)用需求,希望有更多能效比優(yōu)先,具備定制化特點的芯片方案。
來源 | 中國電子報
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.