生產(chǎn)力場(chǎng)景的應(yīng)用爆發(fā)，需要什么樣的新型AI基礎(chǔ)設(shè)施？

文：董指導(dǎo)

本期要點(diǎn)

#人工智能#AI#AI Infra#Agent#百度

風(fēng)風(fēng)火火的AI浪潮，已經(jīng)進(jìn)行近兩年了。雖然仍有擔(dān)憂與質(zhì)疑，但種種跡象表明，趨勢(shì)已不可逆轉(zhuǎn)。在海外，可以看到AppLovin、Palantir等公司，因著AI的應(yīng)用帶來業(yè)績(jī)和市值的增長。在國內(nèi)，百度也在率先提出，AI應(yīng)用已經(jīng)來了。

AI應(yīng)用爆發(fā)，已經(jīng)漸行漸近。因而，也有個(gè)問題需要思考：

如果說豐富的應(yīng)用，如茂密的森林；那么，孕育森林的生態(tài)系統(tǒng)應(yīng)該是什么樣呢？

01 企業(yè)級(jí)應(yīng)用，如何高效開發(fā)？

AI應(yīng)用，除了在C端提供各類有趣高效的工具之外，要形成真正的浪潮，也必須可以為企業(yè)提供生產(chǎn)級(jí)的服務(wù)。只有進(jìn)入到企業(yè)的業(yè)務(wù)流里，才能成為企業(yè)提升競(jìng)爭(zhēng)力的關(guān)鍵要素。

因此，這些AI應(yīng)用，更嚴(yán)格點(diǎn)說，是“企業(yè)級(jí)”應(yīng)用，可靠、穩(wěn)定、安全、高效。所謂，好馬配好鞍。這些企業(yè)級(jí)應(yīng)用，又要求支撐應(yīng)用開發(fā)的平臺(tái)，也應(yīng)該是“企業(yè)級(jí)”的。

Agent被稱為AI應(yīng)用落地的最佳形式。能否快速開發(fā)一個(gè)好用的Agent，就是檢驗(yàn)開發(fā)平臺(tái)的重要指標(biāo)。百度智能云千帆大模型平臺(tái)，提供了豐富的工具鏈，用戶只需要進(jìn)行一些簡(jiǎn)單操作就可以生成Agent。

在世界大會(huì)上，千帆平臺(tái)發(fā)布了工作流Agent。面向的正是企業(yè)的剛需---流程智能化。流程，對(duì)每家企業(yè)而言都是必不可少的。越專業(yè)、越復(fù)雜的工作，就越需要流程來保障。針對(duì)流程提效，可以說是“事半功倍”。

工作流Agent，基于大模型強(qiáng)大的意圖理解和泛化能力，可以像行業(yè)專家一樣，無論面對(duì)多么復(fù)雜的局面，總能做出明智決策并最終完成目標(biāo)。

比如，在車險(xiǎn)領(lǐng)域，售前流程非常復(fù)雜，如果培養(yǎng)一個(gè)金牌銷售，至少需要一兩年。但基于千帆平臺(tái)，只需要一個(gè)小時(shí)，就能生成一個(gè)熟練掌握售前寶典的智能體。而且可以集成到微信公眾號(hào)、官網(wǎng)或業(yè)務(wù)系統(tǒng)等任何需要觸達(dá)用戶的地方，大幅提升企業(yè)效率。

Agent是“立等可取”，但許多行業(yè)應(yīng)用需要“定制開發(fā)”。

為了達(dá)到更專業(yè)效果，需要深入模型層，做行業(yè)模型或者場(chǎng)景模型的定制。然而，從頭訓(xùn)練模型，則面臨成本高、周期長的問題，而且效果也未必好。不妨在千帆平臺(tái)上，對(duì)預(yù)訓(xùn)練好的模型進(jìn)行精調(diào)。

小，未必不如大。在參數(shù)規(guī)模較小的模型上，只需要幾小時(shí)、完成精調(diào)，就會(huì)發(fā)現(xiàn)，效果，比參數(shù)規(guī)模大很多的基礎(chǔ)模型還要好。這也充分說明，質(zhì)量和規(guī)模，一樣重要。

為了更加便于用戶使用，千帆平臺(tái)上線了DPO、KTO等訓(xùn)練方法，也提供了業(yè)內(nèi)獨(dú)家的高質(zhì)量通用語料數(shù)據(jù)，以及開箱即用的模型精調(diào)樣板間。

比如全診醫(yī)學(xué)是一家醫(yī)療AI創(chuàng)新公司，他們打造了一款A(yù)I智能醫(yī)療助理，用20萬份精標(biāo)病例數(shù)據(jù)進(jìn)行了模型精調(diào)，從而讓病例生成的準(zhǔn)確度提升了45%。

然而，如果沒有足夠的人工精標(biāo)數(shù)據(jù)該怎么辦？

千帆平臺(tái)也提供了模型蒸餾解決方案。在實(shí)踐中，比如數(shù)字人直播，可以實(shí)現(xiàn)只用旗艦級(jí)模型成本的10%，卻提升效果5倍。

對(duì)于企業(yè)而言，要快速，有立等可取；要定制，有工具、有數(shù)據(jù)，還有精調(diào)、蒸餾等低成本方案。應(yīng)用開發(fā)，不再是高門檻的事兒。

02 自研企業(yè)級(jí)應(yīng)用，輕松集成

如果不想做應(yīng)用開發(fā)、或者能力還不夠，有沒有更低門檻的方案呢？當(dāng)然有。

千帆也發(fā)布了曦靈數(shù)字人平臺(tái)4.0、客悅智能客服平臺(tái)、文心快碼、百度GBI、一見、甄知等多個(gè)成熟“應(yīng)用樣板間”，每個(gè)都是開箱即用、可以輕松集成、快速上手。

比如，曦靈4.0，不但可以一句話生成符合不同行業(yè)場(chǎng)景特色的3D數(shù)字人形象，還可以讓這些數(shù)字人動(dòng)起來、生成專業(yè)靈動(dòng)的視頻。

這個(gè)功能正當(dāng)其時(shí)。因?yàn)樵陔娚填I(lǐng)域，短視頻是品牌“種草”和轉(zhuǎn)化的有效方式。但視頻內(nèi)容的制作難度、成本并不低，因此很多店鋪往往只有少數(shù)主推商品才能配短視頻。即使有好的銷售方式，也有心無力。

現(xiàn)在，有了大模型和數(shù)字人，短視頻的制作周期，可以從幾天壓縮到分鐘級(jí)。用戶只需要輸入一些需求文字給曦靈即可。而且曦靈不僅滿足品牌的需求，也嚴(yán)格遵循品牌的內(nèi)容規(guī)范，展現(xiàn)“企業(yè)級(jí)”的標(biāo)準(zhǔn)。

曦靈的應(yīng)用，不只體現(xiàn)在電商營銷領(lǐng)域，教育、文旅等行業(yè)，也可以發(fā)揮作用。更加真實(shí)、有趣的互動(dòng)，可以提升學(xué)生、游客的體驗(yàn)。

關(guān)于這些“應(yīng)用樣板間”，我曾詢問過百度智能云同事，是否要做大做強(qiáng)自研應(yīng)用。對(duì)于這個(gè)問題，百度智能云的回答是“只有親自走過用戶要走的路，才能設(shè)計(jì)出更懂用戶的產(chǎn)品”。

這些成熟應(yīng)用，一方面可以加速AI應(yīng)用普及，另一方面更重要的是，激發(fā)更多企業(yè)、產(chǎn)生更多有趣、有效的創(chuàng)意。畢竟，一花獨(dú)放不是春，萬紫千紅春滿園。

03 算力平臺(tái)，要高效且面向未來

如果說千帆平臺(tái)提供了森林所需的水、空氣和陽光，那么，算力平臺(tái)，就是應(yīng)用爆發(fā)的土壤。而且隨著應(yīng)用爆發(fā)增長，算力的成本和使用效率，就會(huì)變得更加重要，直接影響模型的創(chuàng)新速度、以及規(guī)模化AI應(yīng)用的成本效益。

百度智能云前段時(shí)間發(fā)布了百舸AI異構(gòu)計(jì)算平臺(tái)4.0。它可以支持用戶大模型全旅程算力需求，包括集群創(chuàng)建、開發(fā)實(shí)驗(yàn)、模型訓(xùn)練、模型推理。而且，不僅立足當(dāng)下，也面向未來，率先具備了成熟的10萬卡集群部署和管理能力。

10萬卡能力，意味著什么呢？

首先，可以有效應(yīng)對(duì)必然的“一云多芯”。一方面，國內(nèi)企業(yè)在發(fā)展過程中，必然形成了多種芯片共用的局面；另一方面，在當(dāng)前環(huán)境下，企業(yè)要確保供應(yīng)鏈安全和彈性，也必然會(huì)采購多種芯片。因此，應(yīng)對(duì)一云多芯，既可以利用資源，也可以支撐未來的擴(kuò)展。

把不同型號(hào)的芯片統(tǒng)一管理，尤其混布成一個(gè)集群支持單一訓(xùn)練任務(wù)，并不是一件容易的事。百舸目前可以在萬卡規(guī)模上，將兩種芯片混合訓(xùn)練下的效率折損控制在5%以內(nèi)。

其次，應(yīng)對(duì)“分布式”需求。十萬卡集群，通常采用跨地域機(jī)房部署的方式，從而會(huì)面臨更長的時(shí)延、以及芯片間的傳輸帶寬等瓶頸。百舸提供了更高效的拓?fù)浣Y(jié)構(gòu)，可以把訓(xùn)練性能折損率控制在4%以內(nèi)。

百舸不僅為百度自身業(yè)務(wù)提供服務(wù)，也可以滿足公有云或者自建智算中心、初創(chuàng)企業(yè)或成熟企業(yè)等算力需求。

前段時(shí)間，馬斯克剛建好10萬卡的集群，未來幾個(gè)月還會(huì)擴(kuò)張到20萬卡。大規(guī)模顯卡集群，勢(shì)在必行。因此，領(lǐng)先的集群管理能力，也是企業(yè)選擇合作伙伴的硬標(biāo)準(zhǔn)。算力資源的領(lǐng)先，才能更確保業(yè)務(wù)走在行業(yè)前沿。

04 結(jié)語

貝索斯提出了著名的企業(yè)增長“飛輪理論”。而AI應(yīng)用的浪潮里也會(huì)如此。

當(dāng)企業(yè)AI應(yīng)用上線后，就會(huì)產(chǎn)生許多寶貴的數(shù)據(jù)。把這些數(shù)據(jù)反饋給模型后，經(jīng)過持續(xù)的精調(diào)、迭代后，模型效果會(huì)越來越好，應(yīng)用也會(huì)越來越好。企業(yè)的競(jìng)爭(zhēng)優(yōu)勢(shì)也會(huì)不斷增強(qiáng)。

這就是“數(shù)據(jù)飛輪”。千帆也是業(yè)界首個(gè)提供完整數(shù)據(jù)飛輪解決方案的大模型平臺(tái)。

算力、數(shù)據(jù)、模型、應(yīng)用開發(fā)，百度智能云用全棧技術(shù)的“一站式”服務(wù)，不斷降低AI原生應(yīng)用開發(fā)的門檻，打開企業(yè)應(yīng)用的天花板。

而唯有此，才能為企業(yè)帶來更低成本、更高效率，讓企業(yè)更放心、安心地利用大模型，在AI浪潮里，探索業(yè)務(wù)創(chuàng)新。

---全文完，歡迎交流

理工/金融 復(fù)合背景，

百億私募/頭部自媒體 雙重經(jīng)歷

懂商業(yè)更懂科技，前瞻發(fā)現(xiàn)新機(jī)遇