為企業(yè)"近人類級智能體"部署做好準備的三大最佳實踐

微軟AI首席執(zhí)行官穆斯塔法·蘇萊曼近日在《麻省理工科技評論》撰文指出，計算領(lǐng)域正處于"近人類級智能體"的臨界點。然而，通往這一目標的道路并不平坦——企業(yè)正面臨重新設計工作流程、厘清智能體AI可訪問數(shù)據(jù)范圍等重重挑戰(zhàn)。

數(shù)據(jù)庫技術(shù)巨頭Databricks在其最新發(fā)布的《AI智能體現(xiàn)狀報告》中指出，"目前僅有19%的組織部署了AI智能體，且大多數(shù)仍處于有限范圍內(nèi)。"

Databricks AI負責人克雷格·懷利在接受ZDNET采訪時表示，許多首席財務官共同關(guān)注三大核心問題："能否對智能體進行管控？它輸出的內(nèi)容是否真正有價值？以及運營成本幾何？"

為此，懷利建議企業(yè)在部署智能體之前，提前落實以下三大最佳實踐。

一、治理：掌控數(shù)據(jù)訪問權(quán)限

"能否管控"這一問題，本質(zhì)上指向治理實踐，其核心在于規(guī)范智能體的數(shù)據(jù)訪問范圍。

AI智能體不同于ChatGPT等工具所提供的簡單對話式交互，它能夠接入企業(yè)數(shù)據(jù)庫、執(zhí)行大語言模型之外的代碼、調(diào)用郵件系統(tǒng)等外部程序，并將多個操作串聯(lián)起來完成完整的業(yè)務流程。

治理的首要原則是"不造成傷害"。以Databricks客戶、擁有7500萬用戶的女性健康應用Flow為例，該平臺在為用戶提供個性化建議的同時，必須防止不同用戶之間的數(shù)據(jù)泄露。懷利指出，完善的治理體系應能精確區(qū)分"所有人可訪問的公共數(shù)據(jù)"與"僅限特定用戶訪問的私有數(shù)據(jù)"。

資產(chǎn)管理公司富蘭克林鄧普頓在向客戶發(fā)送投資組合報告時采取了同樣嚴格的數(shù)據(jù)隔離措施。懷利強調(diào)，數(shù)據(jù)訪問控制"必須被強制執(zhí)行，而不僅僅是在提示詞中加以建議"。

治理的另一層面，是將用戶問題與最恰當?shù)臄?shù)據(jù)源及模型精準匹配，從而避免智能體淪為一問一答式的聊天機器人。

汽車買賣平臺Edmunds打造的內(nèi)部智能體工具"Edmunds Mind"是一個典型案例。該工具能夠綜合交通數(shù)據(jù)、人口數(shù)據(jù)、車源列表及定價信息，以更全面的視角分析哪些汽車經(jīng)銷商存在市場服務缺口，而不是簡單回答"最好的敞篷車是什么、售價多少"。

在技術(shù)實現(xiàn)層面，數(shù)據(jù)目錄扮演著關(guān)鍵角色：一方面為IT管理員提供統(tǒng)一的可視化視圖，涵蓋智能體可訪問的結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)、外部工具調(diào)用協(xié)議及已啟用的工具；另一方面負責管理智能體與用戶的身份認證，確保數(shù)據(jù)訪問權(quán)限貫穿智能體全生命周期，始終處于受控狀態(tài)。

懷利總結(jié)道，將治理作為"設計的第一原則"，企業(yè)將比"隨意放任"的做法更容易將智能體成功推向生產(chǎn)環(huán)境。

二、評估：持續(xù)驗證輸出質(zhì)量

第二大實踐是對智能體輸出結(jié)果進行嚴格、持續(xù)的評估。

以Flow為例，在評估智能體響應是否準確時，參與者并非程序員，而是醫(yī)生。軟件開發(fā)人員負責編寫管理智能體的編排系統(tǒng)，而醫(yī)生則負責判斷某條回復是否需要補充背景信息或上下文說明。

懷利強調(diào)，評估工作必須貫穿程序的整個生命周期，且不局限于最終輸出，還應覆蓋智能體推理過程的每一個中間環(huán)節(jié)——"它在每一步究竟在做什么，是否與得出正確答案的目標保持一致？"

一旦發(fā)現(xiàn)偏差，應立即將智能體回滾至評估階段，重新部署并持續(xù)迭代。他指出，能夠?qū)χ悄荏w輸出進行有效評估的企業(yè)，其成功進入生產(chǎn)環(huán)境的概率是其他企業(yè)的六倍。

三、成本：做好前期規(guī)劃

第三個關(guān)注點是成本，而這在很大程度上取決于前兩項實踐是否做到位。懷利表示，一旦治理與評估到位，"其余的都只是實現(xiàn)細節(jié)"。

但成本必須從項目伊始就納入考量。懷利建議從小處著手，逐步構(gòu)建可治理、可驗證的智能體能力，而非一開始就試圖用智能體替換整套業(yè)務系統(tǒng)。

他舉例說明：便利店連鎖品牌7-Eleven為現(xiàn)場維修技術(shù)人員部署了智能體，讓他們能夠隨時檢索所有歷史故障記錄和設備手冊，有效降低了對"打電話問同事"的依賴；貝勒大學則利用智能體分析與潛在學生的每一通通話錄音，深入了解學生的擇校決策因素，實現(xiàn)了以往人工無法達到的洞察深度。

在投資回報方面，目前行業(yè)內(nèi)仍缺乏系統(tǒng)性數(shù)據(jù)，但已有部分積極成果浮現(xiàn)：富蘭克林鄧普頓通過智能體自動化投資組合分析，發(fā)現(xiàn)了超過1500萬美元的新產(chǎn)品機會；7-Eleven則實現(xiàn)了設備首次修復率提升25%、維修時長縮短40%。

懷利最后強調(diào)，成功部署智能體的關(guān)鍵，在于從一開始就確保數(shù)據(jù)的整潔性與合理組織。"如果你的數(shù)據(jù)狀態(tài)良好，我們今天下午就能部署完成；如果數(shù)據(jù)一團糟，真正的挑戰(zhàn)將是整理數(shù)據(jù)所需的時間。"

Q&A

Q1：AI智能體和普通AI聊天機器人有什么區(qū)別？

A：AI智能體不同于ChatGPT等傳統(tǒng)聊天機器人的簡單對話交互模式。智能體可以直接接入企業(yè)數(shù)據(jù)庫、在大語言模型之外執(zhí)行代碼、調(diào)用郵件等外部系統(tǒng)，并將多個不同類型的操作串聯(lián)起來，自動完成整套業(yè)務流程，無需用戶逐步手動提問引導。

Q2：企業(yè)部署AI智能體時，數(shù)據(jù)治理為什么這么重要？

A：數(shù)據(jù)治理是智能體能否安全上線的核心前提。以女性健康應用Flow為例，7500萬用戶的敏感健康數(shù)據(jù)必須嚴格隔離，絕不能在不同用戶之間泄露。治理體系需要在系統(tǒng)層面強制執(zhí)行數(shù)據(jù)訪問權(quán)限，而不能僅靠提示詞建議來約束。Databricks的數(shù)據(jù)顯示，將治理作為設計第一原則的企業(yè)，成功將智能體推向生產(chǎn)環(huán)境的概率顯著更高。

Q3：企業(yè)現(xiàn)在投資AI智能體的回報如何？

A：目前行業(yè)整體ROI數(shù)據(jù)尚不完善，但已有積極案例。富蘭克林鄧普頓通過智能體自動分析投資組合，發(fā)現(xiàn)了超過1500萬美元的新產(chǎn)品機會；7-Eleven部署設備維修智能體后，首次修復率提升25%，維修時長縮短40%。Databricks認為當前行業(yè)處于類似"2001年互聯(lián)網(wǎng)"的早期階段，長期價值仍在持續(xù)顯現(xiàn)中。