一張電影票的 Token 成本，換一場(chǎng) 10 萬(wàn)字投標(biāo)革命：商湯 Solution Agent 實(shí)戰(zhàn)全解析

作者｜ 王志宏

編輯｜李忠良

策劃｜AICon 全球人工智能開(kāi)發(fā)與應(yīng)用大會(huì)

在 AI 私有化浪潮席卷實(shí)體工業(yè)的今天，算力基礎(chǔ)設(shè)施的易用性已成為企業(yè)轉(zhuǎn)型的“入場(chǎng)券”。然而，一個(gè)冷酷的現(xiàn)實(shí)是：技術(shù)實(shí)現(xiàn)雖已日趨成熟，前端需求的“爆發(fā)”卻意外撞上了后端產(chǎn)研評(píng)估的“帶寬墻”。海量的非標(biāo)需求、碎片化的評(píng)估反饋、以及高頻的跨部門消耗，正成為阻礙 AI 項(xiàng)目規(guī)模化落地的無(wú)形枷鎖。

為了打破這種“算力雖強(qiáng)，評(píng)估太累”的困局，商湯大裝置構(gòu)建了全鏈路的解決方案智能體（Solution Agent）。這不只是一個(gè)簡(jiǎn)單的文檔生成工具，更是一套從非結(jié)構(gòu)化數(shù)據(jù)解析、供需匹配建模到多維合規(guī)審計(jì)的工業(yè)化流水線。

InfoQ 榮幸邀請(qǐng)到王志宏在AICon 全球人工智能開(kāi)發(fā)與應(yīng)用大會(huì)上分享了《從需求到投標(biāo)：數(shù)據(jù)驅(qū)動(dòng)的智能技術(shù)方案生成 Agent 實(shí)戰(zhàn)》，他將深度復(fù)盤(pán)這一方案的研發(fā)邏輯與技術(shù)硬核，探討如何利用 LazyLLM 框架實(shí)現(xiàn)低成本、高性能的 Agent 開(kāi)發(fā)；如何通過(guò)子任務(wù)拆解策略攻克長(zhǎng)文本生成的質(zhì)量瓶頸；以及我們是如何用不到一張電影票的 Token 成本，換取一場(chǎng)售前評(píng)估與標(biāo)書(shū)生成的效能革命。

以下是演講實(shí)錄（經(jīng) InfoQ 進(jìn)行不改變?cè)獾木庉嬚恚?/strong>

AI 私有化浪潮下的研發(fā)評(píng)估困境

隨著 AI 的快速發(fā)展，各行各業(yè)都在推進(jìn) AI 轉(zhuǎn)型，很多項(xiàng)目如果不涉及 AI，往往很難獲得預(yù)算和落地機(jī)會(huì)。因此，大量企業(yè)開(kāi)始提出 AI 私有化需求。在這個(gè)過(guò)程中，我們的售前團(tuán)隊(duì)需要在不同企業(yè)之間頻繁溝通，收集各類需求；而這些需求匯總到產(chǎn)研側(cè)后，就需要快速評(píng)估這些項(xiàng)目是否在我們的能力范圍內(nèi)、是否可做，以及具體應(yīng)該如何做。對(duì)產(chǎn)研來(lái)說(shuō)，這帶來(lái)了很大的壓力。

當(dāng)前的核心瓶頸，已經(jīng)不再是技術(shù)能力是否足夠，而是我們是否有足夠的帶寬去評(píng)估這些項(xiàng)目。在這樣的情況下，研發(fā)節(jié)奏會(huì)受到明顯干擾。最開(kāi)始大家還會(huì)比較耐心地參與評(píng)估，與非技術(shù)同學(xué)溝通，但隨著時(shí)間推移，這種耐心會(huì)逐漸下降，溝通質(zhì)量和研發(fā)體驗(yàn)也會(huì)受到影響。

從實(shí)際情況來(lái)看，評(píng)估環(huán)節(jié)主要面臨幾個(gè)問(wèn)題：

首先，需求和產(chǎn)品相關(guān)的數(shù)據(jù)量都非常大，每個(gè)新需求都需要在很短時(shí)間內(nèi)完成判斷和方案設(shè)計(jì)；其次，公司的知識(shí)是分散的，包括已有產(chǎn)品、過(guò)往案例以及技術(shù)能力，售前和銷售同學(xué)很難全面掌握，只能頻繁依賴研發(fā)；最后，在客戶溝通和投標(biāo)過(guò)程中，涉及大量細(xì)節(jié)，進(jìn)一步增加了協(xié)作成本。這些問(wèn)題共同導(dǎo)致，售前和研發(fā)都承受較大壓力，評(píng)估效率和溝通質(zhì)量也受到影響。

我們的解決思路是，通過(guò)一個(gè) Agent 來(lái)幫助分析客戶需求，自動(dòng)生成相對(duì)完整的解決方案，并進(jìn)一步生成標(biāo)書(shū)。

解決方案更多是面向內(nèi)部的，當(dāng)我們希望推進(jìn)一個(gè)項(xiàng)目時(shí)，需要先在公司內(nèi)部完成立項(xiàng)論證，證明這件事情能不能做、以及具體怎么做。在這個(gè)過(guò)程中，通常需要明確會(huì)選擇哪些產(chǎn)品進(jìn)行組合、各個(gè)產(chǎn)品的能力覆蓋范圍如何、是否涉及定制開(kāi)發(fā)，以及整體的成本情況，這些內(nèi)容主要是用于支撐內(nèi)部決策。

而標(biāo)書(shū)則是面向客戶的交付材料。在標(biāo)書(shū)中，很多內(nèi)部細(xì)節(jié)是不會(huì)體現(xiàn)的，例如某些能力如果無(wú)法通過(guò)標(biāo)準(zhǔn)產(chǎn)品滿足、需要進(jìn)行定制開(kāi)發(fā)，這類信息一般不會(huì)直接寫(xiě)入標(biāo)書(shū)。

因此，我們的解決方案 Agent 主要聚焦兩個(gè)方向：一方面是生成解決方案，用于支持內(nèi)部的立項(xiàng)與評(píng)估；另一方面是在此基礎(chǔ)上生成標(biāo)書(shū)，

構(gòu)建供需適配的自動(dòng)化中樞

在構(gòu)建“解決方案智能體”的過(guò)程中，首要任務(wù)是明確其底層的數(shù)據(jù)支撐體系，即整合現(xiàn)有的產(chǎn)品清單、核心技術(shù)能力、歷史成功案例及交付成果，并深度對(duì)接由招標(biāo)文件或前期售前調(diào)研所獲取的客戶原始需求。

從產(chǎn)品經(jīng)理的視角出發(fā)，該 Solution Agent 的核心定位是幫助售前項(xiàng)目經(jīng)理、交付負(fù)責(zé)人及咨詢顧問(wèn)等業(yè)務(wù)人員，通過(guò)自動(dòng)化手段協(xié)助其精準(zhǔn)評(píng)估需求，并產(chǎn)出高可靠性的解決方案與投標(biāo)材料。需要明確的是，Agent 設(shè)計(jì)邊界聚焦于支撐項(xiàng)目立項(xiàng)、評(píng)審及投標(biāo)等商務(wù)決策環(huán)節(jié)，而非生成可直接執(zhí)行或編寫(xiě)代碼的落地方案。

在核心功能模塊的設(shè)計(jì)層面，系統(tǒng)將聚焦于對(duì)客戶需求的精準(zhǔn)洞察以及對(duì)自有產(chǎn)品矩陣的深度解析，對(duì)比分析實(shí)現(xiàn)供需雙向的適配性校驗(yàn)，然后自動(dòng)輸出詳盡的可行性評(píng)估報(bào)告，并最終生成解決方案與投標(biāo)文件。

在整體方案設(shè)計(jì)上，首先通過(guò)提取產(chǎn)品說(shuō)明書(shū)核心信息構(gòu)建產(chǎn)品知識(shí)庫(kù)，并將用戶需求轉(zhuǎn)化為結(jié)構(gòu)化的需求清單，其次進(jìn)行供需匹配分析，隨后基于匹配結(jié)果生成解決方案與投標(biāo)材料。最后，引入 AI 審核機(jī)制，根據(jù)評(píng)審意見(jiàn)對(duì)輸出內(nèi)容進(jìn)行重新修改。

產(chǎn)品和需求文檔分析

在關(guān)鍵技術(shù)實(shí)現(xiàn)上，系統(tǒng)首先需對(duì) Word、PDF 及 Excel 等多格式的產(chǎn)品與需求文檔進(jìn)行深度解析。針對(duì)資料特性的不同，采取差異化的權(quán)重處理策略：將 One-page 視為核心宏觀定義，功能清單作為概括性信息，而詳盡的圖文手冊(cè)則作為細(xì)粒度支撐。通過(guò)信息提取與維度對(duì)齊，系統(tǒng)對(duì)產(chǎn)品功能進(jìn)行分級(jí)建模，將復(fù)雜的多級(jí)功能點(diǎn)轉(zhuǎn)化為結(jié)構(gòu)化的數(shù)據(jù)描述，最終構(gòu)建形成標(biāo)準(zhǔn)化的產(chǎn)品功能庫(kù)并入庫(kù)。

在技術(shù)實(shí)現(xiàn)層面，針對(duì)結(jié)構(gòu)化較好的 Excel 資料，通過(guò)文本切片結(jié)合大模型提取，即可獲得理想效果，而 Word 或 PDF 等文檔因功能層級(jí)模糊、內(nèi)容分散，需預(yù)先進(jìn)行標(biāo)題樹(shù)與節(jié)點(diǎn)分析以重構(gòu)層級(jí)邏輯，從而確保功能抽取的準(zhǔn)確性。在提取核心功能的同時(shí)，系統(tǒng)會(huì)同步抽取部署需求、國(guó)產(chǎn)化支持等元數(shù)據(jù)，實(shí)現(xiàn)功能的聚合。

隨后，我們對(duì)產(chǎn)品清單實(shí)施“先分類、后聚類”的策略，將產(chǎn)品劃分為 IaaS（算力與云管）、PaaS（模型管理與部署）及應(yīng)用層（終端應(yīng)用）三個(gè)維度，并針對(duì)品類繁雜的應(yīng)用層進(jìn)行層內(nèi)聚類，最終構(gòu)建起一套“分層 + 聚類”的標(biāo)準(zhǔn)化產(chǎn)品清單，為后續(xù)的需求精準(zhǔn)對(duì)標(biāo)提供核心支撐。

本方案的核心關(guān)鍵點(diǎn)包括：首先，必須強(qiáng)化產(chǎn)品手冊(cè)的目錄解析，以確保功能抽取的邏輯性并提升后續(xù)匹配的精準(zhǔn)度；其次，應(yīng)對(duì)產(chǎn)品實(shí)施“先分層、后聚類”的體系化分類；同時(shí)，需精準(zhǔn)提取業(yè)務(wù)約束與元信息；最后，通過(guò)構(gòu)建知識(shí)持久化管理機(jī)制，實(shí)現(xiàn)知識(shí)庫(kù)的高效復(fù)用。

在實(shí)驗(yàn)場(chǎng)景下，處理一份約 50 頁(yè)的產(chǎn)品文檔需消耗約 30 萬(wàn) Token，處理耗時(shí)約 15 分鐘，資源與時(shí)間成本較高。

需求文檔的處理流程與產(chǎn)品文檔基本一致，但無(wú)需聚類，側(cè)重于直接解析。此外，基于內(nèi)部實(shí)踐經(jīng)驗(yàn)，系統(tǒng)需針對(duì)項(xiàng)目周期、預(yù)算等關(guān)鍵要素對(duì)需求清單進(jìn)行深度追問(wèn)與澄清，以規(guī)避因信息缺失導(dǎo)致的后續(xù)迭代風(fēng)險(xiǎn)。通過(guò)在前期引入這種澄清機(jī)制，解決方案智能體能夠更精準(zhǔn)地洞察需求，從而輸出更高質(zhì)量的解決方案。

輸出展示層面如上圖所示，左側(cè)呈現(xiàn)需求解析結(jié)果，包含元數(shù)據(jù)及逐項(xiàng)提取的功能層級(jí)，以規(guī)避匹配過(guò)程中的層級(jí)錯(cuò)位；右側(cè)展示基于 IaaS 層、MaaS 層及應(yīng)用層的產(chǎn)品聚類方案，旨在為每類功能精準(zhǔn)推薦最優(yōu)產(chǎn)品。

為實(shí)現(xiàn)工程化落地與產(chǎn)品化復(fù)用，系統(tǒng)引入了完善的知識(shí)管理機(jī)制：產(chǎn)品數(shù)據(jù)被納入知識(shí)庫(kù)進(jìn)行持久化管理，而用戶需求則通過(guò)臨時(shí)緩存處理，在保障數(shù)據(jù)隱私的同時(shí)，通過(guò)復(fù)用既有計(jì)算結(jié)果提升對(duì)重復(fù)需求的響應(yīng)效率，最終形成“產(chǎn)品入庫(kù)、需求緩存”的高效數(shù)據(jù)管理模式。

在技術(shù)實(shí)現(xiàn)的代碼層面，我們選用了 lazyllm 框架以支持知識(shí)庫(kù)的產(chǎn)品文檔復(fù)用，該框架具備邏輯簡(jiǎn)潔且直觀的優(yōu)勢(shì)；通過(guò)其內(nèi)置的 JSON extractor 結(jié)合提示詞引導(dǎo)，系統(tǒng)能夠精準(zhǔn)提取所需的 JSON 字段，并配合自定義節(jié)點(diǎn)組完成數(shù)據(jù)入庫(kù)操作。

產(chǎn)品與需求的數(shù)據(jù)匹配和分析

基于已構(gòu)建的產(chǎn)品知識(shí)庫(kù)，系統(tǒng)進(jìn)入數(shù)據(jù)分析與匹配階段。首先根據(jù)產(chǎn)品分類與聚類邏輯，將需求清單拆解至對(duì)應(yīng)的技術(shù)層級(jí)，并在各層級(jí)內(nèi)部通過(guò)功能清單匹配進(jìn)行量化評(píng)分，從而篩選出各層權(quán)重最高的最優(yōu)候選產(chǎn)品。

這樣做的好處尤為明顯，那就是即便面對(duì)跨層級(jí)的復(fù)雜需求，系統(tǒng)也能通過(guò)極簡(jiǎn)的產(chǎn)品組合實(shí)現(xiàn)全功能覆蓋，有效避免了因選擇過(guò)多零散產(chǎn)品而導(dǎo)致的方案冗余與架構(gòu)碎裂化。

在匹配邏輯的關(guān)鍵點(diǎn)上，系統(tǒng)首先依據(jù)產(chǎn)品分類對(duì)需求進(jìn)行維度切分，并逐層開(kāi)展精準(zhǔn)匹配以選定最優(yōu)產(chǎn)品；同時(shí)，通過(guò)提取需求與產(chǎn)品元數(shù)據(jù)，系統(tǒng)能夠?qū)崿F(xiàn)前置過(guò)濾機(jī)制，例如當(dāng)產(chǎn)品無(wú)法滿足國(guó)產(chǎn)化等硬性約束需求時(shí)，該產(chǎn)品將在匹配階段被直接排除，從而確保候選方案的合規(guī)性。

此外，系統(tǒng)還結(jié)合能力清單進(jìn)行定制化開(kāi)發(fā)評(píng)估，量化產(chǎn)出研發(fā)周期與人力成本估算。根據(jù)實(shí)驗(yàn)統(tǒng)計(jì)，單次完整匹配流程約消耗 50 萬(wàn) Token，耗時(shí)約 30 分鐘，其輸出成果直觀展示了產(chǎn)品的綜合評(píng)分摘要及詳細(xì)的功能匹配度分析清單。

在工程化層面，鑒于產(chǎn)品文檔具備動(dòng)態(tài)增刪與實(shí)時(shí)更新的特性，系統(tǒng)未對(duì)多源文檔進(jìn)行整體聚合，而是采用了基于優(yōu)先級(jí)的順序匹配策略。在匹配過(guò)程中，系統(tǒng)會(huì)依據(jù)文檔權(quán)重進(jìn)行逐級(jí)檢索：優(yōu)先在高優(yōu)先級(jí)文檔中確認(rèn)功能滿足度，若未命中，則按序順延至低優(yōu)先級(jí)文檔，直至完成功能對(duì)標(biāo)。

數(shù)據(jù)驅(qū)動(dòng)的智能生成

在智能生成維度，行業(yè)實(shí)踐證明單次生成長(zhǎng)文本易導(dǎo)致數(shù)值偏差，進(jìn)而質(zhì)量失控。為此，我們進(jìn)行了子問(wèn)題的拆解，通過(guò)合并長(zhǎng)文本的多級(jí)標(biāo)題來(lái)構(gòu)建獨(dú)立的子生成任務(wù)，并由獨(dú)立智能體驅(qū)動(dòng)執(zhí)行。

根據(jù)任務(wù)需求，智能體可靈活調(diào)用直接填充、RAG 檢索增強(qiáng)、聯(lián)網(wǎng)搜索，或利用具備自我規(guī)劃與代碼生成能力的復(fù)合型 Agent 進(jìn)行深度處理，確保了產(chǎn)出結(jié)果的專業(yè)性與可靠性。

在智能生成的關(guān)鍵點(diǎn)中，系統(tǒng)首先利用 Planner 生成子問(wèn)題，并通過(guò)工具集協(xié)同解決；針對(duì)長(zhǎng)篇幅的技術(shù)方案，采取標(biāo)題合并策略將大標(biāo)題與子標(biāo)題整合為單一子任務(wù)，遞歸調(diào)用生成器產(chǎn)出文段，并在精煉處理后完成文本回填。

在效率表現(xiàn)上，生成 10 萬(wàn)字標(biāo)書(shū)與 4 萬(wàn)字解決方案分別約耗時(shí) 2.5 小時(shí)與 2 小時(shí)，耗時(shí)主要集中在子問(wèn)題的生成與解決環(huán)節(jié)。盡管系統(tǒng)已引入并行處理策略，但整體生成周期仍較長(zhǎng)。

在該場(chǎng)景下，我們復(fù)用前述通用生成能力，通過(guò)嚴(yán)格的邏輯組織確保方案與標(biāo)書(shū)契合標(biāo)準(zhǔn)化模板要求，并堅(jiān)持有據(jù)可依以保障數(shù)據(jù)真實(shí)性。同時(shí)，引入風(fēng)格轉(zhuǎn)換機(jī)制使生成內(nèi)容符合行業(yè)標(biāo)準(zhǔn)書(shū)面語(yǔ)范式。在工程實(shí)現(xiàn)上，為避免針對(duì)特定場(chǎng)景產(chǎn)生不可復(fù)用的冗余代碼，我們采取“通用能力構(gòu)建結(jié)合場(chǎng)景化適配”策略。

如上圖在成果展示中，左邊是模板，右邊是生成內(nèi)容，系統(tǒng)通過(guò)對(duì)標(biāo)模板進(jìn)行自動(dòng)化內(nèi)容填充。另外針對(duì)大模型原生輸出往往存在的信息冗余或非必要的社交辭令，系統(tǒng)會(huì)通過(guò)該機(jī)制結(jié)合上下文對(duì)內(nèi)容進(jìn)行去冗與重構(gòu)，確保最終生成的語(yǔ)言組織嚴(yán)謹(jǐn)，且符合標(biāo)書(shū)及解決方案的專業(yè)標(biāo)準(zhǔn)。

數(shù)據(jù)約束的文案校驗(yàn)

在審核機(jī)制的設(shè)計(jì)上，系統(tǒng)將其劃分為基礎(chǔ)審核與場(chǎng)景審核兩大部分：前者涵蓋語(yǔ)法語(yǔ)義、錯(cuò)別字、標(biāo)點(diǎn)符號(hào)及上下文一致性，并包含通用能力支撐下的場(chǎng)景化合規(guī)審計(jì)；

為提升審核效能，系統(tǒng)利用節(jié)點(diǎn)樹(shù)將文本拆分為全文、段落、句子等多粒度節(jié)點(diǎn)，并依據(jù)審計(jì)類型靈活匹配。針對(duì)特定業(yè)務(wù)場(chǎng)景，系統(tǒng)重點(diǎn)加強(qiáng)了對(duì)“廢標(biāo)項(xiàng)”的合規(guī)響應(yīng)審查及功能點(diǎn)真實(shí)性的閉環(huán)校驗(yàn)，嚴(yán)禁虛假應(yīng)標(biāo)。

在審核環(huán)節(jié)，系統(tǒng)遵循“非必要不使用大模型”的原則，針對(duì)字詞、語(yǔ)法及標(biāo)點(diǎn)符號(hào)等基礎(chǔ)檢查，優(yōu)先利用傳統(tǒng)工具以規(guī)避大模型在準(zhǔn)確度及響應(yīng)速度上的局限性，而將大模型的核心能力應(yīng)用于上下文一致性、合規(guī)性及廢標(biāo)項(xiàng)識(shí)別等復(fù)雜維度。針對(duì) Pycorrector 庫(kù)在語(yǔ)法審核中誤報(bào)率較高的挑戰(zhàn)，系統(tǒng)引入了大模型復(fù)審機(jī)制，通過(guò)對(duì)初步檢索結(jié)果進(jìn)行二次校驗(yàn)與去偽，有效剔除了虛假錯(cuò)誤項(xiàng)，最終確保產(chǎn)出高質(zhì)量且精準(zhǔn)的問(wèn)題清單。

審核流程的關(guān)鍵點(diǎn)是系統(tǒng)首先通過(guò)構(gòu)建多粒度的節(jié)點(diǎn)樹(shù)以支持差異化審計(jì)需求，并配合多維度并行審核策略提升處理效能；同時(shí)，在強(qiáng)化場(chǎng)景審核以確保內(nèi)容準(zhǔn)確性的基礎(chǔ)上，引入大模型復(fù)審機(jī)制以保障審核結(jié)果的可靠度。經(jīng)實(shí)驗(yàn)測(cè)算，針對(duì) 10 萬(wàn)字規(guī)模的投標(biāo)文件，全流程審核任務(wù)約需消耗 200 萬(wàn) Token，總耗時(shí)約 1.1 小時(shí)。

如上圖為輸出展示，審核展示的數(shù)據(jù)結(jié)構(gòu)涵蓋了問(wèn)題類型、描述、重要程度、原文定位及修改建議等。

以具體案例說(shuō)明，當(dāng)標(biāo)書(shū)中出現(xiàn)“AI 龍頭企業(yè)”等違反《廣告法》的表述時(shí)，合規(guī)審查模塊將精準(zhǔn)攔截該違規(guī)項(xiàng)，并提示將其修改為“支柱企業(yè)”或“政府重點(diǎn)扶持企業(yè)”等符合法律規(guī)范的描述，從而確保投標(biāo)材料的合規(guī)嚴(yán)謹(jǐn)。

基于審核反饋的迭代優(yōu)化

在校對(duì)改寫(xiě)環(huán)節(jié)，系統(tǒng)首先對(duì)審核意見(jiàn)進(jìn)行分類處理：針對(duì)附帶明確修改建議的意見(jiàn)，直接調(diào)用大模型潤(rùn)色回填；對(duì)于復(fù)雜改寫(xiě)需求，則復(fù)用生成邏輯，通過(guò)子問(wèn)題拆解與迭代生成完成內(nèi)容重構(gòu)。

改寫(xiě)完成后進(jìn)入全文復(fù)核階段，利用大模型對(duì)文檔的層級(jí)結(jié)構(gòu)、數(shù)據(jù)連貫性、引用一致性及過(guò)渡銜接進(jìn)行統(tǒng)一優(yōu)化。在最終復(fù)核階段，系統(tǒng)完全依托大模型能力對(duì)全文進(jìn)行整體潤(rùn)色，無(wú)需進(jìn)行子任務(wù)分解。

其關(guān)鍵點(diǎn)在于：首先分類匯總審核意見(jiàn)，并針對(duì)不同類別匹配差異化的潤(rùn)色與回填工作流；其次，深度復(fù)用生成工具鏈以閉環(huán)解決子問(wèn)題；最后，通過(guò)全局復(fù)核確保文檔的邏輯一致性與敘述連貫性。性能方面，針對(duì)上述含有約 190 條審計(jì)意見(jiàn)的 10 萬(wàn)字標(biāo)書(shū)，該環(huán)節(jié)的 Token 消耗約為 150 萬(wàn)，整體處理周期約為 0.8 小時(shí)。

如上圖在系統(tǒng)輸出界面中，左側(cè)展示審核意見(jiàn)，右側(cè)呈現(xiàn)對(duì)應(yīng)的改寫(xiě)內(nèi)容，且所有修改項(xiàng)均通過(guò)標(biāo)簽化形式進(jìn)行標(biāo)注，旨在工程化應(yīng)用中支持用戶在前端界面自主選擇保留或放棄修改，從而有效規(guī)避了輸出純文本時(shí)人工比對(duì)原文與修改內(nèi)容的繁瑣，并能及時(shí)糾正模型可能出現(xiàn)的錯(cuò)誤。

綜上所述，全流程執(zhí)行耗時(shí)約7 小時(shí)，Token 成本約為30 元，實(shí)現(xiàn)了顯著的降本增效。

相比以往每項(xiàng)需求均需高度依賴專家進(jìn)行分析評(píng)估及售前人員手工編制長(zhǎng)篇材料的傳統(tǒng)模式，本方案在生產(chǎn)效率上實(shí)現(xiàn)了質(zhì)的飛躍，7 小時(shí)的處理周期支持無(wú)人值守自動(dòng)化運(yùn)行，僅需人工介入最終審核。

此外，針對(duì)專家資源有限及非專業(yè)人員產(chǎn)品認(rèn)知差異導(dǎo)致的質(zhì)量波動(dòng)，該方案通過(guò)統(tǒng)一的自動(dòng)化流程與多輪嚴(yán)謹(jǐn)?shù)膶徍诵?duì)機(jī)制，確保了產(chǎn)出成果的高質(zhì)量一致性與準(zhǔn)確性。

復(fù)雜場(chǎng)景下的技術(shù)挑戰(zhàn)與破局

第一，針對(duì)當(dāng)前非結(jié)構(gòu)化文檔（如 PDF、Word 等）結(jié)構(gòu)化提取準(zhǔn)確率較低這一行業(yè)共性挑戰(zhàn)，推薦采用商湯研發(fā)的UNIPASS工具；該工具深度融合了內(nèi)部實(shí)踐經(jīng)驗(yàn)，專門面向 RAG 場(chǎng)景及標(biāo)書(shū)、產(chǎn)品文檔的信息提取需求，通過(guò)智能布局檢測(cè)技術(shù)實(shí)現(xiàn)高質(zhì)量的內(nèi)容解析與提取。

第二，在實(shí)操過(guò)程中，針對(duì)多功能覆蓋需求導(dǎo)致的產(chǎn)品匹配冗余問(wèn)題，系統(tǒng)采用“分層 + 聚類”方式，在每一類產(chǎn)品中僅篩選最優(yōu)項(xiàng)，有效避免了因產(chǎn)品選擇過(guò)多而導(dǎo)致的功能覆蓋碎片化。

第三，針對(duì)長(zhǎng)文本生成效果受限的問(wèn)題，系統(tǒng)通過(guò)模板切分與子任務(wù)智能拆解技術(shù)，將復(fù)雜模塊轉(zhuǎn)化為可控的生成單元。此外，方案引入了寫(xiě)作智能體，通過(guò)“目錄驅(qū)動(dòng)”與“上下文增強(qiáng)”相結(jié)合的機(jī)制，在動(dòng)態(tài)調(diào)整目錄的同時(shí)實(shí)時(shí)同步上下文信息。

第四，在審核環(huán)節(jié)，針對(duì)上文歷史案例與下文技術(shù)方案不匹配導(dǎo)致審核準(zhǔn)確率下降的問(wèn)題，系統(tǒng)通過(guò)解析全局目錄樹(shù)結(jié)構(gòu)來(lái)識(shí)別段落相關(guān)性，從而過(guò)濾無(wú)關(guān)信息的干擾。同時(shí)，引入元信息定位機(jī)制，精準(zhǔn)標(biāo)注各片段在全文中的層級(jí)與位置。

在模型審核過(guò)程中，系統(tǒng)會(huì)綜合參考資料、目標(biāo)文本、目錄結(jié)構(gòu)及定位數(shù)據(jù)，輸出更具針對(duì)性的審核意見(jiàn)。此外，通過(guò)強(qiáng)化段落一致性復(fù)審，進(jìn)一步確保了審核過(guò)程免受非相關(guān)章節(jié)的誤導(dǎo)。

問(wèn)題 5：在智能體（Agent）開(kāi)發(fā)領(lǐng)域，商湯自研的LazyLLM應(yīng)用開(kāi)發(fā)框架致力于實(shí)現(xiàn)低成本與高性能的平衡，有效解決了私有化過(guò)程中常見(jiàn)的復(fù)雜選型與環(huán)境適配痛點(diǎn)。它深度對(duì)齊了線上云端模型與線下本地模型的使用方式，并兼容多種主流推理框架，使開(kāi)發(fā)者僅需調(diào)整極少量配置即可完成模型遷移。

其次，系統(tǒng)支持高性能文檔存儲(chǔ)與向量存儲(chǔ)的集成，允許開(kāi)發(fā)者根據(jù)不同項(xiàng)目的需求靈活切換技術(shù)選型；例如，在面對(duì)多樣化的客戶要求時(shí)，可實(shí)現(xiàn)從 Milvus 到 ChromaDB、OceanBase，或從 Elasticsearch 到 Open Search 的便捷遷移。通過(guò)解耦特定產(chǎn)品綁定，該方案確保在實(shí)際開(kāi)發(fā)與工程落地過(guò)程中，無(wú)需修改核心業(yè)務(wù)代碼，僅通過(guò)調(diào)整配置項(xiàng)即可實(shí)現(xiàn)技術(shù)棧的平滑切換。

此外，系統(tǒng)具備復(fù)雜應(yīng)用的一鍵部署能力。針對(duì)包含數(shù)據(jù)庫(kù)、文檔管理及大模型、嵌入模型、重排序模型等組件的 RAG 系統(tǒng)，開(kāi)發(fā)者只需定義數(shù)據(jù)流 Pipeline，內(nèi)置的服務(wù)發(fā)現(xiàn)模塊即可自動(dòng)識(shí)別并啟動(dòng)所有關(guān)聯(lián)服務(wù)，并通過(guò)輕量級(jí)網(wǎng)關(guān)實(shí)現(xiàn)鏈路串聯(lián)；同時(shí)，系統(tǒng)支持接入 K8S 配置以利用其原生網(wǎng)關(guān)，從而實(shí)現(xiàn)工業(yè)級(jí)落地。

最后在數(shù)據(jù)處理層面，系統(tǒng)支持高度靈活的切分與解析策略定制，例如集成內(nèi)置的 JSON Rxtractor 以替代傳統(tǒng) RAG 中單一的關(guān)鍵詞或 QA 抽取模式，僅需十余行代碼即可在保持簡(jiǎn)潔性的同時(shí)，實(shí)現(xiàn)核心組件的高度定制；同時(shí)，系統(tǒng)深度優(yōu)化了錯(cuò)誤定位機(jī)制，能夠精確反饋函數(shù)參數(shù)及代碼行級(jí)的異常信息。該框架以工業(yè)落地為核心，不僅適用于 POC 快速驗(yàn)證，更已全面應(yīng)用于公有云服務(wù)的算法開(kāi)發(fā)，并在高并發(fā)架構(gòu)與橫向擴(kuò)展性能上經(jīng)過(guò)了大規(guī)模生產(chǎn)環(huán)境的深度驗(yàn)證。

從工具到生態(tài)的閉環(huán)藍(lán)圖

展望未來(lái)，我們將持續(xù)優(yōu)化系統(tǒng)性能與生成效果，并深度結(jié)合客戶反饋迭代場(chǎng)景化模型，構(gòu)建從業(yè)務(wù)復(fù)盤(pán)到算法進(jìn)化的持續(xù)反饋閉環(huán)。在發(fā)展戰(zhàn)略上，我們將并行推進(jìn)開(kāi)源化與產(chǎn)品化：目前LazyLLM框架已正式開(kāi)源，我們將對(duì)解決方案 Agent 進(jìn)行工程化與標(biāo)準(zhǔn)化重構(gòu)，并逐步開(kāi)源其核心技術(shù)。同時(shí)，為提供端到端的應(yīng)用體驗(yàn)，該 Agent 將深度集成至商湯大裝置“萬(wàn)象”產(chǎn)品體系中。

嘉賓介紹：

王志宏，商湯科技大裝置研發(fā)總監(jiān)，曾擔(dān)任商湯自研的 AI 訓(xùn)練框架 SenseParrots 的研發(fā)負(fù)責(zé)人，目前負(fù)責(zé)商湯的私有化 AI 項(xiàng)目交付，并主導(dǎo)開(kāi)源項(xiàng)目 LazyLLM 的技術(shù)研發(fā)與生態(tài)建設(shè)。深耕 AI 領(lǐng)域多年，具備豐富的 RAG 和 Agent 的實(shí)踐經(jīng)驗(yàn)，推動(dòng)數(shù)十家企業(yè)實(shí)現(xiàn) AI 應(yīng)用落地。

會(huì)議推薦

世界模型的下一個(gè)突破在哪？Agent 從 Demo 到工程化還差什么？安全與可信這道坎怎么過(guò)？研發(fā)體系不重構(gòu)，還能撐多久？

AICon 上海站 2026，4 大核心專題等你來(lái)：世界模型與多模態(tài)智能突破、Agent 架構(gòu)與工程化實(shí)踐、Agent 安全與可信治理、企業(yè)級(jí)研發(fā)體系重構(gòu)。14 個(gè)專題全面開(kāi)放征稿。

誠(chéng)摯邀請(qǐng)你登臺(tái)分享實(shí)戰(zhàn)經(jīng)驗(yàn)。AICon 2026，期待與你同行。