北京
出品｜《態(tài)度》欄目
作者｜漢雨棣
編輯｜丁廣勝
6月5日，騰訊AI產(chǎn)業(yè)應(yīng)用大會在北京舉辦。騰訊首席AI科學(xué)家姚順雨與騰訊集團(tuán)高級執(zhí)行副總裁、CSIG CEO湯道生圍繞“AI下半場”展開了一場對談。
姚順雨指出，隨著預(yù)訓(xùn)練等方法論日趨成熟，行業(yè)真正的瓶頸已從“尋找方法”轉(zhuǎn)向“尋找好問題”。他指出，騰訊豐富的產(chǎn)品場景與真實(shí)的業(yè)務(wù)上下文正是破解這一難題的核心壁壘，并主張構(gòu)建預(yù)訓(xùn)練、產(chǎn)品落地、前沿探索三者均衡的“三角形組織”，堅(jiān)持長期主義與坦誠文化。這也是他選擇加入騰訊的原因。
針對模型與產(chǎn)品的協(xié)同，雙方一致認(rèn)為，互信與換位思考比技術(shù)本身更難但也更重要，模型應(yīng)基于真實(shí)產(chǎn)品反饋而非刷榜來迭代，以發(fā)現(xiàn)底線問題并適應(yīng)模糊、多輪的真實(shí)用戶交互。
湯道生從產(chǎn)品視角指出，AI時(shí)代的產(chǎn)品設(shè)計(jì)已從“預(yù)制菜式”的功能菜單轉(zhuǎn)向開放式、自然語言驅(qū)動的服務(wù)形態(tài)，研發(fā)流程需全面重構(gòu)，工程師的角色正從編碼者變?yōu)榧軜?gòu)設(shè)計(jì)師與多智能體的“領(lǐng)導(dǎo)者”。
談及智能體，姚順雨回顧其七年前博士論文中關(guān)于“語言智能體”的預(yù)見，坦言ReAct架構(gòu)的初衷如今已演化為千億級市場，而騰訊將重點(diǎn)提升Token效率與模型性能，強(qiáng)調(diào)“性能是性價(jià)比的前提”。
面對外界“騰訊AI慢了”的質(zhì)疑，兩人回應(yīng)稱，AI是一場馬拉松，騰訊憑借微信、企業(yè)微信、元寶等高頻觸點(diǎn)及多年積累的多場景數(shù)據(jù)，已在長跑中蓄力，并正通過發(fā)布商用智能體工具集、啟動AI共創(chuàng)云二期，攜手伙伴推動大模型在真實(shí)業(yè)務(wù)流中創(chuàng)造價(jià)值。
以下為對談實(shí)錄，為方便閱讀進(jìn)行了不改變原意的編輯：
湯道生：你加入騰訊之前，我記得當(dāng)時(shí)我還問過你一些問題：為什么會選擇來到騰訊，而且你認(rèn)為 AI 的下半場最重要的是什么？
姚順雨：我覺得我想先解釋一下什么叫做下半場，因?yàn)槲易罱杏X這個(gè)詞有點(diǎn)被濫用。這個(gè)概念是我去年的一個(gè)博客里面提出來的。什么意思呢？在去年之前，AI 已經(jīng)發(fā)展了幾十年，但更加重要的是怎么去解決問題，去尋找好的方法。但是最近很明顯，方法論變得非常成熟，尋找問題變得非常困難。
舉個(gè)例子，過去我們做下圍棋，會發(fā)明像 AlphaGo 這樣的方法，這個(gè)方法可能只適合下圍棋或者棋類，你會為了翻譯做一個(gè)特別的模型，但它不能做翻譯，不能做其他事情。但是有了預(yù)訓(xùn)練和后續(xù)工作之后，我們發(fā)現(xiàn)現(xiàn)在有一個(gè)萬能的錘子，它可以去砸任何東西。
它是一個(gè)通用的方法論，去解決各種各樣的問題。反而更困難的是怎么去尋找好的問題去解決。所以我覺得加入騰訊很重要的一點(diǎn)是，這里有很多好問題，有很多很多產(chǎn)品，這一點(diǎn)會在接下來變得越來越重要。一方面，好的產(chǎn)品能夠解決第一個(gè)問題：我們做了預(yù)訓(xùn)練和后訓(xùn)練之后，到底要把它應(yīng)用在什么樣的地方產(chǎn)生價(jià)值？
第二個(gè)，環(huán)境是非常重要的。如果沒有好的環(huán)境，Agent 就沒有辦法去做各種各樣的事情。比如如果你沒有一個(gè)點(diǎn)外賣的店鋪，那你就沒有辦法去點(diǎn)外賣，很多事情你做不到。但我覺得最重要的是 Context。無論是企業(yè)還是個(gè)人，就像我上一次在 HMS 的時(shí)候一樣，我覺得越來越重要的事情是 Context。
因?yàn)槟Ｐ驮絹碓缴瞄L把一個(gè)非常復(fù)雜的輸入變成一個(gè)輸出。很多時(shí)候你的競爭壁壘就在于你有沒有那個(gè)最原始的輸入，你知不知道這個(gè)人到底在干什么，你知不知道這個(gè)企業(yè)的各種各樣的信息。這一點(diǎn)，騰訊有非常強(qiáng)的優(yōu)勢。但其實(shí)這只是第二大的原因，我覺得最重要的原因是什么？
我還記得我第一次跟你聊天的時(shí)候，包括和很多其他同伴的老板們聊天的時(shí)候，我的印象就是大家都非常誠實(shí)。哪里做得好，哪里做得不好，都非常直白，不會去掩蓋。他們會說，我知道我這里不好，我知道這里應(yīng)該怎么做，但不知道具體要怎么做。我覺得這種坦誠是第一條。第二，我覺得騰訊總體是一個(gè)基于 Trust 而不是基于 Metric 去運(yùn)轉(zhuǎn)的公司。
我覺得這一點(diǎn)對于做 AI 是非常重要的。包括我們的文化有很多非常消解自我（Ego）的一面。這些文化可能是長期做一個(gè) AI 的組織非常重要的，包括我們對長期主義的堅(jiān)持。所以今天聊最重要的是什么？我個(gè)人的目標(biāo)就是，我覺得我們應(yīng)該在中國建立一個(gè)長期的基于 AGI 的機(jī)制。今天的 AI 主要有三個(gè)部分：首先是預(yù)訓(xùn)練的部分，我們怎么樣把預(yù)訓(xùn)練和后訓(xùn)練這種基礎(chǔ)的東西做得非常 Solid；第二部分是產(chǎn)品，我們怎么把這樣的基礎(chǔ)真正融合社會產(chǎn)生價(jià)值；第三是 Frontier，我們怎么去探索新的研究范式，探索新的機(jī)會。
最重要的就是我們要構(gòu)建一個(gè)非常均衡的三角形組織。對于做 Foundation 來說，最重要的第一是需要充足的資源，第二是需要正確的做事方式，這跟我剛剛說的文化也是吻合的。對于產(chǎn)品來說，有好的產(chǎn)品 Sense，有做產(chǎn)品的經(jīng)歷是至關(guān)重要的。第三，在中國我們今天可能做的探索還不夠多，所以我也希望能把 Frontier Exploration 的精神更多地注入到我們組織中。
湯道生：你提到的真誠、務(wù)實(shí)，其實(shí)也是經(jīng)常我跟客戶交流得到的反饋。我覺得我們的做事方式、做產(chǎn)品的理念也是實(shí)事求是的。畢竟 AI 賽道還是長跑，有時(shí)候認(rèn)知也很重要。做得好的、做得不好的，都得認(rèn)。
但關(guān)鍵這是一個(gè)多維度的競賽。我們看到現(xiàn)在模型有很多的進(jìn)步，產(chǎn)品也有越來越多的形態(tài)，不同場景的不同需求，未來還是非常可期的。您剛提到模型跟產(chǎn)品，產(chǎn)品可以說提供環(huán)境，里面要給模型提供 Context 上下文。
我想問你一個(gè)問題，尤其我們平時(shí)開會提得比較多的一個(gè)詞是“透明化”，怎么把產(chǎn)品跟模型能夠比較緊密地結(jié)合起來？尤其今天有這么多優(yōu)秀的產(chǎn)品，從我們合作非常緊密的像元寶這樣的聊天機(jī)器人，包括 AI 搜索，企業(yè)里面也有部署一些智能客服、智能營銷，另外最近非常火的內(nèi)容像 Hubble、Buddy 這樣的產(chǎn)品，其實(shí)對模型的能力依賴很深。你怎么去思考 Co-design 的方式？
姚順雨：我覺得有三點(diǎn)。首先，Co-design 的前提是模型本身要做得很 Solid，有很多 Foundation Work 要做好。預(yù)訓(xùn)練是一個(gè)相對 Product-aware 的事情，它做得非常 Solid 可以提供非常強(qiáng)的 Foundation，而且預(yù)訓(xùn)練最大的特點(diǎn)是它是一個(gè)可泛化的學(xué)習(xí)過程，它的進(jìn)步可以帶給各種各樣下游任務(wù)持續(xù)的價(jià)值提升。
后訓(xùn)練的話，最重要的一點(diǎn)是要設(shè)計(jì)好正確的 Eval。在中國可能大家有一個(gè)不好的傾向，就是比較喜歡刷榜。但是如何實(shí)事求是的基于產(chǎn)品、基于真正的應(yīng)用去構(gòu)造更加真實(shí)的 Eval，首先你要有好的產(chǎn)品出口，第二要意識到實(shí)用性價(jià)值是大于刷榜的價(jià)值的。
這一點(diǎn)我們做了大量的工作，跟各種各樣的產(chǎn)品進(jìn)行了深入的 Co-design。Co-design 很關(guān)鍵的一點(diǎn)是要產(chǎn)生相互的信任，我們做了大量的工作去取得互信。怎么把產(chǎn)品的數(shù)據(jù)用好，怎么把回流做好，怎么把 Eval 做好，這有很多細(xì)節(jié)。
第三點(diǎn)我想說的是，LLM 時(shí)代和過去的 AI 最本質(zhì)的區(qū)別就是泛化性。在 LLM 之前，比如你做一個(gè)翻譯的產(chǎn)品，只要把翻譯的數(shù)據(jù)準(zhǔn)備得特別好；做一個(gè)圍棋的產(chǎn)品，只要把圍棋的數(shù)據(jù)準(zhǔn)備得特別好。但是今天，即使你想只做一個(gè) Coding Agent，你發(fā)現(xiàn)需要的也不僅僅是 Coding Agent。
你需要非常好的聊天能力、搜索能力、非常強(qiáng)的指令聽從能力、非常強(qiáng)的推理能力，它其實(shí)是一個(gè)非常復(fù)雜的對話問答問題。這需要有一個(gè)基礎(chǔ)。有很多產(chǎn)品體系化的地方會有比較大的優(yōu)勢。
比如我們特別好的科技產(chǎn)品，可以使用模型產(chǎn)生很強(qiáng)的聊天和搜索能力，這樣的能力可能就可以被遷移到海馬或者 Buddy 這樣的其他產(chǎn)品。這些產(chǎn)品能夠提供不同的數(shù)據(jù)，這些數(shù)據(jù)之間又可以相互算法，形成一個(gè)像網(wǎng)絡(luò)一樣的體系，這一點(diǎn)的價(jià)值會更加重要。
湯道生：外部的刷榜其實(shí)也是屬于 Eval 的一種，那我們內(nèi)部做 Eval 跟外部的榜有什么區(qū)別？
姚順雨：我覺得這些 Benchmark 還是有它的價(jià)值的，不是說完全沒有價(jià)值。只是現(xiàn)在這些榜非常容易被刷。基于真實(shí)世界的數(shù)據(jù)有幾個(gè)幫助：首先，你能發(fā)現(xiàn)模型很多底線問題，我們想要做一個(gè)垂類模型，最重要的目的之一就是希望能夠獲得這個(gè)區(qū)的反饋，來修復(fù)榜單中無法發(fā)現(xiàn)的底線問題，這一點(diǎn)和正式版上面有非常大的提升。
第二點(diǎn)，你對真實(shí)的 Prompt Distribution 有一個(gè)更深的了解。舉個(gè)例子，Wikipedia 上面的題目可能都是非常精確的，有非常長的具體描述，一般來說是單輪的問題。但我們知道在現(xiàn)實(shí)場景中，大家問的問題可能比較模糊，就一兩句話，而且會不停的追問。這些分布上的差異就可以啟發(fā)我們怎么去做更好的訓(xùn)練。
第三，我覺得我們甚至可以在這些產(chǎn)品上面獲得一些靈感，去推進(jìn)現(xiàn)在可能還沒有的榜單。比如我們最近做 Carbon 這個(gè)工作，也是跟友商給我們的啟發(fā)挺有幫助的。所以我覺得產(chǎn)品和模型的互相成就，是越來越重要的 AI 話題。
湯道生：我記得我們在早期做元寶的時(shí)候，還碰到不能遵循指令的問題。在使用產(chǎn)品時(shí)，大家這種迭代 Prompt 的方式跟 Benchmark 好像也有些差異。真正在產(chǎn)品里面，大家使用所需要的能力，確實(shí)跟榜還蠻搭的，是吧？
姚順雨：你問我這么多問題，我也問你一個(gè)。
湯道生：好啊，歡迎。
姚順雨：其實(shí)我記得我第一次跟你聊的時(shí)候，你給我講了很多過去的經(jīng)歷，從 QQ 空間、QQ 秀的時(shí)代，到我小學(xué)時(shí)候最喜歡的，到 QQ 音樂，到語音，到你現(xiàn)在的號，到海馬。你做過各種各樣的產(chǎn)品，騰訊也有遠(yuǎn)古時(shí)代的東西。那我比較好奇，你覺得你做產(chǎn)品的第一驅(qū)動力是什么？你覺得哪些經(jīng)驗(yàn)或者價(jià)值是不變的，哪些東西變了？
湯道生：我覺得最終做產(chǎn)品還是看用戶有什么需求，我怎么去解決他的痛點(diǎn)，怎么給用戶或者客戶創(chuàng)造價(jià)值。在不同的時(shí)代，甚至不同的行業(yè)，做一個(gè)產(chǎn)品還是需要能給用戶帶來價(jià)值，他才會使用。從 PC 互聯(lián)網(wǎng)時(shí)代做空間，移動時(shí)代做各種各樣的產(chǎn)品，內(nèi)容的產(chǎn)品，到產(chǎn)業(yè)互聯(lián)網(wǎng)做云，我們都要花好多時(shí)間和精力去聽客戶的聲音，嘗試去幫助他們解決問題，底層的邏輯沒有這么大的變化。
但我覺得在 PC 互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)時(shí)代做產(chǎn)品，跟今天在 AI 時(shí)代做產(chǎn)品，還是有蠻多不一樣的地方。首先從辦事的角度來看，在非 AI 時(shí)代以前，我們做產(chǎn)品想的是通過功能來滿足用戶的需要，你作為產(chǎn)品提供方，想清楚提供怎樣的能力讓用戶能通過界面、通過某些菜單去選，好像是一些預(yù)制菜，只能在里面點(diǎn)。但在 AI 時(shí)代做產(chǎn)品，這種開放式的服務(wù)形態(tài)就會帶來很不一樣的要求和挑戰(zhàn)。
用簡單的交互方式，可能是自然語言，可能是語音。作為產(chǎn)品方，你也不知道用戶會問什么，所以要充分利用模型能力去理解用戶的需求，然后通過大模型的邏輯推理、調(diào)用工具的能力，產(chǎn)品給模型提供各種各樣它可以用的工具，來應(yīng)對開放式的需求。這是我覺得跟我們過去做產(chǎn)品很不一樣的地方。
甚至到 Eval，以前做產(chǎn)品我們有很清晰的 Specification，很清晰的產(chǎn)品細(xì)節(jié)功能描述，怎么做設(shè)計(jì)，基于研發(fā)，怎么測試，那個(gè)瀑布式的流程也比較清晰。但在做 AI 產(chǎn)品，我發(fā)現(xiàn)最大的變化是我們整個(gè)流程可能都要重新設(shè)計(jì)。尤其今年，大部分代碼都由 AI 生成，我們的工程師可能會花更多時(shí)間去做設(shè)計(jì)、架構(gòu)設(shè)計(jì)，把寫代碼的工作交給 AI，然后定期去指導(dǎo)、修正。測試也要從更前置去想清楚，針對我們的各種案例、環(huán)境、開放式答案的要求，甚至 Alignment 怎么對齊用戶所需要的風(fēng)格。我感覺今天 AI 時(shí)代做產(chǎn)品要求的能力更全面，更難。
我要問一下你，大家都在說混元3.0是你在騰訊的首秀，具體做了什么改變，你能給大家介紹一下嗎？
姚順雨：其實(shí)沒有什么秘密。今天做大模型從某種程度來說是比較吹牛的事情。我們應(yīng)該把基礎(chǔ)設(shè)施做好，把數(shù)據(jù)做好，算法的部分反而是比較簡單的。主要幾個(gè)點(diǎn)：第一，我們把基礎(chǔ)設(shè)施進(jìn)行了重建，因?yàn)檫@個(gè)領(lǐng)域還沒有前人學(xué)習(xí)。第二，我們把數(shù)據(jù)和 Eval 做了很多大的改變，如何去定義更真實(shí)的問題，如何去豐富 Data Exploration，如何去提高數(shù)據(jù)的質(zhì)量，這是一個(gè)永無止境的追求。
第三，很重要的很多決策，包括怎么去招人，怎么設(shè)立模型的節(jié)奏，每天有很多 Decision 要考慮。可能沒有一個(gè)清晰的公式，就是一個(gè)很 Case by case 的事情。我其實(shí)挺好奇想問你一個(gè)問題，你剛剛跟我討論 Co-design 這個(gè)概念，你是怎么想的？你覺得哪些事情應(yīng)該是模型做的，哪些應(yīng)該是產(chǎn)品做的？
湯道生：我覺得 Co-design 在不同階段，過去兩年其實(shí)一直在變化。這種變化某種程度上是隨著模型能力的升級發(fā)生變化。當(dāng)然整個(gè)行業(yè)市場、用戶的需求在變化的過程中，也會帶來我們兩邊模型跟產(chǎn)品需要更好去滿足。給我一個(gè)比較新的感受是怎么去對齊。
在我們一起去做產(chǎn)品、做 Alignment 齊會的時(shí)候，有很多不同的角色。產(chǎn)品可能針對某個(gè)方向去解決一些問題，模型到底怎么去做滿足這個(gè)需求，但回到模型需要數(shù)據(jù)，數(shù)據(jù)應(yīng)該怎么標(biāo)注、到什么顆粒度，什么是好的標(biāo)注，什么是不好的標(biāo)注，因?yàn)橛行┑胤揭?jiǎng)勵(lì)，有些地方要懲罰。還有 Eval，如果產(chǎn)品認(rèn)為好的產(chǎn)品體驗(yàn)，評測不認(rèn)同的話，大家做出來的產(chǎn)品就會不一致。所以 Co-design 給我的感覺更多的是在項(xiàng)目組里面不同的角色參與到產(chǎn)品的設(shè)計(jì)，訂立了產(chǎn)品的目標(biāo)方向，讓多個(gè)角色能夠?qū)τ谝恍╅_放式問題有比較好的對齊。如果沒有做到這樣的對齊，你會發(fā)現(xiàn)產(chǎn)品的行為會不可預(yù)測，甚至有時(shí)候會有隨機(jī)性，因?yàn)槟Ｐ驮谟?xùn)練的過程可能也被混淆了。這是我這兩年跟做產(chǎn)品、跟模型團(tuán)隊(duì)做 Design 的一個(gè)比較深的感覺。你覺得呢？
姚順雨：對，我覺得首先難點(diǎn)就是要建立同理心。因?yàn)檎f到底，做模型的目標(biāo)和做產(chǎn)品的目標(biāo)有很多 Align 的部分，也有很多不 Align 的部分。模型的人會希望模型能力越強(qiáng)越好，但產(chǎn)品的人可能希望用戶的需求滿足得越好越好。所以天然有很多不 Align 的部分。很重要的一點(diǎn)是要有換位思考的能力。
你剛問我元寶是怎么一步步控制的，一個(gè)很重要的細(xì)節(jié)是，我們當(dāng)時(shí)派了后訓(xùn)練最強(qiáng)的骨干力量去幫助元寶把 DeepSeek 的后訓(xùn)練先做好，因?yàn)樵谀莻€(gè)時(shí)候我們自己的預(yù)訓(xùn)練還沒有 Ready。但我們知道維護(hù)這樣的產(chǎn)品以及它的 DIU，會對于我們接下來做模型變得非常重要，而且會對產(chǎn)品合作非常重要。所以當(dāng)時(shí)很多做法需要去理解，需要努力地解釋。現(xiàn)在看起來這些努力都是有用的。這樣的動作讓產(chǎn)品和模型團(tuán)隊(duì)的同學(xué)真的在為產(chǎn)品著想，這對于我們之后的合作，只有在這樣的環(huán)境下才能體現(xiàn)，我們要謝謝。
湯道生：當(dāng)然有什么技術(shù)的部分可以看，但我覺得最難的部分反而是怎么樣去建立信任，怎么樣換位思考。
姚順雨：非常認(rèn)同。
湯道生：那我換一個(gè)話題。你是 React 架構(gòu)的提出者，博士研究也是圍繞著語言智能體展開的。你幾年前的一些觀點(diǎn)到今天兌現(xiàn)了嗎？比如有哪些？
姚順雨：那天我還挺感慨的，我重新讀了自己的博士論文，感覺又回到了一個(gè)很遠(yuǎn)古的時(shí)代。我的博士論文的 Title 叫做 "Language Agent: from Next Token Prediction to Digital Automation"，是19年的。
湯道生：19年，七年前。
姚順雨：那個(gè)時(shí)候 GPT-2只能做 Text Prediction，而且它產(chǎn)生的一段話可能不太連續(xù)，還有很多毛刺。當(dāng)時(shí)人們很難想象它會成為一個(gè)改變世界的力量。當(dāng)時(shí)大家做的研究稍微有想象力一些，比如“中國的首都是”，然后如果做 Next Token Prediction，它會回答北京，大家就覺得這個(gè)技術(shù)很有意思。我當(dāng)時(shí)想象力可能比較狂野，我覺得 GPT 是一個(gè)非常優(yōu)美的東西，預(yù)測下一個(gè) Token 是一個(gè)極簡且通用的目標(biāo)。我當(dāng)時(shí)想的可能還不夠大，我想的是 First Floor 的事情，但現(xiàn)在看起來也有可能 First Floor 是最重要的事情。
我主要做兩部分：第一是如何建立一個(gè) Agent 的模型，如何把一個(gè) Next Token Prediction 的機(jī)器變成一個(gè) Agent、變成一個(gè)自動化的機(jī)器。最重要的一個(gè)工作可能是，我還記得22年7月份某一天晚上，我第一次把 GPT 跟 API 和自己手寫的一個(gè) Browser API 連在一起，它第一次可以基于網(wǎng)頁回答問題并且多輪交互。我當(dāng)時(shí)感覺就像微弱的電燈絲突然亮了一樣，我覺得這可能第一次把 LLM 和真正的互聯(lián)網(wǎng)連在一起去做多輪交互。我當(dāng)時(shí)感覺這個(gè)改變可能在五年或十年會改變這個(gè)世界，但可能比我想象的還要快。
包括我們第一次提出 ReAct 在 ICML 的時(shí)候，我覺得如果這個(gè)事情能做到，那它會帶來巨大的價(jià)值，可能是幾百億、上千億，但現(xiàn)在可能是數(shù)萬億、數(shù)十萬億。我想的還是太小了。那一部分我做的工作是怎么去定義 Digital Automation 任務(wù)，比如 WebShop 是第一個(gè)互聯(lián)網(wǎng) Web Application，包括 Intercode 是最早的 Coding Agent 任務(wù)。現(xiàn)在看起來 Agent 技術(shù)最重要的兩個(gè)部分確實(shí)是 WEB Agent 和 CODING Agent。
那天我還在群里面跟大家聊天，我看我博士論文的結(jié)尾，在24年我寫 Future Work，第一個(gè)是 Train Models for Agent，第二個(gè)是 Safe and Robust Deployment，第三個(gè)是 Scientific Discovery，第四個(gè)是怎么去 Help Human。我很感慨，我現(xiàn)在很幸運(yùn)，我確實(shí)在做我當(dāng)時(shí)列的 Future Action。
湯道生：Prediction 太厲害了，高瞻遠(yuǎn)矚看到整個(gè)行業(yè)針對這些方向在推進(jìn)。
姚順雨：想的還是不夠大，當(dāng)時(shí)我已經(jīng)覺得自己想得夠大了，但可能還是不夠大。
湯道生：技術(shù)的發(fā)展往往超乎我們的預(yù)期。我想問一下，智能體今天大家都說需要消耗很多的 Token 調(diào)用。對于混元做下一代的模型研發(fā)，你覺得什么是你的側(cè)重？有哪些地方比較重要？
姚順雨：毫無疑問，今天 Agent 或者說 Coding Agent，就像 DevOps 一樣，是一個(gè)不得不做的事情，是最基礎(chǔ)的能力。我個(gè)人覺得 Token 非常本質(zhì)，有很多原因，但還有一個(gè)很重要的原因是，它有點(diǎn)像從兵玩隊(duì)的這樣的事情，當(dāng)你有能力去控制自己的 Health System，當(dāng)你有一個(gè) Container 的時(shí)候，你其實(shí)是一個(gè) Complete 的 System。
今天毫無疑問是每一家模型廠商發(fā)力的重點(diǎn)。我們做的方法可能會有幾個(gè)區(qū)別：第一，即使今天 Coding 是最重要的事情，我們還是會強(qiáng)調(diào)體系的全面化。我始終認(rèn)為，真的要把 Coding 做好，需要的永遠(yuǎn)不只是 Coding 的數(shù)據(jù)，你也需要像我剛剛說的聊天、搜索、推理各種各樣不同的東西，因?yàn)榇竽Ｐ妥钪匾狞c(diǎn)是泛化。
第二，產(chǎn)品的作用越來越重要了。如何利用好線上的回流，是每一個(gè)模型廠商都在應(yīng)對和思考的問題。我們剛剛提到很多 Co-design 的經(jīng)驗(yàn)會變得非常重要。
第三，我覺得還需要更多想象力。無論是技術(shù)的演進(jìn)，還是產(chǎn)品的演進(jìn)，還是跟下一個(gè)范式的演進(jìn)，我們還是需要做一些探索性的、甚至不確定性的工作。
湯道生：產(chǎn)品側(cè)，大家越來越多有不可焦慮的聲音，不可的成本持續(xù)爆發(fā)式增長。我也聽到很多客戶、身邊的同事在盯著積分的消耗或者 Token 的消耗。怎么可以讓我們的模型在解決某個(gè)問題或者完成某一個(gè)任務(wù)時(shí)，Token 的效率最高？因?yàn)槲抑白鲞^一些任務(wù)，它可能會試不同的方向，有些方向你都知道肯定走不下去，但模型可能還會試試，知道走不下去再試下一個(gè)。里面有什么可以 Optimize 的地方，讓 Token 使用效率更高？
姚順雨：現(xiàn)在中國大家討論性價(jià)比，可能更多討論的是模型架構(gòu)，但其實(shí)它是一個(gè)很復(fù)雜的事情。我覺得最重要的是 Performance。很多人跟我說，他最后發(fā)現(xiàn)用性能差的模型，最后發(fā)現(xiàn)其實(shí)更省錢，因?yàn)槟愀斓匕咽虑樽鰧α恕Ｐ詢r(jià)比最關(guān)鍵的事情是 Performance，如果 Performance 不好，性價(jià)比就很難起來。
尤其今年，很多簡單任務(wù)的 Batching 會變得更加重要。如何一次把很多相對簡單的任務(wù)做對了，這可能是性價(jià)比更關(guān)鍵的部分，而不僅僅是模型架構(gòu)。第二部分就是成本，成本本身就是性價(jià)比的一部分。中國其實(shí)是領(lǐng)先世界的，我們做大量的工作去優(yōu)化成本。但成本不變，可能最重要的事情是：用一個(gè)更小的模型，把更高的價(jià)值任務(wù)給做好。在這個(gè)基礎(chǔ)上，架構(gòu)的創(chuàng)新，包括常用的 Sparse 架構(gòu)，有很多需要做的事情。我個(gè)人看法是，如果我們能做一個(gè)相對較小的模型，它又能夠比肩大模型的性能，而且在大部分任務(wù)上做到很強(qiáng)的 Robustness，這可能會比在很多非常長程的 Fancy 任務(wù)上實(shí)現(xiàn)一兩個(gè)點(diǎn)的提升，在今天的中國更有價(jià)值。
我也挺好奇，高總，你覺得 Agent 你是什么時(shí)候意識到它是一個(gè)新的產(chǎn)品機(jī)會，以及你現(xiàn)在認(rèn)識是什么？你覺得我們離一個(gè)好用的 Notification Framework 會遠(yuǎn)嗎？
湯道生：我們做的 Agent 針對不同場景有不同的產(chǎn)品形態(tài)。在 Agent 的設(shè)計(jì)上面，很大程度是在發(fā)揮模型的能力。模型在迭代，能力越強(qiáng)，Agent 需要做的工作也越來越少。我看我們好幾個(gè)產(chǎn)品，在過去這段時(shí)間，隨著模型能力加強(qiáng)，我們可以把產(chǎn)品內(nèi)部的邏輯做得更簡化，更多的是給模型提供更多不同的工具，創(chuàng)造更多的 Skills，讓模型能夠更高效地去完成任務(wù)，給模型提供更多的記憶，比如用戶過去使用的一些習(xí)慣，我們提取出來的用戶偏好信息作為上下文遞過去。在 Coding 的環(huán)境，用相關(guān)的 Context 給到模型；在 Web 里面辦公協(xié)作，PPT 大家關(guān)注的內(nèi)容給到模型 Context。不一樣，所以在我們做不同的 Agent，更重要還是了解那個(gè)場景下什么內(nèi)容、什么信息是重要的，比較 Relevant 的，能夠跟模型配合好，讓模型有它需要的信息，同時(shí)發(fā)揮它的能力。
姚順雨：但我們最近確實(shí)推出了一些像孟加拉這樣特別不錯(cuò)的產(chǎn)品，背后我觀察到很多小團(tuán)隊(duì)在快速迭代產(chǎn)品。我挺好奇，相對于傳統(tǒng)的產(chǎn)品研發(fā)，在這種新的 Agent 時(shí)代的研發(fā)和組織管理上，產(chǎn)品團(tuán)隊(duì)發(fā)生了什么變化？你的思考是什么？
湯道生：前一陣子在八方官官里做一個(gè)主持，我看了一下他們那個(gè)非常扁平化的組織，跟我們過去的其他產(chǎn)品組織架構(gòu)有很大差異。更多的小團(tuán)隊(duì)，三個(gè)人、五個(gè)人，圍繞著某一個(gè)領(lǐng)域去攻堅(jiān)，而且有很多實(shí)驗(yàn)在里面。所以要支持好 AI 孵化去做實(shí)驗(yàn)，讓不同的小團(tuán)隊(duì)可以去探索，然后再驗(yàn)證。因?yàn)閷?shí)驗(yàn)大部分可能拿不到正向的反饋，我們也要包容團(tuán)隊(duì)去試錯(cuò)。通過大量實(shí)驗(yàn)去提煉出對用戶留存、對我們想要的結(jié)果有正向幫助的東西。這是今天做 Agent、做 AI 產(chǎn)品，這個(gè)組織形態(tài)要能夠比較好去支撐的。
另外原來有很多工程師花很多時(shí)間寫代碼，但今天這些工作可以交給 AI 了，所以我們會看到很多角色的融合。可能大家都是產(chǎn)品經(jīng)理，都要去了解透徹用戶的需求以及設(shè)計(jì)出我們想要的產(chǎn)品形態(tài)。每一個(gè)工程師可能就更像一個(gè)有想法的 Leader，驅(qū)動著多個(gè) Coding Agent 來針對我們想要的產(chǎn)品需求做研發(fā)、開發(fā)，同時(shí)也要把測試、質(zhì)量保證、Alignment 對齊的工作做到前面。
我也想再問一個(gè)大家比較多討論的問題。很多自媒體都會提到，騰訊慢了，在 AI 上面我們沒有及時(shí)抓住一些機(jī)會。你覺得我們真的慢了嗎？到底下半場是什么？你能再多說一些嗎？
姚順雨：感覺這應(yīng)該是我問你的問題。我覺得首先有兩個(gè)重要的判斷：第一，我們認(rèn)為 AI 是一個(gè)短期的游戲還是長期的游戲。在硅谷蔓延著很多情緒，說兩年后就遇到失業(yè)了，AI 就要取代工作，我們應(yīng)該趕快賺兩年錢然后退休。那這是一個(gè)判斷。很顯然我們的判斷是長期的。AI 才剛剛開始，從某種角度下半場才剛剛開始。我不認(rèn)為 ChatGPT 和 Claude 會是唯一的阻礙，那會是一個(gè)非常灰暗的世界，我覺得肯定會有源源不斷新的機(jī)會出現(xiàn)。可能今天就像是七十年代 PC 剛剛產(chǎn)生的時(shí)候，還有很多很多事情需要做。
第二個(gè)判斷：它會是一個(gè)更線性還是更多元的游戲。過去幾年大家能看到的是預(yù)訓(xùn)練、后訓(xùn)練、RL、Agent，似乎有一個(gè)非常清晰的主線，所有人都在做一樣的事情，這也是一個(gè)非常灰暗的事情。未來會變得更單一還是更多元？我個(gè)人看法是，會變得更多元。做 DNA、做能力會變得更加重要，它是一個(gè)剛剛開始的事情，這個(gè)世界還有 Trillions of dollars market 沒有被填滿。但是多模態(tài)、確定智能，很多很多新的事情都在發(fā)生或者剛剛發(fā)生。從這個(gè)角度來說，如果認(rèn)為上半場人工智能開始，那可能確實(shí)不夠。我覺得過去模型、產(chǎn)品做了很多探索，做了很多管理，這是正常的。你沒有做過這個(gè)事情，第一次做肯定會有曲折。但可能更重要的事情是能不能誠實(shí)地面對自己，能不能 Be Real，能不能看到 Feedback 要去改變，能不能保持耐心，這些事情可能是在下半場比較重要的事情。
湯道生：我覺得騰訊大家對騰訊經(jīng)常喜歡挑某一個(gè)點(diǎn)來批評，當(dāng)然我們也歡迎大家給我們提更高的要求。但我們還是一個(gè)非常多業(yè)態(tài)、很多產(chǎn)品的公司，在很多賽道，同時(shí)也有很多團(tuán)隊(duì)在推進(jìn)不同的項(xiàng)目事情。所以毫無疑問，在這樣的復(fù)雜組織里面，有些地方可能我們做得快了，有些地方做得慢了，有些地方可能會做失敗，在探索。所以這些提醒都非常好。我覺得確實(shí)有些地方可能是可以做得更好，但就像說的，這是一個(gè)長跑，這是一個(gè)馬拉松。騰訊還是有非常豐富的場景，就像一開始提到選擇騰訊，因?yàn)?AI 需要 Context，模型需要很多的上下文。騰訊在過去很多年的不同產(chǎn)品、不同賽道的積累，其實(shí)都可以針對每一個(gè)場景為模型提供有用的信息，提供這些 Context 來發(fā)揮價(jià)值。在這樣一個(gè)長跑中，我相信模型會不斷迭代，用戶的需求也在不斷變化，也會有新的產(chǎn)品形態(tài)出現(xiàn)。
比如今年年初對 DeepSeek 這一波熱潮，我們反應(yīng)也比較快，同時(shí)也有相關(guān)管理的智能體產(chǎn)品，其實(shí)也是幾年前已經(jīng)開始做的產(chǎn)品。沿著原來做 Coding，幫慢慢看到非常強(qiáng)的需求，我們也能比較快地去應(yīng)對。今天也聽到很多客戶對于我們的不同產(chǎn)品怎么去組合起來有非常高的期待。所以我們在長跑中，也請各位多給我們提醒，多給我們建議，也多用的我們的產(chǎn)品來給我們正向的、Constructive 的反饋。
我看時(shí)間已經(jīng)超時(shí)了，我們來首先感謝翠雨今天的分享。我們剛才圍繞了做模型、做產(chǎn)品，談到了 Co-design，談到了 Agent 的演進(jìn)，也提到了組織變革、行業(yè)機(jī)會。在過去一年，我們看到非常多企業(yè)有共同的困惑或者面臨同樣的挑戰(zhàn)：產(chǎn)品如果用不好，企業(yè)不能持續(xù)去投入，或者 ROI 不夠，這都會影響 AI 在企業(yè)里面普及的進(jìn)度。為此，我們今天也會發(fā)布一套商用智能體的工具集，來幫助企業(yè)可以更安心、更高效地去部署應(yīng)用的智能體。
這背后有騰訊的三個(gè)核心能力：第一是場景連接的能力，通過騰訊的微信、企業(yè)微信、元寶等高頻的場景觸點(diǎn)，把大模型遷到真實(shí)的業(yè)務(wù)流，跟用戶、跟數(shù)據(jù)、跟生態(tài)能夠深入連接。第二是工程的駕馭能力，通過完整的 Harness 體系，讓 Agent 能夠穩(wěn)定、可信、可持續(xù)地運(yùn)行，具備強(qiáng)大的 AI Infra，包括高速網(wǎng)絡(luò)、高分組存儲，還有高性能的 Agent 和 API 來保證 GPU 的高利用率。第三是模型的驅(qū)動力…跟模型產(chǎn)品的比賽，兼顧實(shí)用性、性價(jià)比還有 ROI。同時(shí)，我們也將啟動騰訊 AI 共創(chuàng)云的第二期，攜手我們的 ISV、MSP 的伙伴，一起來共創(chuàng)行業(yè)解決方案，打造更多的標(biāo)桿案例。
本文來源：態(tài)℃
責(zé)任編輯：
袁雪麗_NBJS26698
