對話面壁CEO李大海：端側AI模型趕上GPT-4，國產芯軟件要補課

智東西
作者 江宇
編輯 漠影

智東西6月12日報道，剛剛，在智源大會期間，面壁智能CEO李大海與AI Infra負責人李宇軒與智東西等媒體進行了深入交流。從端側模型進展、國產算力適配、智能體落地、開源策略到汽車、手機等終端場景，李大?；貞送饨珀P注的多個問題，并拋出不少關鍵判斷：

1、端側模型進展：此前預測2026年底端側模型智能水平達到GPT-4水平，如今已經提前達到。

2、端側落地：2025年是端側模型落地元年，汽車量產是重要標志，今年會有更多端側應用落地。

3、端側角色：面壁會持續發布端側基礎模型，同時服務重要設備廠商，也會探索AI原生端側設備。

4、智能體：很多場景已經可以落地，但外界對零介入、100%完成、100%負責的期待仍然偏高。

5、手機智能體：端側模型與智能體結合，重要方向是改變人與設備的交互方式。

6、國產算力：國產芯片用于訓練還需要模型公司與芯片公司更深合作，軟件生態仍需補課。

7、開源：開源是高效商業模式，可以用更低成本觸達潛在客戶，其核心競爭力仍在“冰山之下”。

8、端側AI終局：長期看，模型與芯片會走向更深協同，甚至模型公司也可能生產自己的芯片，但這仍是較遠的終局。

一、端側模型提前追上GPT-4，落地還要等芯片一起跟上

在近四十分鐘的群訪中，李大海和李宇軒回答了十余個問題。

我們將關鍵問題整理如下：

Q1：2024年曾預測，到2026年底端側模型智能水平可以達到GPT-4水平?，F在看，這個目標會提前還是延后？

李大海判斷，這個目標已經提前達到。

他提到，面壁近期發布MiniCPM-5 1B版本后，在Artificial Analysis榜單上拿到17.6分。社區研究者對比發現，2024年5月OpenAI發布的GPT-4o在該榜單上得分大約只高零點幾分，而GPT-4o參數規模約為200B，MiniCPM-5 1B只有1B參數。

李大海認為，這說明面壁仍在踐行其提出的“大模型知識密度定律”。

Q2：端側模型現在落地到哪些生活場景？為什么用戶感知還不強？

李大海認為，2025年可以算作端側模型落地元年，面壁去年四季度在汽車上正式量產，是一個重要標志。

他提到，目前端側模型能力增長很快，但真正往下落地時，最大制約仍然是模型與芯片的結合?，F在一批國產存算一體端側AI芯片公司正在流片，一旦芯片回來，能夠提供更有競爭力的功耗、算力和帶寬，端側應用會有更多爆發。

在他看來，今年會有大量端側應用落地。以“小龍蝦”這類形態為例，合理方式不是所有推理都放在云端，而是上下文管理放在端上，一部分高頻推理也放在端上，最終形成端云協同。

Q3：面壁在端側模型領域的長期定位是什么？

李大海說，面壁對自己的定位是“端側模型的基礎設施”。

具體來看，面壁會做三層事情：第一，持續發布世界領先的端側基礎模型，賦能更多開發者；第二，直接服務一些出貨量大的重要設備廠商；第三，在新的AI原生端側設備上探索自己的硬件產品。

二、智能體已經能落地，但“零介入”還需要時間

Q4：面壁怎么看智能體當前的局限？最大問題是成本、穩定性、記憶，還是權限？

李大海認為，智能體正在快速進化。若要說問題，“哪哪都是問題”，但從技術發展角度看，模型與智能體的結合正在以很快速度推進。

他提到，面壁早在2024年就已經用智能體技術，在人工智能輔助審判方向協助法官落地。

不過，李大海也提到，外界對智能體的期待可能偏高，比如希望它零介入、100%做好，并且還能100%負責。他認為，技術打磨需要時間，這是自然規律。

Q5：怎么看豆包手機這類把智能體放到手機上的嘗試？

李大海認為，這是非常自然的方向。

他解釋說，端側模型的重要方向之一，就是改變人與設備的交互方式。端側模型更隱私友好，實時性和可靠性也更強，因此適合承擔人機交互任務。

他還用云游戲做了類比：云游戲一直不溫不火，一個重要原因是用戶對交互幀率和穩定性要求很高，不希望出現無預期卡頓。類似地，人與設備交互也需要很高實時性和可靠性，這些能力更適合在端上完成。

Q6：做端側智能體會遇到哪些困難？

李大海說，關鍵仍然是模型與芯片的結合。

他把問題概括為三個因素：能力、成本和場景。一個場景能不能落地，要看模型表現、可接受成本和具體應用場景之間能否匹配。目前限制主要來自芯片、內存和帶寬，但在端側摩爾定律和端側模型知識密度定律共同推動下，這些問題正在改善。

三、國產算力開始進入訓練環節，軟件生態還要補課

Q7：依托國產智算集群做訓練和推理時，如何提高算力利用率？如何與國產AI芯片廠商、智算中心、算力服務商協作？

李大海說，過去行業更多用英偉達芯片和集群做訓練，推理逐步轉移到國產芯片上。今年開始，訓練工作也在逐步轉向國產卡。

他坦言，相比英偉達集群，國產芯片集群在軟件生態上還有很多課要補，模型公司不能完全靠自己完成所有適配工作，需要芯片公司提供更多支持。

李大海提到，面壁一方面與國產芯片公司做深入配合，另一方面也與智源主導的FlagOS軟件生態有深度合作。前者更像是模型訓練牽引下的逐步完善，后者則是自頂向下做頂層規劃，把芯片公司拉進來，明確哪些工作更重要，再一步步推進。

李宇軒補充說，訓練相比推理，對精度要求更高。如果一張卡只做過推理、沒有做過訓練，可能會遇到一些意想不到的精度問題。

面壁此前提出“模型風洞”技術，即用小模型實驗預測大模型效果。李宇軒說，面壁把這套基礎設施先在華為等國產卡上做深度評測，并與英偉達進行對齊，確認精度可用，再繼續推進更大模型訓練。

Q8：此前提到在昇騰上達到95%訓練效率，另外5%差距來自哪里？

李宇軒澄清說，這里的95%并不是指華為平臺相對英偉達平臺達到95%，而是指在華為平臺上，極低位寬量化感知訓練相比普通訓練達到95%的效率。

他解釋，訓練量化模型時需要加入量化器，這會帶來額外開銷和性能損失。面壁與華為合作優化量化器開銷，將損失控制在5%以內，從而驗證極低位寬訓練pipeline在華為平臺上可用。

四、蘋果端側AI落地不算早，手機廠商差距還沒拉開

Q9：怎么看蘋果推出端側大模型？會不會擠壓高端安卓手機市場？

李大海認為，蘋果早在2024年6月就公布了端側模型與云端協同戰略。以蘋果的風格來看，今天才落地，已經晚于行業預期。

他還提到，蘋果在大模型上與谷歌有較深合作，這反而凸顯出第三方專業大模型公司的價值。

李大海認為，這件事與安卓還是蘋果沒有本質關系，更重要的是是否找到更好的芯片，以及是否在場景和產品定義上做出更好設計。以他的觀察，國內手機廠商對這一方向理解都較深，差距并不大。

Q10：手機廠商選擇面壁，主要看重哪些因素？

對此，李大?？偨Y了三點。

第一，面壁能持續訓練出知識密度足夠高的端側模型。第二，面壁與很多端側芯片公司有深度合作，比如與高通已經形成全球戰略合作，并達到協同設計程度。第三，面壁在高效推理上積累較多，這對手機、汽車等功耗敏感設備很重要。

他說，在同等效果下，如果推理功耗能顯著降低，就是巨大的競爭優勢。

Q11：端側模型壓縮是否有極限？

李大海說，據他了解，1.58比特應該已經算是極限。更重要的是，在這樣的壓縮比下，保持足夠少的性能損失。

他提到，李宇軒團隊主導的工作，是在訓練階段就把三值量化作為量化感知訓練的一部分，從訓練第一步就持續考慮和對齊，這對降低量化損失很重要。

五、開源不是簡單開放技術，而是降低客戶驗證成本

Q12：中國大模型公司出海時，如何平衡自主可控與全球開放合作？

李大海認為，這兩個方向不沖突。

他解釋說，自主可控是企業對自身底層能力的內生要求；開放合作則體現在靈活商業合作模式、重視用戶和客戶利益，以及尊重海外客戶和伙伴的文化與需求。

他同時強調，開放不等于無底線開放自己的技術，技術對外輸出與開放合作是兩個層面的概念。面壁會在國家技術出口相關指導方針下推進海外合作。

Q13：行業競爭激烈，面壁為什么仍然堅持開源？

李大海認為，開源是一個非常高效的商業模式，因為它能用更低成本觸達潛在客戶。

他說，當客戶做基礎研究或技術驗證時，如果模型是開源的，就能低成本試用，也能幫助客戶在內部用更扎實的數據和證據說服上級，最終提升從技術影響力到商業合作的轉化效率。

對于開源是否會培養競爭對手，李大海認為，開源模型和框架會產生影響，但不會產生特別實質的影響，因為一家公司的核心競爭力在“冰山之下”。已經開源出來的東西，不足以讓別人完全學會公司的核心能力。

他還提到，企業不能只靠把一時的競爭優勢關起來，而應靠技術前瞻性和速度，持續構建更復雜的競爭優勢。

六、汽車、手機、無人機、潛水器都在落地，法律場景也在推進

Q14：過去一年，面壁主要有哪些進展？未來規劃是什么？

李大海說，過去一年，面壁在資本市場、技術和產業落地上都有進展。

資本層面，面壁獲得了更多投資人支持，其中包括具有國家隊屬性的資本和產業資本。李大海認為，這些融資是產業推進的結果，不是原因。

技術層面，面壁持續推進基礎模型、數據治理、AI訓練AI框架等工作，并推出了流式全雙工端側全模態模型。

產業層面，除了智能汽車，面壁也把端側模型部署到手機上，并在無人機、潛水器等智能終端上推進端側模型落地。李大海稱，這些方向可以概括為“上天入地、上天下海”。

此外，面壁在法律領域的工作也在繼續推進。李大海提到，面壁協助最高人民法院做的全國法院“一張網”試點，今年已經落到全國20到30個城市。

Q15：汽車場景中，用戶和車企反饋如何？

李大海以吉利銀河M9為例說，面壁上車的功能并不是默認開放，需要用戶主動打開。車廠反饋顯示，用戶主動打開比例非常高。他認為，這代表了用戶對相關功能的認可。

七、端側AI終局可能是模型與芯片深度合一，但不會很快到來

Q16：端側AI的終局是模型適應芯片，還是芯片適應模型？面壁的護城河是什么？

李大海判斷，未來終局可能是“模型即芯片”，即大模型公司最終生產出自己的模型后，也會同時生產自己的芯片。

不過他認為，這仍是較遠的終局，可能需要10年起步。原因在于模型側可以跑得很快，但芯片流片背后仍有大量不能被AI自動完成的工作。

李大海提到，面壁已經初步完成用AI訓練AI，下一步自然會考慮如何用AI去流片。但AI流片要克服的問題更多，不會很快到來。