同一天兩件大事！小模型直接掀翻千億參數(shù)，走向效率為王

大模型技術(shù)從“云端”向“終端”轉(zhuǎn)移的過(guò)程中，實(shí)用主義終將戰(zhàn)勝性能堆砌。

作者丨陳嘉欣

編輯丨馬曉寧

5月13日，AI圈同時(shí)炸了兩件事。

第一件事是頂級(jí)CV學(xué)者何愷明帶著MIT團(tuán)隊(duì)，發(fā)布了人生第一個(gè)語(yǔ)言模型ELF。

105M參數(shù)，不走GPT自回歸的老路，全程在連續(xù)embedding空間里做擴(kuò)散，最后一步才離散化回文字。發(fā)布僅幾小時(shí)，X上的討論就炸了——"Kaiming出品，必屬精品"。

第二件事是清華系團(tuán)隊(duì)面壁智能開(kāi)源了新一代「小鋼炮」MiniCPM-V 4.6。

這款模型在Artificial Analysis的智能指數(shù)上拿了13分，比Qwen3.5-0.8B高出整整3個(gè)點(diǎn)，卻只有它1/19的推理token消耗量。而且它僅1.3B，一張4090就能“爆改”。

同一天發(fā)生的兩件事都在指向一個(gè)問(wèn)題：AI行業(yè)正在經(jīng)歷一個(gè)微妙的轉(zhuǎn)折，從"堆算力"轉(zhuǎn)向"省算力"。

2026上半年，當(dāng)DeepSeek V4、Qwen3.5、Gemma 4這些大廠還在卷千億參數(shù)時(shí)，端側(cè)小模型的已經(jīng)迎來(lái)了新一輪浪潮，如今社區(qū)最大的聲音已經(jīng)不是"誰(shuí)家模型最大"，而是"誰(shuí)家模型最小、最快、最省硬件"。

01

算力降維：從"堆H100"到"一張4090就夠了"

面壁智能這次開(kāi)源的MiniCPM-V 4.6，最炸裂的不是參數(shù)規(guī)模本身，而是效率。

先看一組數(shù)據(jù)：在Artificial Analysis的智能指數(shù)測(cè)試中，MiniCPM-V 4.6以5.4M output token完成全部測(cè)試，同期測(cè)試的Qwen3.5-0.8B非推理版用了101M，推理版用了233M。前者是后者的1/19和1/43。

1/43是什么概念？別人做43次推理的算力，它能做43次。

再看吞吐量：在256并發(fā)、1000張圖像的高壓測(cè)試下，MiniCPM-V 4.6單張RTX 4090的吞吐量比Qwen3.5-0.8B高出1.6倍。

清華系的1.3B"小鋼炮"，同樣把硬件門(mén)檻拉到了極致，一張消費(fèi)者級(jí)別的RTX 4090就能跑。不需要H100，不需要A100。一臺(tái)游戲顯卡就能部署AI模型做二次開(kāi)發(fā)。放在一年前，這是不敢想的。

這些數(shù)據(jù)放在一起，指向同一個(gè)結(jié)論：AI的參數(shù)競(jìng)賽正在讓位于效率競(jìng)賽。

一位曾經(jīng)在Meta和momenta任職，目前現(xiàn)在做具身創(chuàng)業(yè)的研究者向雷峰網(wǎng)表示，小模型在端側(cè)的優(yōu)勢(shì)不是理論上的，是實(shí)打?qū)嵉纳虡I(yè)選擇。"大多數(shù)用戶(hù)不需要一個(gè)能寫(xiě)論文的模型，他們需要的是一個(gè)能隨時(shí)響應(yīng)、不掉線(xiàn)的模型"。

另一位高通的負(fù)責(zé)人也向雷峰網(wǎng)表示了類(lèi)似觀點(diǎn)：“參數(shù)越少，越容易在本地做微調(diào)、越容易適配每個(gè)人的使用習(xí)慣。個(gè)人AI時(shí)代，模型不需要記住全人類(lèi)的知識(shí)，只需要記住你一個(gè)人的就夠了"。

沿著這條思路往下看，你會(huì)發(fā)現(xiàn)小模型干的遠(yuǎn)遠(yuǎn)不只是"省算力"這么簡(jiǎn)單。

02

架構(gòu)換道：從"預(yù)測(cè)下一個(gè)詞"到"連續(xù)空間擴(kuò)散"

何愷明的ELF，走了一條和GPT完全不同的路。

先搞清楚一個(gè)背景。兩年多來(lái)，AI對(duì)話(huà)模型的根基幾乎都是"預(yù)測(cè)下一個(gè)詞"，把一句話(huà)拆成一個(gè)個(gè)token，依次猜下一個(gè)該是什么。這條路GPT證明了有效，但也有一條為人熟知的軟肋：生成速度慢、且沒(méi)法回頭修改已經(jīng)生成的詞。

擴(kuò)散模型在圖像領(lǐng)域早就證明了"不按順序也能生成高質(zhì)量?jī)?nèi)容"，Stable Diffusion從一團(tuán)噪聲逐步恢復(fù)為一張圖像，比自回歸生成靈活得多。但在語(yǔ)言領(lǐng)域，這條路一直走得磕磕絆絆。

問(wèn)題出在哪？現(xiàn)有的大多數(shù)擴(kuò)散語(yǔ)言模型（DLM）雖然在"做擴(kuò)散"，但操作的對(duì)象仍然是離散token，本質(zhì)上還是在有限的離散空間里"洗牌"，沒(méi)有真正發(fā)揮擴(kuò)散的連續(xù)優(yōu)勢(shì)。

何愷明團(tuán)隊(duì)的解法干凈利落：全程留在連續(xù)embedding空間里去噪，只在最后一步離散化成文字。

這就像以前做雕塑，是一塊塊往上堆泥巴（順序生成每個(gè)token）；現(xiàn)在是把一整塊石頭里的多余部分全部磨掉（在連續(xù)空間逐次去噪），最后一步才刻上細(xì)節(jié)。效率更高，而且能全局統(tǒng)籌。

這種解法起手就和之前完全不一樣。所以ELF 105M參數(shù)、45B訓(xùn)練token、32步采樣，就跑贏了現(xiàn)有的DLM方案，不需要額外蒸餾。

沿著架構(gòu)創(chuàng)新的方向再看MiniCPM-V 4.6。它采用LLaVA-UHD v4架構(gòu)，視覺(jué)編碼器的計(jì)算量降低了約50%。這意味著，處理一張3136×3136的高分辨率圖像，在RTX 4090上只需要75.7ms。以前這是云端的活，現(xiàn)在端側(cè)芯片就能干。

從"預(yù)測(cè)下一個(gè)詞"到"連續(xù)空間中去噪"，從"云端算力"到"端側(cè)芯片"，這兩條看似獨(dú)立的創(chuàng)新線(xiàn)，正在指向同一個(gè)方向：AI模型的底層架構(gòu)，正在從"一個(gè)超大的黑箱"變成"一個(gè)精巧的、分工明確的小系統(tǒng)"。

架構(gòu)變了，生態(tài)也會(huì)變。小，正在成為新的"大"。

03

拉開(kāi)AI輕量化浪潮的序幕

根據(jù)AI科技評(píng)論的觀察，目前市場(chǎng)上關(guān)于AI輕量化的三個(gè)變化正在發(fā)生。

變化一：端側(cè)AI從概念到標(biāo)配。MiniCPM-V 4.6已經(jīng)能在手機(jī)上跑，不需要聯(lián)網(wǎng)，不需要云。2026年下半年，你會(huì)看到更多手機(jī)廠商把端側(cè)模型作為賣(mài)點(diǎn)，直接打出"本地跑模型"的旗號(hào)。

變化二：架構(gòu)創(chuàng)新正在打破Scaling Law的壟斷。ELF證明了語(yǔ)言模型不一定非要自回歸。MiniCPM證明了1.3B也能打。Scaling Law說(shuō)"越大越好"，但ELF和MiniCPM說(shuō)"夠用就好，夠快更好"。當(dāng)架構(gòu)創(chuàng)新成為新的競(jìng)爭(zhēng)力源頭，"堆參數(shù)"的軍備競(jìng)賽模式正在失效。

變化三：商業(yè)模式與落地場(chǎng)景由“算力競(jìng)賽”轉(zhuǎn)向“成本優(yōu)化”。企業(yè)端不再盲目追大，多數(shù) B 端場(chǎng)景如智能客服、文檔輔助等開(kāi)始傾向于定制化的輕量級(jí)模型，因?yàn)槠渫评沓杀緝H為超大模型的數(shù)十分之一，更符合商業(yè)閉環(huán)。

何愷明下場(chǎng)做語(yǔ)言模型，面壁開(kāi)源第五代端側(cè)模型，高通押注個(gè)人AI。站在2026年5月回頭看，這些不是孤立的新聞。它們拼出了同一個(gè)信號(hào)：AI輕量化浪潮的序幕已經(jīng)拉開(kāi)。

AI 的未來(lái)不再是“越大越好”，而是“在足夠的聰明度下，越輕越貴”。如何做更好的小模型，這或許才是2026年AI行業(yè)最值得關(guān)注的方向。

未經(jīng)「AI科技評(píng)論」授權(quán)，嚴(yán)禁以任何方式在網(wǎng)頁(yè)、論壇、社區(qū)進(jìn)行轉(zhuǎn)載！

公眾號(hào)轉(zhuǎn)載請(qǐng)先在「AI科技評(píng)論」后臺(tái)留言取得授權(quán)，轉(zhuǎn)載時(shí)需標(biāo)注來(lái)源并插入本公眾號(hào)名片。