遞歸自改進的力量，OMEGA?讓算法研發進入“生長模式”

導讀：當我們習慣了讓 AutoML 幫我們調參、讓大模型幫我們寫代碼時，一個更大膽的問題開始浮現。機器能不能自己“發明”機器學習算法？不僅能寫出能跑的代碼，還能在標準數據集上打敗人類工程師手寫的經典模型。OMEGA 正是在回答這個問題。它把 LLM 的生成能力、自動調試、自我改進和統一評測串成一條完整的流水線，讓算法從“想法”到“可執行模型”都能自動完成。更令人意外的是，這些自動生成的模型在多個任務上超過了 scikit?learn的基線表現，甚至能通過遞歸自改進不斷變強。OMEGA 展示的不是一個新模型，而是一種全新的科研方式，一種讓 AI 參與算法創造、甚至自我進化的可能性。機器學習的未來，也許正在從“人寫算法”走向“算法自己長出來”。

01從AutoML到自動化算法發現的范式躍遷

如果說過去十年機器學習的主旋律是“模型越來越大、算力越來越猛”，那現在這股風正在悄悄轉向另一個方向——讓機器自己發明機器學習算法。 這聽起來像科幻小說里的橋段，但OMEGA 這篇提交到 ICLR 2026 的研究團隊，正是把這個想法往現實里推了一大步。

傳統的機器學習研究其實非?！笆止ぁ?。研究者腦子里冒出一個點子，接著要寫代碼、調 bug、跑實驗、調參、再跑實驗……一個新算法從靈感到能跑起來，往往要花掉幾周甚至幾個月。 AutoML 和 NAS 雖然幫我們自動調了模型結構和超參，但它們的搜索空間仍然被框死在“已有算法的變體”里，想讓它們真正創造一個全新的學習邏輯，幾乎不可能。

而 LLM 的出現讓人看到了另一條路。它們能寫代碼、能解釋錯誤、能根據提示生成新的算法思路，但缺點也很明顯： 它們寫出來的代碼能不能跑？能不能復現？能不能在標準數據集上穩定表現？ 這些問題沒有一個靠“單純讓 LLM 輸出代碼”就能解決。

OMEGA 的出現，就是把這條路真正鋪平。它把 LLM 的輸出從“文本”變成“可執行學習系統”，讓“自動化算法發現”第一次有了一個閉環： 想法生成 → 代碼生成 → 自愈調試 → 標準化評測 → 模型發布。 這不是 AutoML 的升級版，而是一個新的范式。

研究團隊來自 Infinity Artificial Intelligence Institute 與 斯坦福大學計算機科學 （ Stanford CS ），既有工業界的工程基因，也有學術界的嚴謹氣質。把這類研究投到ICLR，也說明他們不是在做玩具，而是想把“自動化算法創造”推向主流研究舞臺。

當我們把視角拉回到 OMEGA 的核心問題，會發現它其實在回答三個非常關鍵的挑戰。 第一，LLM 能不能真正生成“新算法”，而不是把已有方法重新排列組合。 第二，生成的代碼能不能跑、能不能評測、能不能復現。 第三，這些自動生成的模型能不能在標準基準上打敗 sklearn 的經典模型。

研究團隊的貢獻也圍繞這三點展開。 它提出了一個端到端的算法生成框架，把 LLM 的創造力和工程化的嚴謹性綁在一起。 并且構建了一個名為 infinity?bench 的 20 數據集評測體系，讓所有生成模型都能在同一套標準下比較。 它展示了兩個非常有代表性的“新算法”，一個來自人類提示，一個來自 LLM 自己的想法。 它比較了四大主流 LLM 的代碼生成能力，告訴我們“誰更會寫算法”。 它還做了一個很有意思的實驗：到底是改 prompt 更有效，還是改代碼更有效？結果非常耐人尋味。

02 OMEGA 所處的技術生態

如果把 OMEGA 放在過去十年的機器學習發展史里，它的位置非常清晰。它不是在和 AutoML競爭，而是在補上 AutoML 做不到的那一塊。

AutoML 和 NAS 的核心能力，是在一個預設好的空間里搜索最優結構。你給它卷積層、注意力層、MLP層，它幫你組合；你給它超參范圍，它幫你調。但它永遠不會跳出這個空間，也不會自己發明一個新的學習邏輯。 元學習雖然試圖讓模型“學會如何學習”，但它依然依賴已有算法的框架。

真正讓“自動化算法發現”變得現實的，是AlphaTensor、AlphaEvolve 這類工作。它們證明了機器可以在數學空間里找到人類沒想到的算法，比如矩陣乘法的更優分解。但這些系統往往依賴專門的搜索結構或強化學習框架，難以泛化到更廣泛的機器學習任務。

與此同時，LLM 的程序合成能力在過去兩年里突飛猛進。 從 HumanEval 這種“能不能寫出正確函數”的測試，到現在的閉環執行環境，LLM 已經能做到“寫代碼 → 運行 → 看錯誤 → 再寫”。 但缺乏一個統一的框架，把這些能力整合成一個真正能“發明算法”的系統。

OMEGA 的定位就非常明確。 它不是在調參，也不是在做結構搜索，而是在讓 LLM 直接生成一個“新的學習器”。 它把 sklearn 當成一種 DSL（領域特定語言），讓所有生成算法都能無縫接入現有生態。 它用自愈循環保證代碼能跑，用 infinity?bench 保證評測標準化，用模型庫發布保證可復現。

如果說 AutoML 是“自動調模型”，那 OMEGA 就是“自動造模型”。 這是一個從“優化已有算法”到“創造新算法”的范式躍遷。

03 OMEGA 框架：從想法到可執行模型的閉環系統

如果說前兩節讓我們看到了 OMEGA 的“野心”，那這一節，就是它真正的“工程靈魂”。 這套框架的厲害之處不在于某個單點創新，而在于它把一整條“算法創造鏈路”打通了。 從靈感到代碼，從錯誤到修復，從模型到評測，再到最終打包成庫，整個過程像一條自動化生產線。 你甚至能感受到一種“AI 在做科研”的味道。

圖1：OMEGA核心框架。

框架總覽：從 Idea 到Release 的完整閉環

OMEGA 的整體流程非常清晰。 先讓 LLM 生成一個算法想法，再讓它寫出對應的 sklearn 風格代碼。 代碼寫出來之后不一定能跑，于是進入自愈循環，讓 LLM 根據錯誤信息不斷修補。 修好之后，把模型丟到統一的評測體系里跑一遍，算出分數。 表現好的模型會被自動收錄進一個 pip 包，也就是 omega?models。

這條鏈路的關鍵，是它不是“單向生成”，而是“閉環反饋”。 LLM 不只是寫代碼，它還要對自己的錯誤負責。 這讓整個系統更像一個“自動化科研助手”，而不是一個“代碼生成器”。

為了讓 LLM 更好地理解任務，OMEGA 設計了結構化的 meta?prompt。 它不是一句“幫我寫個分類器”，而是把任務拆成類名、文件名、接口要求、數據格式、評測方式等一整套結構化信息。 這就像給 LLM 提供了一份“算法設計說明書”，讓它在一個清晰的框架里發揮創造力。

Idea Generation：算法想法是怎么被“自動發明”的

OMEGA 的第一步不是寫代碼，而是“想點子”。 這一步有兩種來源，一種來自人類，一種來自 LLM 自己。

人類輸入很好理解，就是研究者把自己的想法丟進去，比如“能不能做一個方向性森林”。 但更有意思的是 LLM 的“Ontology Search”。 研究者給它一組基礎模型，再給它一組研究原則，比如偏差?方差、特征子空間、信息增益之類的。 LLM 會把這些元素組合起來，生成一批“可能有用的新算法思路”。

這一步其實非常接近“自動化科研”的核心。 它不是在調參，而是在探索新的算法空間。 這些想法有的很怪，有的很新，有的甚至能跑出不錯的結果。 這說明 LLM 在“算法創造”這件事上，確實有點潛力。

Code Generation：從自然語言到sklearn兼容代碼

想法有了，下一步就是寫代碼。 OMEGA 在這里做了一個非常聰明的設計——強制所有生成模型都遵循 sklearn 的 API。 也就是說，每個模型都必須繼承 BaseEstimator，并且實現 fit 和 predict。

這看似是限制，實際上是“工程化的自由”。 因為 sklearn的接口已經成為行業標準，只要模型遵循這個規范，就能無縫接入各種 pipeline、交叉驗證、網格搜索、特征工程流程。 這讓 OMEGA 生成的模型不是“玩具代碼”，而是“可用代碼”。

在代碼生成階段，OMEGA 會解析 LLM 的輸出，把類名、文件名、代碼塊提取出來，確保結構清晰。 這一步非常關鍵，因為 LLM 的輸出有時會混雜解釋、注釋、代碼片段，必須經過解析才能進入下一步。

Self?Healing Loop：自動調試與錯誤修復

代碼第一次生成時，十有八九是跑不通的。 這不是 LLM 的問題，而是“寫算法”本來就很容易出錯。 OMEGA 的自愈循環，就是讓 LLM 自己修自己的 bug。

流程很簡單但很有效。 系統運行代碼，捕獲錯誤棧，把錯誤信息重新寫進 prompt，讓 LLM 根據錯誤修復代碼。 這個過程可以重復多輪，直到代碼能跑通，或者達到最大嘗試次數。

這一步的關鍵，是 LLM 能看到真實的錯誤信息。 比如 AttributeError、SyntaxError、TimeoutError 等等。 它會根據這些錯誤進行針對性修復，而不是盲目重寫。

當然，自愈機制也有風險。 比如 LLM 可能為了“讓代碼能跑”而犧牲算法邏輯，或者陷入某種“錯誤循環”。 但整體來看，這個機制讓 OMEGA 的可執行性大幅提升。

Evaluation：infinity?bench的統一評測體系

代碼能跑只是第一步，能不能表現好才是關鍵。 OMEGA 使用了一個名為 infinity?bench 的評測體系，包含 20 個多樣化的分類數據集。 這些數據集覆蓋數值型、類別型、小樣本、大樣本、二分類、多分類等各種情況。

為了讓不同數據集的結果可比，OMEGA 使用了 Min?Max Normalized Accuracy。 公式是這樣的：

意思是把每個模型在每個數據集上的表現，按該數據集的最差和最好模型做歸一化。 這樣就避免了“簡單數據集把所有模型都拉滿”的問題。

最終的得分是所有數據集的平均值：

這個評測體系的意義在于，它讓所有生成模型都在同一套標準下比較。 這對自動化算法發現來說非常重要，因為你必須有一個統一的“評價尺子”。

圖2：最佳模型與Scikit學習基線（最小最大分數）。

Library Creation：模型的工程化發布

最后一步，是把表現最好的模型打包成一個 pip 包，也就是 omega?models。 這一步看似簡單，但意義重大。 它讓 OMEGA 生成的模型不只是實驗結果，而是可以被任何人直接import 使用的工具。

更重要的是，這些模型遵循 sklearn 的接口規范，所以它們可以直接接入現有的工程流程。 這讓 OMEGA 的成果真正具備了“落地價值”。

04 代表性生成模型OMEGA 的“算法創造力”

如果說 OMEGA 的框架展示了“AI 如何造算法”，那這一節，就是它真正的“作品展”。 這些模型不是人類研究者手寫的，而是 LLM 在結構化提示、自愈循環和統一評測體系的共同作用下“創造”出來的。 它們不是簡單的“換皮模型”，而是帶著某種“新邏輯”的算法雛形。 其中最具代表性的兩個，一個來自人類提示，一個來自 LLM 自己的靈感，分別是MetaSynthesisClassifier 和 DirectionalForest。

MetaSynthesisClassifier：LLM生成的堆疊元學習框架

MetaSynthesisClassifier 是那種你一看就知道“有點東西”的模型。 它的核心思想其實不復雜，就是把多個基學習器的預測結果再交給一個“更聰明的模型”來綜合判斷。 但OMEGA 讓 LLM 自己把這個結構寫出來，并且寫得足夠規范、足夠可運行，這本身就很有意思。

MetaSynthesisClassifier 的第一步，是準備一組基學習器。 這些基學習器可以是邏輯回歸、隨機森林、決策樹，也可以是其他 sklearn 兼容的模型。 它們各自訓練、各自預測，然后把每個樣本的預測概率拼成一個新的向量。 這個向量就是所謂的 meta?feature。

研究團隊給出了一個非常關鍵的公式，用來描述這個 meta?feature 的構造方式：

意思很簡單，把所有基學習器對同一個樣本的“看法”拼在一起，形成一個新的特征空間。 這個空間不是原始特征空間，而是“模型的觀點空間”。

為了避免數據泄漏，基學習器在生成這些概率時會使用交叉驗證，也就是說每個樣本的預測都來自“沒見過它的模型”。 這讓 meta?learner能真正學到“哪個基學習器在什么情況下更靠譜”。

接下來，meta?learner 會在這個新空間里學習一個映射關系：

它的目標不是擬合原始特征，而是擬合“模型的判斷”。 這讓它在很多復雜數據集上表現得比單模型更穩、更準。

為什么它能超過單模型？ 原因其實很樸素。 不同模型有不同的偏差和盲點，把它們的判斷綜合起來，就像讓多個專家一起投票。MetaSynthesisClassifier 的 meta?learner學到的，就是“哪個專家在什么情況下更值得信任”。

在 20 個數據集的評測中，這個模型表現非常亮眼，甚至拿下了整個 OMEGA 體系的最高分。 這說明 LLM 在“組合已有模型”這件事上，確實能玩出一些新花樣。

圖3:MetaSynthesisClassifier與Scikit-Learn個人數據集得分。

DirectionalForest：基于特征方向性的決策森林

如果說 MetaSynthesisClassifier 是“聰明的組合”，那 DirectionalForest 就更像是“結構上的創新”。 它不是在已有模型上做加法，而是引入了一個新的概念——特征方向性。

DirectionalForest 的核心，是計算每個特征在不同類別之間的“方向”。 具體做法是先算每個類別的均值向量，再算全局均值，然后把它們的差求符號：

這個方向向量 d 的每個元素都是 ?1、0 或 1，表示某個特征在整體上是“偏向某類”還是“偏離某類”。 接下來，所有樣本的特征都會和這個方向向量做逐元素相乘：

這一步看似簡單，但意義很大。 它相當于把整個特征空間“旋轉”或“翻轉”到一個更有利于分類的方向。 決策樹在這個方向空間里更容易找到有效的分裂點，因為特征的極性已經被統一了。

DirectionalForest 的優勢在于，它能在高維數據集上保持穩定表現。 它的假設雖然簡單，但在很多數據分布中確實能減少樹模型的方差。 相比傳統的 RandomForest，它多了一步“方向校準”，這讓它在某些任務上能跑得更好。

當然，它也有局限。 比如當類別均值差異不明顯時，方向向量可能不穩定； 或者當特征之間存在強非線性關系時，這種線性方向假設可能不夠用。 但作為一個由 LLM 自動生成的算法，它的結構已經相當有啟發性。

圖4:DirectionalForest與Scikit-Learn個人數據集得分。

其他高分模型速覽：DimAwareForest、CompressionGuidedForest 等

除了這兩個代表作，OMEGA 還生成了不少表現不錯的模型。 比如 DimAwareForest，它會根據特征維度的重要性動態調整樹的結構； CompressionGuidedForest 則嘗試用某種“壓縮感知”的思想來指導特征選擇。 這些模型的共同點，是它們都不是簡單的“換名字”，而是帶著某種結構上的創新。

這些創新可能來自 LLM 對已有算法的重新組合，也可能來自它對提示中“原則”的某種抽象理解。 比如“高維特征需要降噪”、“信息量大的特征應該優先分裂”、“不同樹應該有不同的偏差?方差配置”等等。 這些啟發在傳統研究中也常見，但 LLM 把它們組合成了新的結構。

這些模型的存在說明，OMEGA 不只是能生成“能跑的模型”，而是能生成“有想法的模型”。 這才是自動化算法發現最令人興奮的地方。

05 LLM 生成能力比較與自我改進實驗，Prompt 比代碼更重要

當我們看到 OMEGA 能自動生成算法時，心里自然會冒出一個問題。 到底是哪家的 LLM 更會寫算法？ 是 Gemini 的工程基因更強，還是 GPT 的推理能力更穩，或者 Claude 的邏輯性更好，亦或是 grok 的速度優勢能帶來意外驚喜？ 研究團隊把這四個模型放在同一條跑道上，讓它們在相同的提示下生成算法，再經過自愈循環和統一評測體系，最終比拼“誰寫出來的模型更能打”。

結果很快就顯現出來。 Gemini 2.5 Flash 的平均表現最強，穩定性也最好。 GPT?4.1 mini 緊隨其后，整體表現均衡。 Claude Sonnet 4.5 偶爾能寫出很有想法的結構，但波動稍大。 grok?code?fast?1 則像一位靈感型選手，有時能跑出驚喜，有時也會掉鏈子。

表1:LLM中模型生成提示的得分（以每個提示中表現最佳的LLM加粗）。

但真正值得關注的不是“誰贏了”，而是“差距其實沒有想象中那么大”。 這說明一個非常關鍵的事實。在OMEGA這種結構化框架里，LLM的差距被大幅縮小，提示（prompt）的質量反而成為決定性因素。LLM 寫算法這件事，已經從“比模型”變成了“比提示”。 這是一種范式變化，也是一種能力遷移。 未來誰能寫出更好的 prompt，誰就能讓 LLM 發揮更大的創造力。

圖5:OMEGA提示和代碼改進實驗。

Prompt Improvement vs Code Improvement

為了進一步驗證“提示是否比代碼更重要”，研究團隊做了一個非常聰明的實驗。 讓 LLM 自己改 prompt。 再讓LLM 自己改代碼。 然后比較兩種方式帶來的性能提升。

結果非常清晰，改prompt的提升幅度普遍大于改代碼。

為什么會這樣？ 因為 prompt 決定的是“算法空間”。 它影響的是 LLM 會往哪個方向思考，會采用什么結構，會選擇什么策略。 這是一種“高維度的改變”，像是給模型換了一個新的世界觀。 而代碼改進更多是“修補實現”，比如修 bug、補邏輯、改變量名。 它改變的是細節，而不是方向。

不同 LLM 的表現也不一樣。 Claude 在 prompt 改進上的提升最明顯，說明它對提示的敏感度更高。 GPT 的提升也很穩定，屬于“越指導越聰明”的類型。 Gemini 本來就強，提升幅度相對有限，但依然能從 prompt 改進中獲益。 grok?code?fast?1 在 prompt 改進上甚至出現了負提升，說明它對提示的依賴方式更特殊，也更容易“跑偏”。

這個實驗的意義非常深遠。 它告訴我們，未來的自動化算法發現系統，核心競爭力不在于 LLM 本身，而在于prompt 的設計能力。 這意味著 prompt engineering 不會消失，反而會成為“自動化科研”的關鍵技能。

06 OMEGA 的價值、局限與方向

OMEGA 的出現讓人興奮，它讓“AI 自動發明算法”從概念變成了一個可運行的系統。 但作為研究者，我們也必須冷靜地看到它的邊界。 任何技術的突破，都伴隨著新的問題和新的挑戰。

方法學局限

OMEGA 目前只在表格型分類任務上驗證，這類任務結構清晰、特征獨立、接口統一，非常適合自動化算法生成。 但它無法代表圖像、文本、時間序列等更復雜的任務，這些任務需要深度網絡、需要 GPU、需要更復雜的訓練流程。 未來要擴展到這些領域，難度會成倍增加。

另一個問題是“創新度判定”。 LLM 生成的算法到底算不算“新算法”？ 是結構創新，還是已有方法的組合？ 這在學術界是一個敏感問題，也需要更嚴格的算法分類與創新性檢測機制。

自愈循環也有潛在風險。 LLM 可能為了“讓代碼能跑”而犧牲算法邏輯，甚至可能陷入“錯誤過擬合”，不斷修補錯誤，卻沒有真正提升算法本身的質量。

最后是代碼安全與依賴風險。 自動生成代碼意味著自動生成依賴，這可能帶來安全隱患、版本沖突、不可控行為。 未來必須加入更嚴格的沙箱機制與靜態分析工具。

工程與實踐挑戰

生成代碼的可維護性是一個現實問題。 LLM 寫的代碼往往缺乏注釋、缺乏結構化設計、缺乏長期維護性，這對工程團隊來說是一個挑戰。

依賴漂移也是一個潛在風險。 LLM 生成的代碼可能依賴某個版本的 sklearn 或 numpy，一旦版本更新，模型可能無法運行。 這需要更強的版本鎖定與兼容性檢測。

運行成本也不容忽視。 自動生成算法意味著大量 LLM 調用，這在工業環境中成本不低。 未來需要更高效的本地模型或緩存機制。

未來研究方向

OMEGA 的潛力遠不止于此，它可能成為“AI 科學家”的基礎模塊。 未來有幾個方向非常值得期待。

一個方向是擴展到深度學習架構生成，讓 LLM 不只是寫 sklearn 模型，而是寫 PyTorch 或 JAX 的網絡結構。 這將真正打開“自動化深度學習架構發現”的大門。

另一個方向是引入形式化驗證，讓生成的算法不僅能跑，還能被數學證明是正確的。 這對安全關鍵領域尤其重要。

第三個方向是構建更強的自動化評測體系，不僅評測準確率，還評測魯棒性、可解釋性、訓練成本、推理效率等多維指標。

最后一個方向是結合多智能體，讓多個 LLM 扮演不同角色，一個負責想法，一個負責代碼，一個負責調試，一個負責評測，真正形成一個“AI 研究團隊”。（END）

參考資料： https://arxiv.org/pdf/2604.26211v1

關于波動智能——

波動智能旨在建立一個基于人類意圖與反應的真實需求洞察及滿足的價值體系，融合人工智能與意識科學，構建覆蓋情緒識別、建模與推薦的智能引擎，自主研發面向社交、電商等場景的多模態意圖識別引擎、意圖標簽系統及意圖智能推薦算法，形成從情緒采集、意圖建模到商業轉化的完整解決方案。波動智能提出“意圖是連接人、物與內容的新型接口”，其產品廣泛應用于AI社交、個性化內容推薦、虛擬陪伴、電商體驗優化等領域。波動智能正在探索“EMO-as-a-Service”技術服務架構，賦能企業實現更高效的用戶洞察與精準情緒交互，推動從功能驅動到意圖驅動的產業范式升級。

親愛的人工智能研究者，為了確保您不會錯過*波動智能*的最新推送，請星標*波動智能*。我們傾心打造并精選每篇內容，只為為您帶來啟發和深思，希望能成為您理性思考路上的伙伴！

加入AI交流群請掃碼加微信