實現AGI 必須消除“鋸齒狀智能”| DeepMind CEO最新對話實錄

4 月7日，谷歌DeepMind CEO Demis Hassabis 接受20VC的訪談。本次對話深入探討了 AGI 的定義與實現時間表、Scaling Law 的收益真相、當前模型缺失的核心認知能力、AI 在生物醫藥與能源領域的顛覆性應用、全球安全監管框架以及 AGI 對勞動力市場的沖擊等話題。

Demis Hassabis 指出，AGI 的標桿應當是實現人類大腦的所有認知能力，且這一目標大概率在未來五年內達成。他認為，雖然 Scaling Law 的性能增幅較初期有所放緩，但其收益依然實質，并未進入所謂的平臺期。

他表示，當前 AI 產業約 90% 的基礎突破源自 Google 研究團隊或 DeepMind，未來幾年的核心競爭壁壘將從單純的算力堆砌轉向發明新算法的能力。他指出，目前的AI能力是鋸齒狀智能，在部分復雜任務中表現優異卻缺乏基礎連貫性。針對這一缺陷，他認為必須攻克持續學習、存儲系統架構以及長程規劃等關鍵技術環節。

針對 AI 驅動的產業革命，Demis Hassabis指出，AI 將開啟科學發現的黃金時代。他認為，通過 AI 對人體代謝的模擬和精準分層，可以有效縮短臨床試驗周期。在能源領域，他預測 AI 對電網效率的提升可達 30% 到 40%，并能通過加速核聚變與材料科學突破，使能源成本大幅降低。

關于開源模型，他直言開源模型在邏輯上將始終落后最前沿商業模型約半年時間，開源更多是作為復刻與消化的過程。此外在監管層面，他提議建立類似國際原子能機構的國際組織，由政府背景的安全研究所進行獨立審計，并設立禁止 AI 輸出非人類可讀機器語言等安全底線。

01

AGI 標桿是實現人類大腦的通用認知能力

關于 AGI 的定義眾說紛紜，目前行業內對其達成共識的標桿是什么？另外，當一些重量級人物預測 AGI 最早可能在 2026 年或 2027 年出現時，這種判斷具有挑戰性，目前我們離 AGI 究竟還有多遠？這種預測是否比你預想的更快，你的看法隨時間變化了嗎？

Demis Hassabis：我們對 AGI 的定義始終如一，即一個能夠展現人類大腦所有認知能力的系統。這一點至關重要，因為大腦是目前宇宙中唯一已知的通用智能存在證明。對我而言，這就是 AGI 應當達到的標桿。

（關于實現時間）我對實現的時間點有一個概率分布預測，我認為在未來五年內有很大機會實現，所以這并不會太久。

（關于看法變化）并沒有。早在 2010 年創立 DeepMind 時，我的聯合創始人、首席科學家 Shane Legg 就在博客中預測過 AGI 的實現時間。在那時幾乎沒人研究 AI，大家都認為這是死胡同。但那些文章至今仍在網上。我們當時根據算力和算法進步的趨勢進行了外推，預測從起步到實現大約需要 20 年。目前看來，我們基本處于這個節奏上。

02

算力瓶頸與 Scaling Law 的真相

站在當下的節點，實現 AGI 最大的瓶頸是什么？此外，很多人暗示我們正撞上 Scaling Law 的天花板并進入平臺期，你認為這是事實嗎？

Demis Hassabis：算力是核心瓶頸。這不僅是為了 Scaling Law 所需的規模擴張，即構建參數量更大的架構來獲得更智能的系統，另一個關鍵用途是實驗。云端算力是我們的實驗室工作臺。當你有了新的算法思路，必須在合理的規模上進行測試，否則該思路在整合進主系統時可能無法成立。對于一個擁有眾多研究者且創意不斷的團隊來說，算力的需求量極其巨大。

（關于 Scaling Law 平臺期）我不這么認為。情況比這更微妙。當頂尖公司剛開始構建大語言模型時，每一代新系統都會帶來性能翻倍的跨越式提升。這種指數級增長在某個點必然放緩，但這并不意味著繼續擴大規模沒有收益。我們和其他前沿實驗室在算力擴張上依然獲得了豐厚回報。盡管目前的提升幅度不如初期那么夸張，但收益依然非常實質。

03

核心技術缺失：持續學習與鋸齒狀智能

在目前的 AI 發展中，哪些領域的發展進度落后于你的預期？為什么我們現在還無法實現持續學習？你最期待的下一個突破是持續學習嗎？

Demis Hassabis：事實上，大部分領域的進展都超前了。看看現在的視頻模型，或者我們最新的交互式世界模型 Genie。如果 5 到 10 年前你給我展示這些，我會感到非常驚人。我認為大多數領域的進度都超過了行業預期。但確實還有一些核心環節缺失，比如持續學習。目前的系統在完成訓練并發布后就停止學習了，它們不擅長在后續過程中吸收新知識，我認為這是一個缺失的關鍵能力。

（關于持續學習的難點）大家還沒搞清楚如何將新知識整合進一個已經訓練了數月的現有系統。所有頂尖實驗室都在攻克這個難題。人類大腦處理得非常優雅，可能是通過睡眠和強化學習來實現的。在大腦的鞏固過程中，白天的記憶會被重放并整合進現有的知識庫。我一直在想，也許我們也需要類似的機制來融合新信息與現有知識。

（關于下一個突破點）缺失的東西還有很多。除了持續學習，我認為探索不同的存儲系統也大有可為。目前的“長上下文窗口”過于簡單粗暴，只是把所有內容塞進去，我認為還有更多有趣的架構值得發明。此外還有長期規劃和分層規劃，目前的系統還不擅長進行跨度長達數年的規劃，而人類大腦可以。最后還有一個核心問題是連貫性。我有時將現在的系統稱為鋸齒狀智能，因為如果你換一種方式提問，它們在一些基礎問題上依然會失敗。真正的 AGI 不應該存在這種短板。

04

組織整合與技術護城河

DeepMind 近幾年實現了爆發式的進步，是什么促使了這種變化？關于模型能力的商品化趨勢，你認為未來是差距縮小，還是會有少數公司持續領先？此外，你如何看待開源的未來，尤其是開源模型通常比前沿模型落后一步的現狀？

Demis Hassabis：我們進行了一些組織架構調整。Google 和 DeepMind 一直擁有最深厚、最廣泛的研究底蘊。過去 15 年里，現代 AI 產業約 90% 的底層突破都出自 Google Brain、Google Research 或 DeepMind。從 AlphaGo、強化學習到 Transformer，這些關鍵節點都是由我們打下的。如果未來有任何缺失的拼圖，我有信心由我們來完成。我們匯聚了公司各處的頂尖人才，整合了所有算力資源來打造最強的模型，而不是讓公司內部存在多個分散版本。我們像初創公司一樣以極快的節奏和專注度推進，從而重新回到了行業最前沿。

（關于競爭差距）我覺得包括我們在內的三四家領先實驗室正在拉開差距。因為現有的 AI 工具如編程和數學工具，本身就能輔助開發下一代系統。從舊思路里榨取收益變得越來越難，因此那些具備發明新算法能力的實驗室在未來幾年將擁有更大優勢。

（關于開源格局）格局應該會和現狀類似。我們是開放科學和開源模型的支持者，從 Transformer 到 AlphaFold，我們向世界分享了很多成果。我們計劃在 AI 應用于科學領域繼續這樣做。但你會發現開源模型通常比最前沿的商業模型落后一步，開源社區通常需要大約半年時間來消化并復刻前沿思路。不過我們也在大力推廣 Gemma 這一系列開源模型，力求在同等規模下做到世界最強。它們非常適合開發者、學術界以及邊緣計算場景。

05

AGI后的世界

關于大語言模型之后的世界，Yann LeCun 持有不同觀點，你認為大語言模型在未來的 AGI 系統中是唯一的核芯組件，還是僅僅作為系統的一部分？此外，如果 AGI 在五年內實現，你眼中的世界是怎樣的？

Demis Hassabis：我在某些方面不太同意 Yann 的看法。雖然有五成可能我們需要在世界模型等新路徑上取得突破，但我堅信基礎模型已經證明了自己的成功，這種范式不會消失。Scaling Law 依然有效。真正的問題在于，未來的 AGI 系統中，大語言模型是唯一的核芯組件，還是僅僅作為系統的一部分。我認為它不會被取代，而是會成為未來系統的基石。

（關于五年后的世界）AGI 將成為科學和醫學研究的終極工具。無論是加速科學發現還是尋找疾病的治愈方法，我們都需要這種技術。我希望在五年后我們能進入科學發現的黃金時代。

06

AI 驅動的醫療革命與監管流程優化

藥物研發通過臨床試驗的過程極其漫長，從新藥研發到患者受益往往需要十年之久，AI 如何解決這一效率瓶頸，從而真正實現醫療革命？

Demis Hassabis：我們快要突破這個瓶頸了。在 AlphaFold 攻克蛋白質折疊后，我們成立了 Isomorphic Labs，致力于解決藥物研發中的化學設計、化合物合成、毒性檢測等環節。未來 5 到 10 年，這套藥物設計引擎就能成熟。臨床試驗確實耗時，但 AI 可以通過模擬人體代謝、對患者進行精準分層來加速這一過程。真正的革命會發生在第一批 AI 研發藥物成功上市后。屆時監管機構有了驗證模型的預測數據，未來我們可以直接信任模型的預測，從而跳過動物實驗或加速給藥階梯。我們要分兩步走，先攻克藥物設計，再優化監管流程。

07

AI 安全與國際協作監管

斯蒂芬·霍金曾警告說 AI 的發展必須一次做對，因為可能沒有第二次機會，你認同這種關于 AI 安全的擔憂嗎？在這種背景下，什么是你認為的“正確監管”？

Demis Hassabis：完全認同，這就是我們面對的賭注。我有兩大擔憂，一是壞人對這種雙用途技術的濫用，二是技術風險。當系統在通往 AGI 的路上變得更加自主、更具 Agent 屬性時，我們能否將其限制在安全護欄內？正確的監管至關重要，它能為領先供應商劃定最低標準，但這必須是國際協作。

（關于正確監管的定義）在人類歷史上最重要的技術出現時，國際局勢趨于碎片化，這確實很瘋狂。這不理想，但我們必須盡力達成一套底線標準，例如禁止構建具備欺騙能力的系統。理想狀態是建立國際化的認證體系，證明模型具備特定的安全保障，讓用戶和企業放心使用。這必須是國際性的，因為技術本身是不分國界的。

在邏輯嚴密的模擬經營系統中，誰能充當 AGI 最終的驗證系統和真實性的仲裁者？如果你有一根專門用于 AI 安全領域的“魔杖”，你最想實施什么樣的國際協作方案或技術監管程序？

Demis Hassabis：最終必須由政府承擔這一職責。而能夠執行具體技術工作的機構，應該是像人工智能安全研究所這類專業組織。目前已有國家在政府領導下設立了這類機構，且表現卓越。其他擁有頂尖研究實力的領先國家也應設立配備高水平研究人員的對等機構。這些機構能夠根據特定基準對 AI 進行實際評估和審計，獨立檢查其是否達到了相應標準。

（關于安全方案）我們需要某種國際組織，類似于國際原子能機構，讓各國的安全研究所將信息匯集于此。科研界也必須參與其中，共同制定衡量系統特質與能力的正確基準。此外還應設立其他防護措施，例如 AI 不應輸出非人類可讀的 Token。如果 AI 以人類無法理解的機器語言進行交流，將引入新的安全風險。大多數領先的實驗室都會同意避免此類行為。監管機構應針對這些方面進行測試，以增強公眾信心。學術界和民間社會也應參與進來，共同確保這些日益強大的系統已經通過了獨立的審計與檢查。

08

勞動力市場的結構性變革

科學將是未來五年最令人興奮的領域之一。但勞動力替代是一個核心擔憂。有觀點認為人類總能克服它，但當你看到這些系統展現出的驚人能力時，你如何看待其對勞動力市場的影響？

Demis Hassabis：在過去，每一項革命性技術都會帶來大量的職業干擾，這次也必然會發生。許多舊崗位會消失或不再可行。但歷史經驗表明，隨后會涌現出一系列此前無法想象的新型崗位，且通常質量更高、薪酬更豐厚。當然，必須謹慎評估“這次是否有所不同”。雖然有人認為這與過去互聯網或移動通信的突破無異，但我認為這次變革的規模會超過以往任何一次。我有時將 AGI 的到來形容為“以 10 倍的速度實現 10 倍規模的工業革命”，原本跨越一個世紀的變革將在十年內展開。工業革命曾引起巨大動蕩，但也帶來了巨大進步。如果沒有工業革命，我們就沒有現代醫學，在那之前兒童死亡率高達 40%。我們肯定不希望這些進步從未發生，但理想情況下，這次我們應該比歷史上更好地緩解其副作用。

很多人認為我們總是高估一年的變化，而低估十年的成就。這在 AI 領域是否依然適用？它的到來是否比我們想象的更快？

Demis Hassabis：這依然是真理。雖然 AI 發展的短、長期時間線都比以往技術更緊湊，但就目前及未來一年而言，AI 領域確實存在過度炒作的成分。但在另一方面，我依然認為，在未來十年的尺度上，這場革命的徹底性仍被嚴重低估。即便在今天，AI 領域依然存在這種短期高估與長期低估并存的局面。

09

AI 創造的價值將遠超其能源成本并帶來可再生免費能源

除了勞動力市場，人們還擔心收入不平等和財富向少數巨頭集中。結合工業革命的歷史，你認為這種趨勢會如何演變？此外，我們該如何解決 AI 革命帶來的前所未有的能源需求？

Demis Hassabis：實現財富普惠有不同的路徑。例如，養老基金或主權財富基金應買入大型 AI 公司的股份，確保全民都能分享增長紅利。這是投資層面的解決方案。此外，如果 AI 帶來了巨大的生產力爆發，我們需要思考如何重新分配收益。例如利用這些額外的生產力增長來提升基礎設施。在未來 5 到 10 年，可能會出現不可思議的突破，例如可再生免費能源。我們正通過合作伙伴共同致力于核聚變研究。AI 還將推動超導體、新型電池和材料科學的突破，這些都將徹底改變經濟本質。

（關于能源需求）實際上，從中長期來看，AI 創造的價值將遠超其能源成本。我們正在通過 AI 優化現有基礎設施和電網，預計能將效率提升 30% 到 40%。此外，我們擁有全球領先的氣候與天氣建模系統，可以精準應對環境變化。最令人興奮的是，在 AI 的輔助下，核聚變、新型電池和超導體等突破性技術將加速實現。屆時，人類將擁有前所未有的能源保障，這不僅能解決環境問題，還能讓太空探索變得極度廉價。如果你擁有核聚變能源，海水就可以被轉化為取之不盡的火箭燃料。

10

歐洲市場和終極醫療目標

歐洲會有市值萬億美元的公司嗎？如果再次動用魔杖，你會如何注入成長心態，以孕育萬億級公司？

Demis Hassabis：目前還沒有，但我認為 Spotify 等公司都有機會。我正試圖通過 Isomorphic 來實現這個目標，它具備這樣的潛力。歐洲的挑戰在于市場相對分散，我們需要克服這一點，例如通過制度創新來整合市場。

我們在初創階段表現出色，但當公司需要跨越鴻溝成為全球巨頭時，缺乏支持十億美元級融資的資本市場。這是我 10 年前融資時感受到的缺失，現在依然存在。我們需要更大膽的雄心和更深厚的資本支持。

在醫療革命方面，你最期待根除什么疾病？你在思考哪些別人尚未關注的問題？

Demis Hassabis：我想從根本上治愈癌癥。Isomorphic 正在構建的是通用型藥物設計平臺，旨在攻克從神經退行性疾病到心血管、免疫學和癌癥的所有領域。雖然這聽起來像陳詞濫調，但這是我們的真實目標。

很多人在談論經濟影響，但我更擔心 AGI 帶來的哲學問題。當技術和經濟問題解決后，我們將面臨關于生命意義、目標以及意識本質的終極追問。做人意味著什么？我們需要新的哲學家來指引方向。

| 文章來源：數字開物

【AI技術與應用交流群｜僅限受邀加入】

AI算力領域TOP級從業者專屬圈層

√ 與頭部算力企業深度對話

√ 與AI上下游企業深度對話

√ 獲取一手全球AI與算力產業信息

√ 獲取AI熱點及前沿產業獨家信息

√ 隨時了解全球AI領域高管最新觀點及實錄全文

√ 有機會參與AI主題產業交流活動

掃碼驗證身份（需備注姓名/公司/職務

不止有 DeepSeek，更有 AI產業的未來！

? END?

【專欄】精品再讀