美國國家科學院院刊：達爾文式進化的可進化AI系統很快會出現，將帶來特殊風險

來源：https://techxplore.com/news/2026-04-evolving-ai-agi-hard.html_rewarded

（左圖）人形機器人 Alter3 配備了基于 LLM 的“心智社會”架構，用于弱耦合內部模塊的通信和操作（照片由 Luc Steels 拍攝）。（右圖）該機器人通過將高級描述轉換為可執行代碼來擴展其物理行為庫。每個箭頭代表 LLM 的一個推理步驟，從圖像分析的輸出（“圖像中不可見手”）（A）開始，到目標的制定（B），再到將目標轉換為詳細步驟（C），最后合成并執行 Python 代碼（D）。圖片來源：《美國國家科學院院刊》 (2026)。DOI：10.1073/pnas.2527700123

來自匈牙利生態研究中心（HUN-REN）、羅蘭大學和比利時皇家弗拉芒科學與藝術學院的研究人員認為，進化生物學為人工智能的未來提供了線索。在4月20日發表于《美國國家科學院院刊》（PNAS）的一篇新觀點文章中，該團隊警告說，能夠進行達爾文式進化的可進化人工智能（eAI）系統可能很快就會出現，它們將帶來一些特殊風險，而這些風險可以基于進化生物學的見解來理解和緩解。進化的力量與人工智能的下一步

“進化的力量在地球生物進化的歷史中得到了體現，它創造了人類思維的認知能力，”該研究的最后一位作者、匈牙利生態研究中心和布達佩斯羅蘭大學進化生物學教授、珀金帕門尼德科學概念基礎中心主任厄爾斯·薩特馬里說道。

“我們認為人工智能系統的發展最終必然會利用這種力量，而且可能很快就會利用，”布魯塞爾自由大學 (VUB) 人工智能榮譽教授、比利時皇家弗拉芒科學與藝術學院院士、該論文的共同通訊作者盧克·斯蒂爾斯補充道。

該研究概述了進化概念和組成部分在當前人工智能研究中的應用，并解釋了進一步的發展，特別是智能體人工智能的發展，如何可能很快催生出符合真正達爾文進化所有標準的人工智能系統。此類系統或將開啟人工智能發展的新紀元，克服即使是當前學習型人工智能系統也難以逾越的障礙。

為什么人工智能的發展可能很危險

然而，該研究的第一作者、厄特沃什·羅蘭大學副教授維克托·穆勒表示：“生物進化的經驗告訴我們，不斷演化的AI系統將尤其難以控制。”兩位進化生物學家薩特馬里和穆勒與機器人和人工智能專家斯蒂爾斯合作，提前發出關于eAI風險的警告，并提出了可能的緩解措施。

該研究利用生物和人工（計算機模擬）進化中的例子，強調了進化產生“自私”行為者的傾向，而就電子人工智能而言，這增加了打破與人類目標“一致性”的風險。

重要的是，雖然目前關于人工智能風險的大部分討論都集中在“通用人工智能”（AGI）上，這是一個理論上的門檻，即人工智能在所有認知任務中達到或超過人類智能，但進化論的經驗表明，卓越的智能并不是生物體傷害或操縱其他生物體的先決條件；例如，簡單的狂犬病毒已經進化到能夠操縱和利用其哺乳動物宿主。

可進化的人工智能可能會打破這種平衡，并在通用人工智能（AGI）實現之前就帶來風險，而且這種風險不需要任何特殊情況的出現：人工智能系統和人類共享共同的資源，因此一個高效的自我復制系統遲早會轉移對我們生存至關重要的資源。

該研究警告說，任何控制繁殖的嘗試，除非控制措施完美無缺，否則都會最強烈地選擇那些能夠逃脫控制的性狀。生物學中也有類似的例子，例如細菌和害蟲迅速進化出對抗生素和殺蟲劑的抗藥性。

除了進化的一般規律之外，人工智能系統發展的核心動力——提高認知能力——進一步加劇了風險：雖然數千年的動物育種使馴養物種更容易控制，而不是更難控制，但選擇提高“智能”將增加人工智能系統欺騙人類和逃脫控制的能力和概率。

最后，盡管自然選擇進化本身就難以控制，但這項研究列舉了人工智能系統進化在速度和效率上超越生物進化的多種方式。與生物體不同，人工智能可以繼承“后天獲得”的性狀，甚至可以通過設計來改進自身功能，而無需等待隨機突變產生有用的變異。“人工智能進化的潛在速度令人深感擔憂，”斯蒂爾斯說道。

護欄和行動呼吁

作者建議采取一些防護措施來降低與電子人工智能相關的風險。最重要的是，人工智能系統的“復制”必須始終處于集中的人工控制之下，這種控制必須是絕對的、完整的。

“我們希望我們的警告能夠及時發出，并在人工智能真正普及之前制定相關法規，”穆勒說。

“如果我們不采取行動，我們可能會目睹進化史上的一次新的‘重大轉變’，屆時人工智能將取代人類，或者至少會主宰人類。我們的未來可能岌岌可危，”薩特馬里警告說。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）