黑盒式人工智能的終結(jié)？科學(xué)家開發(fā)出一種透明系統(tǒng)藍(lán)圖，該系統(tǒng)能夠揭示其學(xué)習(xí)及決策過程

人工智能生成的透明人工智能與“黑箱”人工智能對比圖。圖片來源：拉夫堡大學(xué)

來源：https://techxplore.com/news/2026-04-black-ai-scientists-blueprint-transparent.html

研究表明，無法解釋其決策過程的人工智能（通常被稱為“黑箱”人工智能）可能很快就會被更透明的系統(tǒng)所取代。拉夫堡大學(xué)發(fā)表在《Physica D: Nonlinear Phenomena》上的一項(xiàng)研究概述了一種構(gòu)建人工智能的全新數(shù)學(xué)藍(lán)圖，該藍(lán)圖能夠揭示人工智能如何學(xué)習(xí)、記憶和做出決策。

一個具有透明思維的原型

該團(tuán)隊(duì)開發(fā)了一種兼具“大腦”和記憶功能的原型系統(tǒng)。與傳統(tǒng)人工智能不同，它可以持續(xù)學(xué)習(xí)而不丟失過去的知識，避免形成虛假或誤導(dǎo)性的記憶，并以清晰、可控的方式模仿人類思維的某些方面——例如隨著時間的推移強(qiáng)化或遺忘信息。

“長期以來，人們一直將智能視為一種在黑箱中涌現(xiàn)的東西，”論文第一作者、拉夫堡大學(xué)數(shù)學(xué)科學(xué)系的娜塔莉亞·詹森博士說。“我們希望從根本上重新思考人工智能——我們構(gòu)建了一個認(rèn)知內(nèi)部運(yùn)作完全透明的系統(tǒng)。”

在早期測試中，該原型機(jī)展現(xiàn)出了令人鼓舞的結(jié)果。在簡單的演示中，它無需監(jiān)督即可學(xué)習(xí)音符和短樂句，并能從卡通圖像等視覺數(shù)據(jù)中識別和存儲顏色。在所有任務(wù)中，它的行為都具有可預(yù)測性和可追蹤性，同時避免了人工智能中常見的“災(zāi)難性遺忘”和虛假記憶的形成等問題。

透明學(xué)習(xí)背后的理論

研究人員表示，透明人工智能面臨的主要障礙之一是對自然智能中記憶、行為和物理結(jié)構(gòu)如何相互作用的理解有限。這種理解上的差距使得設(shè)計既能執(zhí)行復(fù)雜任務(wù)又能解釋其執(zhí)行方式的系統(tǒng)變得困難。

這種新方法的核心是一個名為“可塑性矢量場”的數(shù)學(xué)概念，它模擬信息隨時間的變化，并以此反映大腦處理和存儲信息的方式。這使得人工智能學(xué)習(xí)和認(rèn)知過程的每個階段都能被追蹤，并且從一開始就具備了透明度，而非后期添加。

“要構(gòu)建能夠透明且按預(yù)期運(yùn)行的智能系統(tǒng)，我們需要解決一些根本性問題，”詹森博士說。“我們?nèi)绾巫R別人類的智能？通過行為。是什么驅(qū)動了這種行為？大腦活動。但大腦活動本身的基礎(chǔ)是什么？大腦的‘代碼’是什么？記憶和生理結(jié)構(gòu)之間又是如何聯(lián)系的？這些正是我們試圖解答的問題。”

當(dāng)今神經(jīng)網(wǎng)絡(luò)的局限性

研究團(tuán)隊(duì)還考察了現(xiàn)有的神經(jīng)網(wǎng)絡(luò)，發(fā)現(xiàn)它們的許多局限性可能源于它們的設(shè)計方式。

“令人興奮——也有些出乎意料——的是，我們現(xiàn)在可以清楚地看到為什么當(dāng)前的神經(jīng)網(wǎng)絡(luò)難以解釋，”該研究的作者之一、拉夫堡大學(xué)物理系教授亞歷山大·巴拉諾夫說道。“這不僅僅是技術(shù)上的難題。它們的設(shè)計使得我們無法完全控制它們學(xué)習(xí)和存儲信息的方式。這就是為什么像我們這樣的新方法如此重要。”

邁向?qū)嶋H影響的下一步

該原型系統(tǒng)目前仍相對簡單，需要進(jìn)行擴(kuò)展才能應(yīng)用于實(shí)際場景。拉夫堡大學(xué)團(tuán)隊(duì)計劃進(jìn)一步開發(fā)該系統(tǒng)，并探索其更廣泛的應(yīng)用前景——包括應(yīng)用于新型硬件——旨在打造功能強(qiáng)大且更易于理解和信任的人工智能。

巴拉諾夫教授說：“最終，這項(xiàng)研究使我們更接近于人們在日常生活中可以信賴的技術(shù)——從更安全的醫(yī)療保健工具到更負(fù)責(zé)任的自動化決策。”

閱讀最新前沿科技趨勢報告，請訪問21世紀(jì)關(guān)鍵技術(shù)研究院的“未來知識庫”

未來知識庫是 “21世紀(jì)關(guān)鍵技術(shù)研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險等等領(lǐng)域的前沿進(jìn)展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進(jìn)入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費(fèi)閱讀和下載）