![]()
人工智能生成的透明人工智能與“黑箱”人工智能對比圖。圖片來源:拉夫堡大學(xué)
來源:https://techxplore.com/news/2026-04-black-ai-scientists-blueprint-transparent.html
研究表明,無法解釋其決策過程的人工智能(通常被稱為“黑箱”人工智能)可能很快就會被更透明的系統(tǒng)所取代。拉夫堡大學(xué)發(fā)表在《Physica D: Nonlinear Phenomena》上的一項(xiàng)研究概述了一種構(gòu)建人工智能的全新數(shù)學(xué)藍(lán)圖,該藍(lán)圖能夠揭示人工智能如何學(xué)習(xí)、記憶和做出決策。
一個具有透明思維的原型
該團(tuán)隊(duì)開發(fā)了一種兼具“大腦”和記憶功能的原型系統(tǒng)。與傳統(tǒng)人工智能不同,它可以持續(xù)學(xué)習(xí)而不丟失過去的知識,避免形成虛假或誤導(dǎo)性的記憶,并以清晰、可控的方式模仿人類思維的某些方面——例如隨著時間的推移強(qiáng)化或遺忘信息。
“長期以來,人們一直將智能視為一種在黑箱中涌現(xiàn)的東西,”論文第一作者、拉夫堡大學(xué)數(shù)學(xué)科學(xué)系的娜塔莉亞·詹森博士說。“我們希望從根本上重新思考人工智能——我們構(gòu)建了一個認(rèn)知內(nèi)部運(yùn)作完全透明的系統(tǒng)。”
在早期測試中,該原型機(jī)展現(xiàn)出了令人鼓舞的結(jié)果。在簡單的演示中,它無需監(jiān)督即可學(xué)習(xí)音符和短樂句,并能從卡通圖像等視覺數(shù)據(jù)中識別和存儲顏色。在所有任務(wù)中,它的行為都具有可預(yù)測性和可追蹤性,同時避免了人工智能中常見的“災(zāi)難性遺忘”和虛假記憶的形成等問題。
透明學(xué)習(xí)背后的理論
研究人員表示,透明人工智能面臨的主要障礙之一是對自然智能中記憶、行為和物理結(jié)構(gòu)如何相互作用的理解有限。這種理解上的差距使得設(shè)計既能執(zhí)行復(fù)雜任務(wù)又能解釋其執(zhí)行方式的系統(tǒng)變得困難。
這種新方法的核心是一個名為“可塑性矢量場”的數(shù)學(xué)概念,它模擬信息隨時間的變化,并以此反映大腦處理和存儲信息的方式。這使得人工智能學(xué)習(xí)和認(rèn)知過程的每個階段都能被追蹤,并且從一開始就具備了透明度,而非后期添加。
“要構(gòu)建能夠透明且按預(yù)期運(yùn)行的智能系統(tǒng),我們需要解決一些根本性問題,”詹森博士說。“我們?nèi)绾巫R別人類的智能?通過行為。是什么驅(qū)動了這種行為?大腦活動。但大腦活動本身的基礎(chǔ)是什么?大腦的‘代碼’是什么?記憶和生理結(jié)構(gòu)之間又是如何聯(lián)系的?這些正是我們試圖解答的問題。”
當(dāng)今神經(jīng)網(wǎng)絡(luò)的局限性
研究團(tuán)隊(duì)還考察了現(xiàn)有的神經(jīng)網(wǎng)絡(luò),發(fā)現(xiàn)它們的許多局限性可能源于它們的設(shè)計方式。
“令人興奮——也有些出乎意料——的是,我們現(xiàn)在可以清楚地看到為什么當(dāng)前的神經(jīng)網(wǎng)絡(luò)難以解釋,”該研究的作者之一、拉夫堡大學(xué)物理系教授亞歷山大·巴拉諾夫說道。“這不僅僅是技術(shù)上的難題。它們的設(shè)計使得我們無法完全控制它們學(xué)習(xí)和存儲信息的方式。這就是為什么像我們這樣的新方法如此重要。”
邁向?qū)嶋H影響的下一步
該原型系統(tǒng)目前仍相對簡單,需要進(jìn)行擴(kuò)展才能應(yīng)用于實(shí)際場景。拉夫堡大學(xué)團(tuán)隊(duì)計劃進(jìn)一步開發(fā)該系統(tǒng),并探索其更廣泛的應(yīng)用前景——包括應(yīng)用于新型硬件——旨在打造功能強(qiáng)大且更易于理解和信任的人工智能。
巴拉諾夫教授說:“最終,這項(xiàng)研究使我們更接近于人們在日常生活中可以信賴的技術(shù)——從更安全的醫(yī)療保健工具到更負(fù)責(zé)任的自動化決策。”
閱讀最新前沿科技趨勢報告,請訪問21世紀(jì)關(guān)鍵技術(shù)研究院的“未來知識庫”
![]()
未來知識庫是 “21世紀(jì)關(guān)鍵技術(shù)研究院”建 立的在線知識庫平臺,收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級智能,數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險等等領(lǐng)域的前沿進(jìn)展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進(jìn)入。
截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告
(加入未來知識庫,全部資料免費(fèi)閱讀和下載)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.