余曉輝在《人民日報(bào)》發(fā)文：以有效治理保障人工智能健康有序發(fā)展

本文來源：人民日報(bào)，2026年4月9日

本賬號接受投稿，投稿郵箱：jingjixuejiaquan@126.com

余曉輝：以有效治理保障人工智能健康有序發(fā)展

當(dāng)前，人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量，正在深刻重構(gòu)全球創(chuàng)新版圖、發(fā)展范式與人類生產(chǎn)生活方式，同時(shí)其廣泛應(yīng)用也帶來一系列風(fēng)險(xiǎn)挑戰(zhàn)。習(xí)近平總書記高度重視人工智能治理，強(qiáng)調(diào)“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系”“形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性”等，系統(tǒng)回答了新時(shí)代為什么要加強(qiáng)人工智能治理、怎樣加強(qiáng)人工智能治理等一系列具有全局性、前瞻性、戰(zhàn)略性的重大理論和實(shí)踐問題，為確保我國人工智能始終沿著有益、安全、公平方向發(fā)展提供了根本遵循。

新形勢下加強(qiáng)人工智能治理具有重要意義

面對人工智能技術(shù)加速迭代、應(yīng)用深度滲透、風(fēng)險(xiǎn)復(fù)雜交織的新形勢，準(zhǔn)確把握人工智能發(fā)展趨勢和規(guī)律，加強(qiáng)人工智能治理，才能切實(shí)推動(dòng)我國人工智能健康有序發(fā)展。

事關(guān)抓住新一輪科技革命和產(chǎn)業(yè)變革戰(zhàn)略主動(dòng)權(quán)。習(xí)近平總書記指出：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量”。當(dāng)前，人工智能技術(shù)創(chuàng)新進(jìn)入密集活躍期，產(chǎn)業(yè)化進(jìn)程加快，為贏得未來發(fā)展先機(jī)創(chuàng)造了有利條件。世界主要大國均在布局加快人工智能發(fā)展，催生智能體、無人駕駛、具身智能、智能穿戴等新領(lǐng)域新賽道，成為改變商業(yè)格局、重塑世界經(jīng)濟(jì)的新場域。加強(qiáng)人工智能治理，構(gòu)建穩(wěn)定、透明、可預(yù)期的治理環(huán)境，能夠?yàn)槠髽I(yè)、科研單位等提供明確規(guī)則指引，使其敢于投入、安心創(chuàng)新，進(jìn)而最大程度激發(fā)創(chuàng)新潛能，提升國家創(chuàng)新體系整體效能，進(jìn)一步夯實(shí)我國人工智能技術(shù)與產(chǎn)業(yè)發(fā)展的根基，并在這場科技競賽中牢牢把握戰(zhàn)略主動(dòng)。

事關(guān)推動(dòng)我國經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展。習(xí)近平總書記強(qiáng)調(diào)：“我們要深入把握新一代人工智能發(fā)展的特點(diǎn)，加強(qiáng)人工智能和產(chǎn)業(yè)發(fā)展融合，為高質(zhì)量發(fā)展提供新動(dòng)能。”人工智能作為發(fā)展新質(zhì)生產(chǎn)力的重要推動(dòng)力，是推動(dòng)產(chǎn)業(yè)智能化升級、培育經(jīng)濟(jì)新增長點(diǎn)的關(guān)鍵動(dòng)能。截至2025年底，我國人工智能企業(yè)超過6000家，形成了從基礎(chǔ)底座、模型框架到行業(yè)應(yīng)用的完整產(chǎn)業(yè)體系。一批國產(chǎn)大模型通過開源戰(zhàn)略引領(lǐng)全球生態(tài)，推動(dòng)人工智能從少數(shù)企業(yè)的尖端科技轉(zhuǎn)變?yōu)榍邪贅I(yè)可便捷調(diào)用的普惠性工具，為我國發(fā)揮超大規(guī)模市場與完整產(chǎn)業(yè)體系優(yōu)勢、實(shí)現(xiàn)換道超車奠定了獨(dú)特生態(tài)基礎(chǔ)。根據(jù)有關(guān)測試，我國的大語言模型基礎(chǔ)能力與美國都居全球前列，模型復(fù)雜推理能力與美國的差距顯著縮小，視頻生成模型能力持續(xù)領(lǐng)先。在此背景下，探索科學(xué)有效的人工智能治理路徑，能夠更好防范風(fēng)險(xiǎn)，營造穩(wěn)定的政策環(huán)境與發(fā)展預(yù)期，構(gòu)建公平公正、健康有序、富有活力的產(chǎn)業(yè)生態(tài)，讓人工智能真正成為驅(qū)動(dòng)經(jīng)濟(jì)提質(zhì)增效、社會(huì)全面進(jìn)步的強(qiáng)大引擎。

事關(guān)維護(hù)國家安全和社會(huì)穩(wěn)定。習(xí)近平總書記指出：“完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)。”當(dāng)前，人工智能安全風(fēng)險(xiǎn)日益凸顯，呈現(xiàn)復(fù)雜性、系統(tǒng)性和泛在化特征。一方面，技術(shù)發(fā)展伴生安全風(fēng)險(xiǎn)，人工智能大模型的內(nèi)在特性增加了安全可控的難度與復(fù)雜性。與傳統(tǒng)網(wǎng)絡(luò)安全相比，人工智能安全領(lǐng)域的攻防非對稱性加劇，技術(shù)安全面臨“易攻難守”新形勢。另一方面，應(yīng)用延展衍生安全新難題。人工智能大模型的廣泛應(yīng)用既帶來應(yīng)用形態(tài)迭代、開源生態(tài)濫用、軟件供應(yīng)鏈漏洞等外部性安全難題，也引發(fā)個(gè)人、群體、社會(huì)多層面次生風(fēng)險(xiǎn)。例如，人工智能擬人化互動(dòng)服務(wù)誘導(dǎo)情感過度依賴現(xiàn)象高發(fā)，智能體任務(wù)失控及安全問題初顯。因此，加強(qiáng)人工智能治理是貫徹落實(shí)總體國家安全觀的內(nèi)在要求，必須建立健全覆蓋從技術(shù)研發(fā)、產(chǎn)品應(yīng)用到社會(huì)影響全鏈條的風(fēng)險(xiǎn)防控體系，確保人工智能始終被用于維護(hù)國家利益和人民福祉。

事關(guān)構(gòu)建人類命運(yùn)共同體。習(xí)近平總書記指出：“人工智能應(yīng)該是造福全人類的國際公共產(chǎn)品”“推動(dòng)各方加強(qiáng)發(fā)展戰(zhàn)略、治理規(guī)則、技術(shù)標(biāo)準(zhǔn)的對接協(xié)調(diào)，早日形成具有廣泛共識的全球治理框架和標(biāo)準(zhǔn)規(guī)范”。當(dāng)前，人工智能發(fā)展處于技術(shù)躍遷、應(yīng)用爆發(fā)、治理探索的關(guān)鍵窗口期，地緣政治動(dòng)蕩和逆全球化思潮，嚴(yán)重影響全球協(xié)作和可持續(xù)發(fā)展。加快推動(dòng)我國人工智能治理理論創(chuàng)新、制度創(chuàng)新、實(shí)踐創(chuàng)新，主動(dòng)提出蘊(yùn)含中國智慧、符合世界各國共同利益的治理方案，有助于構(gòu)建一個(gè)更加公平、合理、包容、共享的全球人工智能治理體系，反對以意識形態(tài)劃線或構(gòu)筑“小院高墻”，防止全球人工智能治理的碎片化和陣營化，展現(xiàn)負(fù)責(zé)任大國擔(dān)當(dāng)，推動(dòng)構(gòu)建人類命運(yùn)共同體。

加強(qiáng)人工智能治理需要把握若干基本原則

有效的治理必須以科學(xué)理念和清晰的原則作為指導(dǎo)。加強(qiáng)人工智能治理，要以習(xí)近平總書記關(guān)于人工智能治理的重要論述為指引，準(zhǔn)確把握以下基本原則。

確立智能向善的價(jià)值取向。加強(qiáng)人工智能治理，應(yīng)確保技術(shù)發(fā)展的最終目的是增進(jìn)人類福祉、推動(dòng)人的全面發(fā)展，實(shí)現(xiàn)智能向善。增進(jìn)人類福祉，就是以人民群眾獲得感、幸福感、安全感為衡量標(biāo)準(zhǔn)，保障各個(gè)社會(huì)群體智能服務(wù)可及性，加速彌合“數(shù)字鴻溝”；推動(dòng)人的全面發(fā)展，就是要保證人的主體性永遠(yuǎn)在場，讓人工智能成為拓展人類認(rèn)知邊界和行動(dòng)能力的“放大器”。只有將以人為本、智能向善作為人工智能治理的價(jià)值取向，才能確保技術(shù)進(jìn)步不偏離人類價(jià)值坐標(biāo)，使人工智能真正成為服務(wù)人民、造福社會(huì)的強(qiáng)大正能量。

貫徹統(tǒng)籌兼顧的系統(tǒng)思維。人工智能發(fā)展和安全具有高度內(nèi)在一致性。從發(fā)展看，人工智能既是事關(guān)國家競爭力和國家安全的戰(zhàn)略性技術(shù)，也是推動(dòng)生產(chǎn)力躍遷的關(guān)鍵通用技術(shù)，不發(fā)展就難以在激烈的國際競爭中占領(lǐng)先機(jī)、贏得優(yōu)勢；從安全看，我國人工智能發(fā)展中面臨的風(fēng)險(xiǎn)觸點(diǎn)多、傳導(dǎo)快，各類風(fēng)險(xiǎn)跨界性、關(guān)聯(lián)性、穿透性較強(qiáng)，堅(jiān)守安全底線才能在技術(shù)變革浪潮中行穩(wěn)致遠(yuǎn)。處理好發(fā)展和安全動(dòng)態(tài)依存的關(guān)系，必須牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)，以前瞻性統(tǒng)籌、整體性謀劃、系統(tǒng)性布局，主動(dòng)構(gòu)建動(dòng)態(tài)適配技術(shù)快速演進(jìn)的治理框架，在可控邊界內(nèi)釋放創(chuàng)新活力。

夯實(shí)良法善治的制度根基。加強(qiáng)人工智能依法治理是堅(jiān)持在法治軌道上全面建設(shè)社會(huì)主義現(xiàn)代化國家的時(shí)代要求，能夠更好為人工智能發(fā)展提供制度保障。從原則要求看，加強(qiáng)人工智能依法治理既要適應(yīng)生產(chǎn)力進(jìn)步所帶來的新需求，也要回應(yīng)技術(shù)產(chǎn)業(yè)發(fā)展伴生的新問題，進(jìn)而實(shí)現(xiàn)以良法善治保障新業(yè)態(tài)新模式健康發(fā)展。從實(shí)踐路徑看，加強(qiáng)人工智能依法治理，需要把握人工智能發(fā)展趨勢和規(guī)律，建設(shè)涵蓋高中低位階的法律法規(guī)、監(jiān)管政策、技術(shù)標(biāo)準(zhǔn)等制度體系，明確數(shù)據(jù)、知識產(chǎn)權(quán)、開源模型等相關(guān)權(quán)責(zé)邊界，統(tǒng)籌推進(jìn)立法執(zhí)法司法普法工作，真正做到科技發(fā)展到哪里、法治建設(shè)就跟進(jìn)到哪里。

創(chuàng)新敏捷動(dòng)態(tài)的治理模式。應(yīng)將包容普惠導(dǎo)向貫穿人工智能治理全過程，推動(dòng)算力、算法、數(shù)據(jù)等核心資源開放共享，降低技術(shù)應(yīng)用門檻；支持開源社區(qū)建設(shè)和公共數(shù)據(jù)集開放，促進(jìn)知識擴(kuò)散與技術(shù)擴(kuò)散；保障各社會(huì)群體在智能時(shí)代的平等參與權(quán)與發(fā)展權(quán)，讓人工智能發(fā)展成果更好惠及全體人民。針對人工智能應(yīng)用的復(fù)雜性與不確定性，加快建立與技術(shù)演進(jìn)相匹配的治理機(jī)制，探索“沙盒監(jiān)管”、觸發(fā)式監(jiān)管等新型監(jiān)管方式，降低制度性成本，為處于初創(chuàng)期、成長期的人工智能技術(shù)和應(yīng)用建立必要的容錯(cuò)糾錯(cuò)機(jī)制，為市場提供穩(wěn)定預(yù)期。

多維協(xié)同推進(jìn)人工智能治理加速落地

理論的科學(xué)性最終要體現(xiàn)為實(shí)踐指導(dǎo)力。貫徹落實(shí)習(xí)近平總書記關(guān)于人工智能治理的重要論述精神，應(yīng)運(yùn)用系統(tǒng)思維，構(gòu)建覆蓋人工智能研發(fā)、部署、應(yīng)用與影響全鏈條的人工智能治理體系。

夯實(shí)數(shù)據(jù)治理基礎(chǔ)。數(shù)據(jù)是人工智能發(fā)展的核心要素與戰(zhàn)略資源，其質(zhì)量、規(guī)模與治理水平直接決定了人工智能發(fā)展的深度與廣度。加強(qiáng)數(shù)據(jù)治理，旨在突破數(shù)據(jù)要素化進(jìn)程中的關(guān)鍵瓶頸，構(gòu)建從原始數(shù)據(jù)到智能價(jià)值的安全可信通道。我國數(shù)據(jù)資源規(guī)模龐大、應(yīng)用場景豐富，為人工智能發(fā)展提供了獨(dú)特優(yōu)勢，但數(shù)據(jù)治理仍面臨挑戰(zhàn)，如數(shù)據(jù)基礎(chǔ)質(zhì)量與供給效率有待提升、數(shù)據(jù)安全威脅持續(xù)演進(jìn)、生成式技術(shù)濫用導(dǎo)致數(shù)據(jù)生態(tài)污染等。為此，要?jiǎng)?chuàng)新數(shù)據(jù)要素市場化配置機(jī)制與生態(tài)，建立數(shù)據(jù)產(chǎn)權(quán)結(jié)構(gòu)性分置制度；開展常態(tài)化的數(shù)據(jù)安全風(fēng)險(xiǎn)評估，對各類數(shù)據(jù)來源開展合規(guī)性審查，提升訓(xùn)練數(shù)據(jù)清洗效能；通過分場景、分層級、分應(yīng)用進(jìn)行數(shù)據(jù)管控，建立數(shù)據(jù)溯源體系，積極回應(yīng)端云協(xié)同等新技術(shù)形態(tài)下用戶數(shù)據(jù)保護(hù)難題，夯實(shí)人工智能發(fā)展的數(shù)據(jù)根基。

提升模型治理效能。人工智能大模型已成為智能系統(tǒng)的核心載體與能力中樞。模型自身的可靠性、安全性與價(jià)值觀等，直接決定了立基于其上所有應(yīng)用的品質(zhì)與安全。因此，模型治理是人工智能治理體系中的關(guān)鍵環(huán)節(jié)。當(dāng)前，模型安全面臨新挑戰(zhàn)，一是模型復(fù)雜度躍升，新型攻擊手段難防御，補(bǔ)丁式防護(hù)思路不適用；二是模型風(fēng)險(xiǎn)識別難度高，一些風(fēng)險(xiǎn)指標(biāo)難量化；三是隨著智能體自主性的增強(qiáng)，其對物理世界和數(shù)字空間的運(yùn)行秩序構(gòu)成潛在威脅。我國已出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識辦法》等文件，推動(dòng)算法備案、大模型安全評估、內(nèi)容標(biāo)識等治理手段取得積極成效。下一步，應(yīng)構(gòu)建制度建設(shè)與技術(shù)創(chuàng)新并重、風(fēng)險(xiǎn)防控與應(yīng)用賦能協(xié)同的模型治理體系。一方面，加強(qiáng)模型安全能力建設(shè)。可加強(qiáng)人工智能測試驗(yàn)證平臺(tái)建設(shè)，支持第三方審計(jì)、評估、認(rèn)證機(jī)構(gòu)發(fā)展，提供模型測試驗(yàn)證、供需對接、內(nèi)容標(biāo)識檢測等服務(wù)，落地模型對抗安全、后門安全、可解釋性等檢測能力，推進(jìn)加固工具等技術(shù)開發(fā)共享。另一方面，可構(gòu)建多主體協(xié)同聯(lián)動(dòng)的模型風(fēng)險(xiǎn)預(yù)警與應(yīng)對機(jī)制。探索推動(dòng)監(jiān)管結(jié)果互認(rèn)，統(tǒng)一監(jiān)管要求與執(zhí)行標(biāo)準(zhǔn)；推動(dòng)企業(yè)定期報(bào)送風(fēng)險(xiǎn)階段性評估報(bào)告，建立完善內(nèi)部監(jiān)測與預(yù)警機(jī)制；充分發(fā)揮行業(yè)組織的協(xié)調(diào)作用，加強(qiáng)對行業(yè)企業(yè)發(fā)展態(tài)勢跟蹤監(jiān)測和合規(guī)評估。

優(yōu)化應(yīng)用治理生態(tài)。隨著“人工智能+”行動(dòng)縱深推進(jìn)，人工智能正加速從“能思考”向“能實(shí)干”轉(zhuǎn)變，應(yīng)用場景持續(xù)擴(kuò)大。這在解放和發(fā)展生產(chǎn)力的同時(shí)，也導(dǎo)致技術(shù)應(yīng)用呈現(xiàn)跨域融合與系統(tǒng)性外溢特征，風(fēng)險(xiǎn)從虛擬數(shù)字空間向物理實(shí)體空間、倫理價(jià)值范疇等不斷擴(kuò)展和深化。優(yōu)化人工智能應(yīng)用治理生態(tài)，應(yīng)確立場景化、精細(xì)化的治理導(dǎo)向，摒棄“一刀切”的監(jiān)管模式，針對不同應(yīng)用領(lǐng)域、具體應(yīng)用場景實(shí)施科學(xué)的分級分類管理；著力厘清人機(jī)協(xié)作新形態(tài)下的權(quán)責(zé)邊界，確保在關(guān)鍵決策節(jié)點(diǎn)上人類始終掌握最終的價(jià)值判斷權(quán)與控制權(quán)，切實(shí)防范技術(shù)失控可能帶來的實(shí)質(zhì)性傷害；致力于維護(hù)公平競爭的市場秩序，營造開放包容的創(chuàng)新環(huán)境，推動(dòng)算力、模型、數(shù)據(jù)等核心要素開放共享，從而實(shí)現(xiàn)人工智能紅利的廣泛覆蓋與社會(huì)公平。

細(xì)化倫理治理要求。人工智能的倫理治理，不僅是技術(shù)規(guī)則的制定，更是價(jià)值秩序的構(gòu)建。從全球來看，關(guān)于算法公平、數(shù)據(jù)隱私、機(jī)器責(zé)任的討論大都深植于各國的歷史文化傳統(tǒng)之中。中華優(yōu)秀傳統(tǒng)文化中蘊(yùn)含的“民為邦本”思想、“厚德載物”精神、“天人合一”理念、“執(zhí)兩用中”方法等，為我們構(gòu)建以人為本、智能向善的倫理框架提供了深厚文化根基。將中華優(yōu)秀傳統(tǒng)文化融入人工智能倫理治理，是形成中國特色治理范式、為全球貢獻(xiàn)中國方案的關(guān)鍵路徑。應(yīng)著力構(gòu)建人工智能倫理治理的文化內(nèi)核，系統(tǒng)挖掘中華優(yōu)秀傳統(tǒng)文化資源，形成一套與社會(huì)主義核心價(jià)值觀相契合的人工智能倫理規(guī)則體系，推動(dòng)研究機(jī)構(gòu)、企業(yè)等將文化倫理理念轉(zhuǎn)化為具體的技術(shù)標(biāo)準(zhǔn)與評估工具，并以多種形式前置到產(chǎn)品開發(fā)流程中。

強(qiáng)化全球治理協(xié)同。人工智能治理關(guān)乎全人類命運(yùn)，是世界各國面臨的共同課題。近年來，受地緣政治、文化傳統(tǒng)、體制差異等影響，全球人工智能治理導(dǎo)向發(fā)生深刻分化。特別是個(gè)別國家采取去監(jiān)管化、去多邊化、出口管制等策略，將人工智能視為大國競爭的戰(zhàn)略工具而非共同治理對象，極大削弱了全球人工智能治理的協(xié)調(diào)性。為此，必須積極落實(shí)《全球人工智能治理倡議》，構(gòu)建開放、公正、有效的治理機(jī)制，從對人類文明進(jìn)步負(fù)責(zé)的高度，加快形成具有廣泛包容性的人工智能治理框架。堅(jiān)定維護(hù)聯(lián)合國在國際治理中的作用，在充分尊重各國國家主權(quán)、法律體系及文化傳統(tǒng)的基礎(chǔ)上，形成具有廣泛共識的國際治理框架和標(biāo)準(zhǔn)規(guī)范。堅(jiān)決反對以意識形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國人工智能發(fā)展。倡導(dǎo)并踐行真正的多邊主義，通過多種方式支持發(fā)展中國家提升人工智能研發(fā)與應(yīng)用能力，確保不同地區(qū)、不同群體公平地獲取和受益于人工智能技術(shù)。 （作者為中國信息通信研究院院長）■

掃碼入群可參加全年至少12場精彩閉門研討