江天驕接受《人民日報海外版》采訪，解讀國際社會多元求解AI安全命題

從聯合國設立“人工智能獨立國際科學小組”與“人工智能治理全球對話”機制，到各國近期密集出臺法規、針對AI智能體發布安全風險提示等，國際社會正以多種路徑探索AI安全治理之道。國際社會AI治理呈現怎樣的階段性特征？進入2026年，AI治理面臨哪些新挑戰，當前有哪些治理新趨勢？圍繞這些話題，《人民日報海外版》邀請專家進行解讀。

圖為二〇二五年十一月六日，觀眾在二〇二五年世界互聯網大會“互聯網之光”博覽會現場參觀。新華社記者 黃宗治攝

AI治理頻出新

隨著人工智能技術快速迭代，近期國際社會圍繞“管什么”“怎么管”正邁入新一輪探索期。從多邊機制到各國出臺綜合性法案與場景化專門立法，一系列新動向引發關注。

不久前，聯合國大會任命“人工智能獨立國際科學小組”40名成員，包括機器學習、數據治理、公共衛生以及人權等領域專家。聯合國秘書長古特雷斯發表聲明表示，2025年8月，聯合國大會就全球人工智能治理通過決議，正式設立“人工智能獨立國際科學小組”和“人工智能治理全球對話”機制。科學小組將負責評估人工智能的風險、機遇與影響。

日前，歐盟理事會就一項簡化部分人工智能監管規則的提案達成一致，主要涉及精簡歐盟人工智能監管框架、減輕企業合規負擔、禁止利用人工智能生成色情內容等。歐盟理事會表示，該提案是歐盟委員會“綜合簡化一攬子計劃”立法方案中的一部分，是對歐盟《人工智能法案》部分內容作出的調整。

與此同時，美國多個州也出臺針對專門場景的立法。據美媒報道，紐約州議會擬出臺法案，禁止 AI 聊天機器人提供法律或醫療建議，允許用戶對違規的聊天機器人運營方提起訴訟。另據美國《新聞周刊》網站報道，美國多個州今年還將發布立法，要求AI陪伴系統履行安全信息披露義務并建立防護機制。

近期，多國也分別發布AI相關立法與治理措施。3月1日，越南《人工智能法》正式生效。外媒報道稱，該法為東南亞首個以專門立法方式確立的較為完整的人工智能監管框架。此外，1月22日，針對AI智能體部署后的潛在風險，新加坡在瑞士達沃斯世界經濟論壇期間發布《智能體人工智能治理示范框架》。同一日，韓國也正式宣布實施《關于人工智能發展和構建信賴基礎的基本法》，要求企業與開發者對“高風險”領域應用AI模型時采取嚴格措施。

中國現代國際關系研究院科技與網絡安全所所長、研究員李艷接受本報記者采訪時表示，當前國際AI治理仍處于探索初期，這符合AI技術與應用的客觀節奏。從技術演進看，AI仍在快速迭代，技術路線和應用場景遠未達到完全穩定與明晰的成熟階段。這意味著，初期的治理面臨“科林格里奇困境”與“步調難題”，即規制的時機與力度一旦把握失當，過早、過嚴可能扼殺技術創新、制約產業發展；反之則難以有效管控風險，或極大推升治理成本與難度。

“在此階段，各國AI治理呈現鮮明的分散化與異質化特征。從治理路徑看，尚無統一模板，各國均在探索符合自身國情與發展定位的治理模式，初步形成了‘監管偏好型’‘發展優先型’‘發展與安全平衡型’等差異化治理路徑。”李艷說。

復旦大學發展研究院副教授、全球人工智能創新治理研究中心研究員江天驕對本報記者表示，當前，各國在AI治理路徑上表現出不同政策取向。盡管路徑多元，但如何在不挫傷創新活力的同時筑牢安全底線，平衡好發展與安全的關系，正成為各方推動AI治理的共同追求。

“立法追不上代碼”引擔憂

進入2026年，AI治理面臨的挑戰愈發復雜多元。從“AI投毒”到各類應用場景風險，既有治理框架面臨不少新挑戰。年初以來，AI智能體OpenClaw（俗稱“龍蝦”）的快速發展，也讓“立法追不上代碼”的擔憂再度升溫。

日前，哈佛大學、麻省理工學院等多所高校聯合多家機構發布《混沌智能體》研究報告。研究團隊在模擬真實企業生產環境中部署智能體，結果短短兩周內便觸發并記錄下11起嚴重安全漏洞案例。報告認為，超六成企業面對失控的智能體缺乏有效終止能力，AI安全治理體系建設迫在眉睫。

美國紐約大學教授瑪哈·侯賽因·阿齊茲也撰文警告稱，智能體可能遭不法分子大規模利用，網絡安全風險進入全新階段。

江天驕表示，智能體引發更多關于數據安全、隱私保護、網絡攻擊、惡意濫用等連鎖風險的擔憂。這些風險場景已超出傳統治理框架的覆蓋范圍。當用戶為了效率而向智能體讓渡權限，一旦出現安全風險，責任應如何認定？當不法分子濫用智能體實施網絡攻擊、精準詐騙并催生黑灰產業鏈時，亟須一整套從數據到智能體、從責任界定到落實執法的綜合治理框架。

香港中文大學信息工程系副教授周亞金對本報記者表示，早期AI立法主要圍繞模型本身展開，重點關注模型如何處理數據、應用于何種場景。彼時，責任主體相對單一，主要指向模型提供廠商。然而，隨著技術演進、智能體出現，如今的AI已不再局限于單一模型，而是逐漸發展為復雜的生態系統，涵蓋模型提供者、工具開發商、應用開發者、最終部署者（如云服務提供商等）等多個角色，涉及眾多企業和主體。

“在此背景下，責任鏈條正變得模糊不清。”周亞金表示，復雜系統下，不同角色應當承擔何種責任，成為早期立法與相關治理措施未能預見的問題。盡管立法過程中可以嘗試對模型提供者、應用開發者、部署者等角色進行抽象界定，但AI生態發展速度過快，今日抽象出的角色分類，不久后可能就會被新業態突破。立法始終滯后于應用生態演進，這是無法回避的現實，也是當前AI治理面臨的突出挑戰。

李艷表示，2026年，AI治理的核心問題已從技術層面轉向更加綜合的規則制定與秩序構建，呈現三大突出挑戰：一是發展與安全的平衡難題。技術的敏捷迭代與治理的滯后性形成巨大張力，“治理追不上代碼”已成為各國面臨的共同難題。如何在創新紅利與算法黑箱、數據泄露、深度偽造等風險之間劃線，成為各國監管面臨的最大考驗；二是敏捷性治理能力不足。AI技術跨地域、跨場景的快速擴散，超越了傳統行政監管的響應速度，跨國數據流動與算法模型的無邊界性也使國家無法以一己之力解決問題；三是權力與責任的界定模糊。算法責任歸屬、平臺合規義務、通用人工智能風險預案等核心議題，至今仍缺乏全球公認的基準，治理之路任重而道遠。

對話合作仍是必選項

盡管風險挑戰頻現，各國在“邊探索、邊應對”的過程中，仍涌現出不少創新型治理實踐。

其中，監管沙盒作為一種彈性監管工具，正被越來越多國家采用。歐盟《人工智能法案》明確要求建立人工智能監管沙盒機制。西班牙于2023年11月率先啟動歐盟首個AI監管沙盒試點。目前，歐洲多國也在積極推進相關探索。

在中國，2025年12月，國家互聯網信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》，首次在部門規章層面明確“監管沙盒”制度，允許企業在監管機構的監督指導下開展創新試點和安全測試。

江天驕表示，在歐盟、英國、新加坡等地，AI監管沙盒正從試點工具向長期制度化安排升級。這類機制為自動駕駛、AI醫療等特定領域提供了在受控環境中測試技術應用的法律和制度框架，也為技術風險劃定了合理邊界。

監管沙盒之外，場景化的立法也呈快速增長趨勢。例如，美國針對自動駕駛責任、深度偽造分別立法。在中國，今年的全國兩會也就AI生成內容的版權歸屬、算法歧視等專項立法建議進行了廣泛討論。

專家指出，多元的治理路徑并不意味著各行其是，對話與合作對全球至關重要。

“人工智能作為新興技術，天然具備跨領域、跨國界的特性。一國企業開發的模型可為全球用戶提供服務，若各區域立法差異過大，企業合規成本將急劇攀升。因此，尋求對話與合作是必選項。同時，AI帶來的諸多問題本身就需要跨境協作。例如，深度偽造的跨國傳播如何處罰？虛假信息干預他國選舉如何應對？使用AI的網絡攻擊如何防范？這些問題在AI出現前已亟須國際合作，AI的介入更讓這種協作成為必需。”周亞金說。

李艷表示，當前，多國正在探索跨國自愿準則與技術標準的融合。歷史經驗證明，最佳實踐的分享與互鑒是打破治理困境的關鍵。因此，國際對話必不可少。唯有通過多邊機制搭建溝通橋梁，才能彌合不同國家在監管認知上的鴻溝，推動形成兼顧各國國情與全球共同利益的治理規則，避免因治理碎片化引發的失靈甚至失效。

“全球AI治理已有原則性共識，但距穩定成型的治理體系仍有距離。”李艷表示，在此背景下，中國發布《全球人工智能治理倡議》，倡導“秉持共同、綜合、合作、可持續的安全觀，堅持發展和安全并重的原則，通過對話與合作凝聚共識”，為國際社會提供了具有重要參考價值的中國方案。

“從全球范圍來看，AI治理的國際對話越發迫切。”江天驕說，無論是深度偽造、網絡攻擊，還是不法分子濫用引發的更為嚴重的核生化恐怖襲擊，都使全球面臨“一損俱損”的局面。任何一國的監管缺位都可能成為全球風險源。因此，各方急需圍繞各自的監管立法和治理標準進行交流和對話，在AI安全與數據流動等關鍵議題上開展政策協調，逐步建立標準互認和聯合評估機制，推動構建普惠包容的安全與治理體系。

來源 | 《人民日報海外版》（2026年03月21日 第 06 版）

排版 | 蒲云濤