【環(huán)球網(wǎng)科技綜合報道】近日,開源AI智能體OpenClaw(網(wǎng)友戲稱為“賽博龍蝦”)迅速走紅網(wǎng)絡(luò)。隨著應(yīng)用熱度持續(xù)攀升,從企業(yè)到個人開發(fā)者,部署OpenClaw正成為新的趨勢。該工具通過整合通信軟件與大語言模型,能夠在用戶電腦上自主執(zhí)行文件管理、郵件收發(fā)、數(shù)據(jù)處理等復(fù)雜任務(wù),展現(xiàn)出強(qiáng)大的自動化能力。與此同時,智能體能夠直接調(diào)用系統(tǒng)資源并自主執(zhí)行指令,這也帶來了新的安全挑戰(zhàn)。
![]()
工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺此前已發(fā)布相關(guān)安全預(yù)警。中國信息通信研究院副院長魏亮提醒,即使升級到官方最新版本修復(fù)已知漏洞,也并不意味著安全風(fēng)險完全消除。由于智能體具有自主決策、調(diào)用系統(tǒng)資源以及技能包來源復(fù)雜等特點,如果缺乏有效防護(hù)措施,仍可能引發(fā)數(shù)據(jù)泄露或系統(tǒng)被控制等安全問題。
3月10日,國家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布《關(guān)于OpenClaw安全應(yīng)用的風(fēng)險提示》,表示該類智能體在運行過程中通常需要被授予較高系統(tǒng)權(quán)限,例如訪問本地文件系統(tǒng)、讀取環(huán)境變量、調(diào)用外部API以及安裝擴(kuò)展插件等。如果默認(rèn)配置缺乏必要的安全限制,攻擊者一旦利用漏洞突破防護(hù),可能獲得系統(tǒng)的完全控制權(quán),進(jìn)而造成數(shù)據(jù)泄露或業(yè)務(wù)系統(tǒng)失控等嚴(yán)重后果。
全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在近期接受媒體采訪時也說道,OpenClaw等AI智能體雖然擁有較大的創(chuàng)新潛力,但目前仍處于發(fā)展初期階段,使用門檻較高、結(jié)果穩(wěn)定性不足,底層安全機(jī)制仍有待進(jìn)一步完善。如果缺乏有效管控,讓智能體隨意與外部系統(tǒng)交互,或在公開環(huán)境中執(zhí)行復(fù)雜任務(wù),可能導(dǎo)致用戶密碼、API密鑰等敏感信息被誘導(dǎo)泄露。此外,OpenClaw支持通過外部“技能包(Skill)”擴(kuò)展能力,但部分技能來源復(fù)雜,如果缺乏審核機(jī)制,存在被植入惡意代碼的風(fēng)險。周鴻祎形象地將AI智能體比作剛?cè)肼毜摹皩嵙?xí)生”,既需要持續(xù)訓(xùn)練,也必須建立嚴(yán)格的規(guī)則約束,并提醒用戶:“養(yǎng)龍蝦,需謹(jǐn)慎。”
針對這一新型安全挑戰(zhàn),360集團(tuán)率先發(fā)布《OpenClaw安全部署與實踐指南》(以下簡稱“指南”),為政企機(jī)構(gòu)和個人開發(fā)者提供系統(tǒng)化的安全參考。360表示,AI智能體越接近“數(shù)字分身”,一旦被攻擊者控制,其潛在破壞力也越大,因此在部署初期建立安全機(jī)制尤為關(guān)鍵。
在《指南》中,360總結(jié)了當(dāng)前AI智能體部署面臨的多類典型風(fēng)險,包括公網(wǎng)管理接口暴露、API Key等身份憑證泄露、底層Shell工具調(diào)用越權(quán)、提示詞注入攻擊、記憶模塊被惡意投毒、第三方技能插件供應(yīng)鏈風(fēng)險以及多智能體協(xié)同失控等問題。其中,提示詞注入和插件供應(yīng)鏈攻擊被認(rèn)為是當(dāng)前最容易被忽視、卻危害較大的新型攻擊方式。一旦被利用,攻擊者可能誘導(dǎo)智能體執(zhí)行非預(yù)期指令,甚至長期操控其行為。
![]()
為了幫助企業(yè)團(tuán)隊和OPC(一人公司)創(chuàng)業(yè)者在保障安全的前提下使用AI智能體,360在《指南》中提出“先可控、再提效”的原則。針對個人開發(fā)者和小型團(tuán)隊,指南建議避免直接在本機(jī)高權(quán)限運行智能體,而是通過容器化技術(shù)構(gòu)建隔離環(huán)境,并結(jié)合最小權(quán)限策略、密鑰加密注入和關(guān)鍵配置文件防篡改等措施,為OpenClaw搭建安全運行基礎(chǔ),從而在不增加復(fù)雜度的情況下有效降低風(fēng)險。
對于政企級多智能體協(xié)同應(yīng)用場景,360則提出基于零信任理念的整體安全架構(gòu):在系統(tǒng)邊界部署安全網(wǎng)關(guān),對智能體所有出入流量進(jìn)行統(tǒng)一控制并實施數(shù)據(jù)防泄漏檢測;在平臺內(nèi)部建立多租戶與RBAC細(xì)粒度權(quán)限管理機(jī)制,實現(xiàn)管理員、安全審計員、工具開發(fā)者和業(yè)務(wù)操作人員之間的權(quán)限分離;同時將智能體關(guān)鍵操作日志接入企業(yè)安全運營平臺,通過行為基線分析及時識別異常操作,實現(xiàn)對高風(fēng)險行為的實時預(yù)警與攔截。
業(yè)內(nèi)專家認(rèn)為,以O(shè)penClaw為代表的AI智能體有望像當(dāng)年的云計算一樣深刻改變各行業(yè)的生產(chǎn)方式,但安全能力必須同步建設(shè)。只有在部署初期建立完善的安全機(jī)制,才能避免在規(guī)模化應(yīng)用后付出更高的風(fēng)險成本。隨著各地持續(xù)加碼支持AI智能體產(chǎn)業(yè)發(fā)展,360發(fā)布的這份安全部署指南也為行業(yè)提供了重要參考,為企業(yè)和開發(fā)者在快速創(chuàng)新與安全可控之間提供了一條可行路徑。(古雨)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.