(記者 林碧涓)如果你最近關(guān)注AI圈,大概率會(huì)被一個(gè)詞刷屏——“養(yǎng)龍蝦”。這款以紅色龍蝦為圖標(biāo)的開(kāi)源軟件OpenClaw,憑借其讓AI智能體接管電腦、自動(dòng)執(zhí)行復(fù)雜任務(wù)的能力,引起人們關(guān)注。在大伙琢磨和如何養(yǎng)龍蝦的時(shí)候,某二手交易平臺(tái)已出現(xiàn)“卸載”選項(xiàng)。
在一場(chǎng)關(guān)于AI Agent 的狂歡下,為何有用戶選擇“棄蝦”?答案是數(shù)據(jù)安全。
工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)專門提示,OpenClaw部分實(shí)例在默認(rèn)或不當(dāng)配置下存在嚴(yán)重安全缺陷,極易誘發(fā)網(wǎng)絡(luò)攻擊與信息泄露。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心也發(fā)布相關(guān)風(fēng)險(xiǎn)提示。
人工智能飛躍式發(fā)展的當(dāng)下,數(shù)據(jù)安全正迎來(lái)新的挑戰(zhàn)。
“養(yǎng)蝦”背后的數(shù)據(jù)安全問(wèn)題
OpenClaw的魅力在于其強(qiáng)大的自動(dòng)化能力。它基于大模型,能理解用戶指令,直接操控計(jì)算機(jī)完成網(wǎng)頁(yè)瀏覽、文件處理、軟件操作等復(fù)雜任務(wù)。理論上,它是你的私人數(shù)字助理,能幫你搞定一切繁瑣工作。但正是這種“深度控制”,埋下了巨大的安全隱患。
第一重:權(quán)限過(guò)度開(kāi)放帶來(lái)的數(shù)據(jù)泄露風(fēng)險(xiǎn)。為了讓AI智能體“啥都能干”,用戶往往需要授予其極高的系統(tǒng)權(quán)限,包括訪問(wèn)文件、讀取數(shù)據(jù)、執(zhí)行程序等。惡意代碼可以借助AI的合法權(quán)限,在用戶毫無(wú)察覺(jué)的情況下,竊取、篡改或加密核心數(shù)據(jù),甚至將終端變?yōu)楣籼澹瑵B透企業(yè)內(nèi)部網(wǎng)絡(luò)。
第二重:交互過(guò)程中的數(shù)據(jù)暴露風(fēng)險(xiǎn)。AI智能體的工作模式是接收用戶指令-上傳至云端或本地模型處理-執(zhí)行操作。如果數(shù)據(jù)傳輸未加密、云端存儲(chǔ)不設(shè)防,或者第三方模型服務(wù)商存在安全漏洞,敏感信息便可能在多個(gè)節(jié)點(diǎn)被截獲或泄露。這個(gè)過(guò)程將增加數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
第三重:自主決策引發(fā)的“誤操作”風(fēng)險(xiǎn)。AI智能體并非真正“理解”數(shù)據(jù),它只是根據(jù)訓(xùn)練模式做出概率判斷。如果智能體在處理任務(wù)時(shí)沒(méi)有嚴(yán)格的權(quán)限控制和數(shù)據(jù)隔離,就可能會(huì)錯(cuò)誤地訪問(wèn)和操作不該處理的數(shù)據(jù)。
OpenClaw事件并非孤例。它只是人工智能大規(guī)模落地應(yīng)用時(shí),數(shù)據(jù)安全挑戰(zhàn)的一個(gè)縮影。對(duì)企業(yè)而言,合規(guī)不是束縛,而是安全的底線。針對(duì)AI智能體帶來(lái)的治理難題,全國(guó)政協(xié)委員、中國(guó)工程院院士吳世忠表示,“可以‘用AI對(duì)抗AI’——比如開(kāi)發(fā)監(jiān)管型智能體,自動(dòng)識(shí)別、阻斷惡意智能體的協(xié)同行為。”
以AI治AI,固本強(qiáng)基
當(dāng)AI安全風(fēng)險(xiǎn)從個(gè)人終端爬進(jìn)企業(yè)內(nèi)網(wǎng),傳統(tǒng)的邊界防御模型已然失效。防火墻無(wú)法攔截合法權(quán)限下的惡意操作,入侵檢測(cè)系統(tǒng)也難以識(shí)別AI自主決策中的異常行為。面對(duì)這一新挑戰(zhàn),構(gòu)建主動(dòng)、智能、一體化的安全防護(hù)體系成為必然選擇。
通信運(yùn)營(yíng)商作為“網(wǎng)絡(luò)管道守護(hù)者”,在AI安全治理中具有天然優(yōu)勢(shì)。在這方面,中國(guó)電信早已積極實(shí)踐,并已構(gòu)建“云、網(wǎng)、邊、端、數(shù)、智、安”七位一體的縱深防御體系,加快提升關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)能力。
在云端,中國(guó)電信在行業(yè)內(nèi)開(kāi)創(chuàng)性建成云網(wǎng)安全中臺(tái),建成覆蓋31個(gè)省(區(qū)、市)的安全能力池,實(shí)現(xiàn)了云網(wǎng)安全風(fēng)險(xiǎn)的“可測(cè)、可知、可防、可控”。中國(guó)電信天翼云正式推出“數(shù)據(jù)安全專區(qū)”,以“產(chǎn)品+服務(wù)”一體化方式,打造“4+7+3”體系架構(gòu)——涵蓋四重核心價(jià)值、七大技術(shù)能力與三大防護(hù)實(shí)踐,系統(tǒng)化構(gòu)建企業(yè)數(shù)據(jù)治理與安全防護(hù)方案,全面應(yīng)對(duì)數(shù)據(jù)安全挑戰(zhàn)。
如今以AI治AI已成為了產(chǎn)業(yè)共識(shí)。中國(guó)電信發(fā)布云安全大模型,賦能500+資源池,AI+威脅研判檢出率超95%,復(fù)雜攻擊識(shí)別能力行業(yè)領(lǐng)先,為數(shù)字生態(tài)織密智能安全防護(hù)網(wǎng)。依托阡陌數(shù)據(jù)集,研發(fā)了“見(jiàn)微”AI大模型安全,具備威脅研判、智能運(yùn)營(yíng)、大模型護(hù)欄、大模型安全測(cè)評(píng)、智能滲透、代碼審計(jì)六大核心能力,能對(duì)國(guó)內(nèi)外主流AI大模型進(jìn)行安全測(cè)評(píng)與防護(hù),并已無(wú)償向全社會(huì)開(kāi)源,推動(dòng)AI大模型健康發(fā)展。
從技術(shù)落地到生態(tài)共建
安全不是紙上談兵,最終要落地到具體的業(yè)務(wù)場(chǎng)景中。中國(guó)電信的數(shù)據(jù)安全實(shí)踐,已經(jīng)覆蓋教育、物流、家庭等多個(gè)領(lǐng)域,形成了一套可復(fù)制、可推廣的解決方案。
在教育領(lǐng)域,天翼云AOne邊緣安全加速平臺(tái)已在全國(guó)數(shù)百所中小學(xué)落地應(yīng)用,成為教育系統(tǒng)網(wǎng)絡(luò)安全建設(shè)的重要支撐;在物流領(lǐng)域,天翼云構(gòu)建數(shù)據(jù)安全“防護(hù)網(wǎng)”,保障中國(guó)物流集團(tuán)核心經(jīng)營(yíng)管理類業(yè)務(wù)、辦公業(yè)務(wù)數(shù)據(jù)在存儲(chǔ)、傳輸和使用中的安全性;面向家庭客戶推出安心翼家等標(biāo)準(zhǔn)化產(chǎn)品,保障家庭網(wǎng)絡(luò)與個(gè)人數(shù)據(jù)安全。
在數(shù)據(jù)治理與人才保障方面,中國(guó)電信同樣走在行業(yè)前列。其已建立數(shù)據(jù)分級(jí)分類標(biāo)準(zhǔn),實(shí)施數(shù)據(jù)最小化采集、存儲(chǔ)與使用,強(qiáng)化敏感數(shù)據(jù)脫敏、匿名化處理,實(shí)現(xiàn)數(shù)據(jù)流轉(zhuǎn)全鏈路可視化、可追溯,明確數(shù)據(jù)主權(quán)與安全責(zé)任,同時(shí)部署數(shù)據(jù)安全審計(jì)、訪問(wèn)控制、異常行為監(jiān)測(cè)等措施,防范數(shù)據(jù)泄露、篡改與濫用。中國(guó)電信高度重視網(wǎng)信安全人才隊(duì)伍培養(yǎng)工作,聚焦安全實(shí)戰(zhàn)場(chǎng)景,重點(diǎn)培養(yǎng)安全人員在復(fù)雜環(huán)境下識(shí)別、分析與解決真實(shí)業(yè)務(wù)風(fēng)險(xiǎn)的技術(shù)能力。公司建成11個(gè)集團(tuán)級(jí)的安全實(shí)驗(yàn)室,推動(dòng)網(wǎng)絡(luò)、數(shù)據(jù)安全、AI安全、視聯(lián)網(wǎng)安全、反詐治理等多項(xiàng)核心能力突破。網(wǎng)信安全骨干人才隊(duì)伍人數(shù)突破千人,并在各類國(guó)家級(jí)競(jìng)賽中屢次斬獲佳績(jī)。
產(chǎn)業(yè)發(fā)展并非一家之功,完善的產(chǎn)業(yè)生態(tài)營(yíng)造,離不開(kāi)“政產(chǎn)學(xué)研用”的深度融合。中國(guó)電信聯(lián)合華為、深信服等企業(yè),為上海智慧城市建設(shè)打造完整數(shù)據(jù)安全防護(hù)體系。此外,中國(guó)電信攜手公安部第三研究所、華為公司等機(jī)構(gòu)多家合作伙伴,發(fā)布了《AI智能體安全治理白皮書》。為AI智能體的安全治理提供了理論框架與實(shí)踐指南。
從個(gè)人到企業(yè),從技術(shù)到制度,從行業(yè)到社會(huì),數(shù)據(jù)安全是一場(chǎng)沒(méi)有終點(diǎn)的馬拉松。當(dāng)AI從工具變?yōu)榛锇椋瑥膱?zhí)行者變?yōu)闆Q策者,我們需要的不僅是更強(qiáng)的算力、更智能的算法,更是能夠與AI共生共長(zhǎng)的安全能力。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.