甘肅
隨著AI智能體技術(shù)加速滲透企業(yè)核心業(yè)務(wù)場景，以O(shè)penClaw為代表的自主執(zhí)行型AI正成為新一輪生產(chǎn)力變革的重要引擎。然而，其強(qiáng)大的系統(tǒng)訪問與任務(wù)執(zhí)行能力也帶來了前所未有的安全風(fēng)險——權(quán)限越界、記憶污染、惡意誘導(dǎo)、算力濫用等問題日益凸顯。部分企業(yè)在擁抱效率的同時，低估了潛在治理挑戰(zhàn)。
為此，螞蟻數(shù)科正式推出“蟻天鑒2.0 - 龍蝦衛(wèi)士”AI安全防護(hù)體系，并同步啟動“龍蝦AI安全守護(hù)計劃”，旨在為部署OpenClaw的企業(yè)提供全生命周期、多層次的安全保障。
本次發(fā)布的“claw安全套件1.0”于3月19日正式上線，聚焦三大核心能力：一是“對抗思想變異”，通過精準(zhǔn)識別輸入輸出內(nèi)容，攔截違規(guī)信息與惡意誘導(dǎo)傳播源頭，防止模型被“黑化”；二是“凈化skills倉庫”，基于螞蟻數(shù)科CALIR五維模型框架，對Skills插件進(jìn)行合規(guī)掃描與行為審計，有效識別并阻斷權(quán)限越界、敏感泄露及異常調(diào)用等風(fēng)險；三是“風(fēng)險輿情播報”，通過生成實時風(fēng)險應(yīng)急報告并主動推送，幫助企業(yè)第一時間掌握安全態(tài)勢，實現(xiàn)風(fēng)險的透明化與即時感知，變被動防御為主動應(yīng)對。
為了助力更多企業(yè)低成本完成安全基線建設(shè)，螞蟻數(shù)科同步啟動“龍蝦AI安全守護(hù)計劃”。該計劃將面向首批100家合作企業(yè)，提供為期3個月、總計20萬次的免費龍蝦安全防護(hù)調(diào)用服務(wù)，旨在讓客戶快速體驗企業(yè)級的AI安全保障。
在大模型安全技術(shù)方面，螞蟻數(shù)科憑借領(lǐng)先的技術(shù)實力和解決方案，成功入選IDC《中國大模型安全市場圖譜》?；谡鎸崍鼍暗墓シ澜?jīng)驗，螞蟻數(shù)科的大模型安全技術(shù)在金融合規(guī)、越獄攻擊等復(fù)雜場景中，已達(dá)到SOTA（State Of The Art）效果，具備0-Day泛化修復(fù)風(fēng)險能力。
螞蟻數(shù)科在AI安全領(lǐng)域的持續(xù)創(chuàng)新，正成為行業(yè)內(nèi)領(lǐng)先的安全實踐，確?？蛻裟軌蛟谙硎蹵I智能體帶來的紅利時，依然擁有可控、可追溯的安全保障。“AI智能體不是‘黑箱’，更不能是‘盲盒’。” 螞蟻數(shù)科AI安全團(tuán)隊表示，“我們希望通過‘龍蝦衛(wèi)士’，讓企業(yè)在享受AI智能體紅利的同時，擁有可解釋、可控制、可追溯的安全基石?！?/p>
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
