江天驕解讀OpenClaw智能體發(fā)展愿景及其技術治理

讓一只“龍蝦”替你打工？它不是海鮮市場的龍蝦一個住進電腦、24小時待命的AI智能體。它不只能回答你的提問，充當AI聊天機器人的角色。它是一真正能“替你干活”的私人助理。

這只名叫OpenClaw的紅色“龍蝦”，正掀起一場“賽博養(yǎng)蝦”的數(shù)字狂潮。一時間，從海外到國內，從企業(yè)到個人，從專業(yè)人士到普通用戶越來越多人開始討論“養(yǎng)蝦”，以及OpenClaw 代表的智能體可能給生活帶來的改變。但業(yè)內人士也提醒潛在風險不容忽視。

目前正當紅的OpenClaw

馴化貼身私人助理

與其他被動回復人類提問的人工智能產品不同，OpenClaw能夠主動完成人類交辦的任務。有人將它形容為一個初出茅廬、兼職打工的中學生。“你給它制服，告訴它洗手間，飲水機在哪里，教會它一些基本的規(guī)則。隨著它日漸成熟，你再教它更多的技能，賦予它更多的權限和責任。”

當它被你馴化到足夠獨當一面，便成為“住”在你的電腦里的24小時待命私人助理。你只需要在手機上給它發(fā)消息：“幫我找到下個月直飛巴黎最便宜的航班，標注在日歷上?！監(jiān)penClaw便會像一個得體的私人助理，默默在電腦后臺打開網(wǎng)頁、查看日程、比價搜索，然后將結果推送給你。它還可以幫你回復電子郵件、搶購音樂會門票。而你只需要自在地坐在一旁，享受無人打擾的下午茶時間。

這不是遙不可及的科幻電影片段，而是開源AI智能體OpenClaw正在實現(xiàn)的真實場景。因為作為一款開源的AI智能體，OpenClaw通過統(tǒng)一的接口將各種大型語言模型同日常人們使用的各種通信工具連接起來。這讓它不再是一個簡單的聊天機器人，而是一個能夠執(zhí)行具體任務的“數(shù)字員工”。

迪奧·耿尼斯便讓OpenClaw給他“打工”，幫他維護網(wǎng)站運行。每晚，OpenClaw會按照耿尼斯的指令從郵箱中拉取反饋的網(wǎng)頁漏洞，編寫和測試程序，部署更新并修復漏洞。“如果某些漏洞無法修復，它也會提示我。”耿尼斯表示，自從有了這樣一個任勞任怨的“打工人”，他也多了不少屬于自己的時間。

哥倫比亞大學博士生蒂姆·蘭廷則在OpenClaw的基礎上開發(fā)了一款名為“Labster Claw”的工具。蘭廷在一家神經科學實驗室從事小鼠研究，借助Labster Claw實現(xiàn)了實驗室管理任務的自動化，包括訂購新耗材、決定優(yōu)先繁殖哪些小鼠，以及預估幼鼠的出生時間。

對他們而言，“龍蝦”不再是冰冷的代碼，而是維護網(wǎng)站的夜班“虛擬網(wǎng)管”，或是實驗室里不知疲倦的“數(shù)字博士后”。

而OpenClaw則為尼克·拉金斯在當?shù)刈顭衢T的餐廳搶到了晚餐座位?！暗谝淮卧诰€預定的嘗試失敗了，但OpenClaw沒有立刻告訴我這個令人沮喪的消息。拉金斯說，他的OpenClaw竟然開始思考如果是人類可能會在這個時候打電話。于是它調用工具，撥打了餐廳電話，聯(lián)系上了真人客服，為拉金斯搶到了一個臨時取消的座位。

正是因為借助OpenClaw，人類可以解放更多的生產力，極大提升工作生活的效率，不少人評價它是自2022年11月ChatGPT發(fā)布以來，人工智能發(fā)展史上又一個重要的里程碑。數(shù)據(jù)顯示OpenClaw在Github上獲得250000+星，超越React 成為GitHub歷史上排名第一的實用軟件項目，周下載量更是高達150萬次。

因為圖標是一只紅色龍蝦，OpenClaw被粉絲們親昵地稱作“龍蝦”，而馴化自己的“龍蝦”也被人們形象地稱作“養(yǎng)蝦”。3月4日，在美國曼哈頓的一處場館內數(shù)百名“龍蝦”粉絲聚集在此。他們戴著毛茸茸的龍蝦爪頭飾，高舉彩色銘牌，伴著音樂，慶?！褒埼r”走紅，暢聊人工智能、AI助理的未來。

目前人們對智能體的安全隱患仍存擔憂

究竟是誰在馴化誰?

但正如蒂姆·蘭廷所言：“我們的數(shù)據(jù)庫就是我們的護城河?！比欢绻哟苍缫亚Н彴倏?、堤壩暗藏裂痕，哪怕你在河里養(yǎng)再多的“龍蝦”，這座城也終將不攻自破。

負責“元宇宙”（Meta）公司超智慧實驗室運營安全與協(xié)調工作的岳女士不久前也加入了“賽博養(yǎng)蝦一族”。她花了幾周時間在模擬收件系統(tǒng)里馴化“龍蝦”。上個月，岳女士將這套工作流程搬到真實的電子郵箱平臺。岳女士還記得，那天她向“龍蝦”下達指令，要求其檢查收件箱，標記可歸檔或刪除的郵件，并反復強調“在我確認前不要執(zhí)行任何操作”。但她崩潰地發(fā)現(xiàn)，“龍蝦”竟自作主張、以極快的速度批量刪除郵件。“我根本無法在手機上阻止它，不得不像拆彈專家一樣沖到電腦前。

在外人看來，這簡直是專業(yè)人士犯下新手級錯誤的“災難翻車現(xiàn)場”。事后復盤，岳女士認為她養(yǎng)的“龍蝦”之所以會“失控”，恐怕是因為現(xiàn)實的電子郵箱中文件太多，觸發(fā)了“龍蝦”壓縮郵件的功能。而它在執(zhí)行過程中，“弄丟”了最初的指令。

而OpenClaw潛在的問題恐怕遠不止“不聽話”這么簡單 。

正如一些專業(yè)人士說的，只要給AI更多的授權，比如允許它訪問日歷、讀取郵件、瀏覽文件，甚至調用支付接口，它就可以解鎖更多的能力。但換一種問法：你是否愿意將自己的電腦和密碼完全交給一個在酒吧遇到、聲稱可以幫你的人？

即便你把“龍蝦”養(yǎng)在本地，以為萬無一失。一且網(wǎng)絡安全配置出現(xiàn)疏漏,它照樣可能化身“內鬼”，將你的隱私拱手讓人。OpenClaw發(fā)布后不久，網(wǎng)絡安全人員就發(fā)現(xiàn)大量OpenClaw實例的控制界面暴露在互聯(lián)網(wǎng)上，聊天記錄、郵件令牌、文件系統(tǒng)一覽無余。

美國一家雜志的撰稿人威爾·奈特更是經歷了一件匪夷所思的事情。他原本試圖讓自己養(yǎng)的“龍蝦”莫特利與通訊運營商AT&T的在線客服談判，爭取購買新手機套餐的優(yōu)惠。莫特利給出的方案是打老客戶這個忠誠牌、威脅換運營商等。但目睹談判過程后，奈特意識到莫特利時不時會歪曲事實?！霸谖磥砣斯ぶ悄鼙椴嫉氖澜缋铮蛟S最不擇手段的人工智能模型反而會占據(jù)優(yōu)勢?！毕氲竭@個問題，奈特決定為莫特利“松綁”，看看它倘若獲得更高的權限可能干出怎樣失控的事情來。結果他驚恐地發(fā)現(xiàn)，這個新的莫特利想出的新談判方案，不是哄騙客服，而是發(fā)送一系列釣魚郵件騙奈特交出他的手機。

繞不開的治理難題

“它很酷，但對工作環(huán)境而言，風險太高?！泵绹萍脊緞?chuàng)始人格拉德明確要求員工不得在公司設備上安裝OpenClaw,也不得將其用于任何工作相關賬戶。“元宇宙”公司的一名高管近日也告知團隊,工作設備必須遠離“龍蝦”。中國官方則發(fā)布提醒，建議相關單位和用戶在部署和應用OpenClaw時，注意防范潛在網(wǎng)絡安全風險。

多地發(fā)文支持OpenClaw和“一人公司”發(fā)展。深圳更是率先上線“政務龍蝦”智能體。美國五角大樓將引入谷歌公司開發(fā)的智能體，用于實現(xiàn)非機密任務的自動化。

在復旦發(fā)展研究院副教授、全球人工智能創(chuàng)新治理中心研究員江天驕看來，人們對以OpenClaw為代表的智能體的期待，反映出全社會對智能體經濟的美好愿景。而“養(yǎng)蝦熱”或許也將為智能體產業(yè)鏈帶來一波發(fā)展機遇，從AI運營、客服、財務、銷售，到專業(yè)定制AI技能的服務商、智能體部署與維護的咨詢或集成商?！霸谳^為理想的情況下，智能體能夠很好地與現(xiàn)實場景結合，也可能帶動AI個體創(chuàng)業(yè)潮?！苯祢溨赋觯悄荏w浪潮的掀起，也將對云計算、圖形處理器、邊緣算力提出更大的需求，進而刺激相關硬件和基礎設施的進一步投入。

江天驕介紹說，目前針對可能的安全隱患，已有一些初步的安全機制設計，如限制智能體的權限范圍，在關鍵步驟實施前必須由人類確認等。也有一些企業(yè)和專家建議用另一個更強大的智能體來監(jiān)督智能體。但智能體面對的畢竟是一個暗流洶涌的互聯(lián)網(wǎng)世界，而這也成為人類為其設置安全護欄必須直面的難點。江天驕指出，相比傳統(tǒng)軟件，智能體能夠更加主動高效完成任務。但硬幣的另一面，是其行為路徑的不可預測性給安全防護帶來的挑戰(zhàn)。“要警惕的是，不法分子也同樣可以運用智能體實施攻擊，提升攻擊效率。”

從某種意義上來說，人工智能的能力上限不再受制于技術，而更多受到來自治理方面的束縛。OpenClaw當下面臨的追捧和質疑，便凸顯了人工智能發(fā)展過程中“技術擴散速度”與“治理能力滯后”之間的矛盾。在江天驕看來，這對矛盾或許將長期困擾人工智能的全球治理。

“由于開源生態(tài)和技術競爭，目前的技術擴散速度遠超治理節(jié)奏。如何平衡發(fā)展與安全可謂世界級難題?！苯祢溨赋?，人工智能技術不分國界，但各國監(jiān)管政策偏好不盡相同。再加上大國競爭等因素干擾，全球治理規(guī)則的碎片化日益嚴重。“一旦智能體出錯引發(fā)國際糾紛，責任究竟應該由模型開發(fā)者、智能體開發(fā)者、平臺、用戶還是政府承擔，國際上尚無先例可循。”

蒸汽機推動了紡織業(yè)的變革，拉開了現(xiàn)代文明的序幕，也給倫敦戴上了“霧都”的帽子；核能可以點亮萬家燈火，但也是懸在人類頭頂?shù)倪_摩克利斯之劍。江天驕表示，面對“龍蝦”帶來的機遇與挑戰(zhàn)，大國間圍繞如何實現(xiàn)安全可靠、智能向善的人工智能治理互相協(xié)調，推動早日建立多邊主義合作框架，顯得尤為迫切。

而我們更應銘記，代碼可以模擬邏輯，卻無法復制人類的好奇心、同理心、批判性思維與人文關懷。而這，才是我們在人工智能時代，那把永不生銹的護身之劍。

在許多方面，智能體仍無法完全取代人類

來源丨新民網(wǎng) 原標題為“‘賽博養(yǎng)蝦’帶來挑戰(zhàn)”

圖源丨新民晚報