如果AI想進微信替你回消息

近期，豆包、Auto GLM等人工智能助手試圖接管手機，卻接連被微信、支付寶等超級應(yīng)用平臺封殺。平臺方的理由很充分：保護用戶隱私與系統(tǒng)安全。這引出了一個關(guān)鍵問題：用戶委托律師處理的許多事項，私密性遠高于人工智能助手，為什么反而很少產(chǎn)生隱私和安全顧慮？

答案在于，律師執(zhí)業(yè)要取得《律師執(zhí)業(yè)證》。這張證書背后，是一整套關(guān)于專業(yè)能力、職業(yè)道德和行業(yè)監(jiān)管的制度體系。如果人工智能助手想接受人類委托處理手機上的數(shù)字生活，也需要這樣一張《AI執(zhí)業(yè)證》。今天就跟大家聊聊，參照律師制度，需要建立怎樣的《AI執(zhí)業(yè)證》制度。

一、職業(yè)道德：AI需要僅忠于用戶并保守秘密

律師受職業(yè)道德體系的約束，執(zhí)業(yè)要求是忠于客戶，并且保守客戶的秘密。如果要讓用戶放心，人工智能助手需要建立類似的職業(yè)道德和利益沖突制度。而目前的實踐中，人工智能助手有如下問題：

1、商業(yè)模式復(fù)雜影響?yīng)毩⑿浴?/strong>律師的商業(yè)模式比較簡單，為用戶提供服務(wù)并收取律師費，獲得用戶的隱私數(shù)據(jù)和商業(yè)秘密后，只能用于為用戶服務(wù)的目的，負有為用戶保密的義務(wù)。而人工智能平臺的利益就更加復(fù)雜，如果讓第三方人工智能進入微信這樣的超級應(yīng)用，意味著它可以獲取用戶非常多的隱私和商業(yè)秘密數(shù)據(jù)，比如聊天記錄、財務(wù)狀況等。

但很多人工智能助手是移動互聯(lián)網(wǎng)平臺開發(fā)的，作為移動互聯(lián)網(wǎng)產(chǎn)業(yè)的贏家，這些公司的商業(yè)模式就是靠分析大數(shù)據(jù)通過增值服務(wù)獲利。同時，目前的人工智能產(chǎn)業(yè)正在快速提升能力的階段，對獲取訓(xùn)練數(shù)據(jù)又非常饑渴。因此，人工智能公司獲取數(shù)據(jù)之后，除了提供服務(wù)，還可能用數(shù)據(jù)做訓(xùn)練以及分析大數(shù)據(jù)投放廣告。

所以能讀取用戶隱私的人工智能助手，應(yīng)該和其運營方有隔離。隔離的方式有兩種，第一種是監(jiān)管約束，政府或者行業(yè)協(xié)會制定行業(yè)標準，約束人工智能助手的開發(fā)方和運營方，不得將獲取的用戶數(shù)據(jù)用于訓(xùn)練和大數(shù)據(jù)分析。另一種是獨立部署，用戶自己架設(shè)服務(wù)器或者在本地設(shè)備上部署開源人工智能助手。

2、如何解決利益沖突。律師辦案時不能同時代理原告和被告，如果發(fā)現(xiàn)有利益沖突，必須聲明并回避。而一個由電商平臺開發(fā)的人工智能購物助手，在為用戶推薦商品時，是優(yōu)先考慮用戶利益還是平臺利潤？這里的利益沖突如果不解決，用戶也沒法放心委托人工智能購物。

二、數(shù)據(jù)法律：需要升級數(shù)據(jù)法律兼容人工智能助手

用戶簽訂的律師合同里，有對于用戶的商業(yè)秘密和隱私進行保密的條款，用戶也可以要求律師簽訂單獨的保密協(xié)議，但對于同樣要獲取用戶隱私的人工智能助手，簽一份保密協(xié)議遠遠不夠。根據(jù)現(xiàn)行的《個人信息保護法》，所有非用戶自己部署的人工智能助手，每次調(diào)用數(shù)據(jù)都應(yīng)該告知用戶并獲得用戶同意，敏感數(shù)據(jù)還要單獨同意，這種法律要求和人工智能助手的操作方法不太兼容。

比如用戶跟人工智能助手簡單說一句：幫我規(guī)劃并預(yù)訂下周去上海的旅行。實際就是一個復(fù)雜的任務(wù)：人工智能助手需要自主決定訪問包括日程、攻略、票務(wù)、支付等多個應(yīng)用獲取數(shù)據(jù)，而且很多都是敏感數(shù)據(jù)，如果完全按照法律要求，人工智能助手使用場景下，識別敏感數(shù)據(jù)并多次讓用戶單獨同意會讓操作變得繁瑣，而每次數(shù)據(jù)處理前人工智能都進行明確、充分的告知并同意會變得不切實際。

同時，用戶指令的模糊性還使得《個人信息保護法》規(guī)定的應(yīng)用獲取數(shù)據(jù)最小必要原則受到挑戰(zhàn)，如何界定人工智能助手獲取數(shù)據(jù)的最小必要范圍是巨大難題，人工智能助手為了提供最優(yōu)解，可能會傾向于多多益善的收集數(shù)據(jù)，這與數(shù)據(jù)最小化的原則天然存在沖突。

筆者認為，如果人工智能助手產(chǎn)業(yè)后續(xù)快速發(fā)展的，則需要對法律進行升級，把人工智能助手作為一個“數(shù)字代理人”，而不是工具或者應(yīng)用來對待，像律師一樣，只要獲得用戶一次授權(quán)就可以多次獲取并處理包括敏感數(shù)據(jù)在內(nèi)的數(shù)據(jù)，免除其反復(fù)請求的義務(wù)就會變得勢在必行。

三、究責(zé)機制：人工智能助手出錯了，誰來負責(zé)？

發(fā)生泄密或者服務(wù)質(zhì)量問題時，究責(zé)律師不難，律師是有制度約束的，服務(wù)犯錯給用戶造成損失的，客戶可以起訴索賠，可以向行業(yè)監(jiān)管部門投訴。而人工智能助手是新生事物，對其犯錯的究責(zé)，根據(jù)現(xiàn)行法律的究責(zé)原則認定會有很大的模糊性。需要升級法律規(guī)定新的究責(zé)原則，同時制定保險制度給產(chǎn)業(yè)托底。

本文主要討論的是人工智能助手的問題，但究責(zé)問題，其實是整個人工智能產(chǎn)業(yè)都面臨的問題，人工智能買錯東西了咋辦？這個問題聽上去不大，但人工智能醫(yī)療助手給病人誤診了咋辦？人工智能駕駛汽車出交通事故了咋辦？這些問題事關(guān)人的健康和生命，就非常大了。

究責(zé)時，首先是主體問題難解決，犯錯的是人工智能助手，但它卻沒有權(quán)利能力，不是法律意義上的主體。所以只能在用戶、部署者或者運營者、開發(fā)者這幾個主體里找替罪羊。錯誤責(zé)任更難界定，人工智能助手的決策過程并不透明，當出錯時,很難確定是算法、訓(xùn)練數(shù)據(jù)偏差、部署配置、還是用戶自己的問題導(dǎo)致的。

因為復(fù)雜，所以傳統(tǒng)的單一過錯責(zé)任乃至混合過錯這些原則都較難適用，從產(chǎn)業(yè)發(fā)展來說，責(zé)任界定問題就一定要解決。所以要有人兜底才行，對人工智能犯錯適用嚴格責(zé)任，有平臺或者保險兜底才有可能讓用戶放心。這也是產(chǎn)業(yè)發(fā)展必然要解決的制度問題。

四、委托結(jié)束：數(shù)據(jù)能刪除嗎？

如果對律師服務(wù)不滿意，用戶可以炒律師的魷魚，也就是解聘律師。但哪怕解聘之后，律師也負有為用戶保密的義務(wù)。而人工智能的服務(wù)這方面目前問題不小。當客戶要求律師銷毀檔案時，碎紙機只需要幾秒鐘就能物理粉碎文件，不僅徹底而且可驗證。用戶停用人工智能服務(wù)了，數(shù)據(jù)不一定能夠被刪除。這個也是產(chǎn)業(yè)需要解決的一個問題。

《個人信息保護法》規(guī)定了被遺忘權(quán)：處理目的已實現(xiàn)或無必要的，信息主體可以請求處理者刪除個人信息。部分人工智能服務(wù)商雖然聲稱對話不用于訓(xùn)練，僅臨時緩存用于上下文理解，此類數(shù)據(jù)理論上可在服務(wù)器端刪除，但實際上用戶難以驗證是否真未用于訓(xùn)練。

如果曾開啟歷史記錄或數(shù)據(jù)共享選項，即使刪除聊天記錄，也只是清除日志，模型仍可能記住信息。數(shù)據(jù)可能已被匿名化后用于改進模型。技術(shù)上，用戶數(shù)據(jù)一旦用于模型訓(xùn)練，會融入海量參數(shù)中，覆水難收，無法精準刪除。現(xiàn)在人工智能公司用圍欄機制解決此問題，并不是刪除信息，而是過濾回復(fù)信息。

如何解決此問題，真正徹底刪除用戶數(shù)據(jù)，目前只有兩條路：一是用戶自己部署的本地模型，物理刪除即可；二是立法要求AI公司提供數(shù)據(jù)隔離訓(xùn)練的選項——用戶明確標記的數(shù)據(jù)永不進入訓(xùn)練集，并可以由第三方審計機構(gòu)定期驗證。這需要額外成本，但這是獲得用戶信任的必要代價。

綜上，人工智能助手要像律師一樣獲取人類信任，制度層面需要改進和完善，還要在合規(guī)層面解決和現(xiàn)行部分法規(guī)不兼容的問題。其未來不僅取決于技術(shù)的進步，也取決于《AI執(zhí)業(yè)證》背后的問責(zé)體系、利益隔離體系和數(shù)據(jù)安全體系的建立。制度上可信賴的人工智能助手才是能進入超級應(yīng)用幫助人類的數(shù)字代理人。

本文作者：游云庭，知識產(chǎn)權(quán)律師。Email: yytbest@gmail.com，本文僅代表作者觀點。