北京
過去十年，“給AI加一道人類審核”被企業安全手冊奉為鐵律。但2026年6月20日，這項鐵律遭到最激烈的一次內部瓦解——亞馬遜安全副總裁Eric Brandwine公開宣稱，把人類放進AI決策回路，不僅不是安全補丁，反而會系統性地拉低可靠性。同一天，The Register以“為什么亞馬遜厭惡人在回路中的AI治理”為標題，放出了這場震動行業的采訪。
Brandwine是亞馬遜杰出工程師兼安全VP。他的論證角度簡單而致命：我們太把自己當回事了?！罢f到人類，我們有點‘嬌氣’，”他告訴The Register，“我們總覺得人類是始終如一、有紀律、靠得住的。真落到實處，人類一點也不一致。人類和AI系統一樣，都是非確定性的?！蓖粋€提示、同一份數據，丟給同一個人兩次，很可能吐出完全不同的判斷。人會疲勞，會編造，會抄近道——這些恰好也是大語言模型被詬病的毛病。Brandwine補了一句：“這不是在爆什么猛料，只是事實。整個行業只是這么多年都不敢放到臺面上說?！?/p>
真正切開認知繭的那句話，緊跟著就來了?！拔覀冎廊祟愒趺捶稿e，我們對這些錯很熟悉、能容忍。所以‘人在回路中’未必是什么金標準?！边@句話出自一個超大規模云服務商的安全最高負責人之口，讓他成為2026年AI技術治理領域最安靜的激進者。過去數年，所有賣代理方案的廠商都在兜售同一種敘事：只要在審批環節掛上一個人類，你就合規了。大型語言模型爆發后，這種聲音更是在企業把代理部署到IT環境時飆升到“狂熱高點”。而現在，全球最大的四個基礎設施提供商，在同一周里公開扔掉這套劇本。
谷歌云首席運營官Francis deSouza在幾乎同期的表態中，描繪出一條清晰的遷移路線——從“人為主導”到“人在回路中”再到“AI主導防御，人類行監督之職”。微軟CEO薩提亞·納德拉的主張更進一步，強調要在系統中嵌入“循環學習”，而不是一步步等人類拍板。IBM高管同樣釋放出拋棄舊模式的信號。亞馬遜、谷歌、微軟、IBM，四家在同一個時間窗口步調一致地轉身，這在企業級AI治理史上尚無先例。
這種同步退場揭示了一個更深層的系統失效，一種作者所稱的“AI協同差距”。其核心在于：當人類和AI雙方都不可靠時，簡單疊加的人機協同不會自動提高可靠性，甚至會在某些條件下主動摧毀系統的穩定性。識別出這個差距，才能準確判斷人類審核究竟什么情況下是幫手，什么情況下是偽裝成安全網的新漏洞。Brandwine點破的正是這套差距的源頭——我們一直容忍人類的非確定性，假裝它是確定的，再把它當作衡量AI安全性的尺子。這把尺子本身就不直。
這對此刻正在用LangGraph、Anthropic的MCP、AWS Bedrock或CrewAI部署代理的每一個團隊來說，直接意味著架構層級的反思：監督機制不能再設計成一個需要人類時刻在場的審批節點。亞馬遜的立場并非否定人的作用，而是要求把人從“不可靠的最后一關”這個位置上請下來，把非確定性作為系統設計的前提，而非例外。當四家巨頭在同周用腳投票，那個靠“人類按鈕”兜底的時代，正式宣告進入倒計時。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
