英國醫療系統緊急下架開源代碼：AI黑客威脅被夸大了嗎？

你可能以為，用公共資金開發的軟件，理所當然應該公開透明。但英國國家醫療服務體系（NHS England）最近做了一件反常識的事：把所有自己寫的軟件從公共視野里撤了下來，理由是怕AI黑客。

這個決定的截止日期是5月11日。在此之前，NHS England生產的軟件一直是開源的，放在GitHub上供任何人查看。原因很簡單——花的是納稅人的錢，成果理應共享，其他機構可以在此基礎上改進，避免重復造輪子。但現在，新政策要求"所有源代碼倉庫默認設為私有"，公開必須經過正式批準。

導火索是一個叫Mythos的AI。上個月，這個由Anthropic公司開發的系統被廣泛報道，稱其能夠發現幾乎任何軟件中的漏洞，可能讓黑客有機可乘。NHS England的新指導文件明確點名Mythos："公共倉庫顯著增加了源代碼、架構決策、配置細節和上下文信息被意外披露的風險，尤其是在AI模型具備大規模代碼攝取、推理和分析能力的快速發展背景下。"

但事情真的有這么嚴重嗎？英國政府自己支持的AI安全研究所（AISI）調查后的結論，和NHS England的緊張姿態形成了有趣的對比。他們發現，Mythos的攻擊能力其實有限——只能對付"小型、防御薄弱、存在漏洞的企業系統"，沒有證據表明真正安全的軟件或網絡會面臨風險。

這就引出了一個值得拆解的問題：當面對新技術威脅時，機構的反應是恰到好處，還是過度防御？

從NHS England的角度看，他們的顧慮并非完全憑空捏造。醫療系統的數據敏感性不言而喻，病歷、診療記錄、財務信息，任何泄露都可能造成嚴重后果。Mythos這類AI的出現，確實改變了安全博弈的格局。傳統上，開源社區有一種"眾目睽睽之下，漏洞無處藏身"的信念——代碼公開后，更多眼睛盯著，問題反而更容易被發現和修復。但AI的能力在于規模：它可以同時"閱讀"海量代碼，以人類無法企及的速度識別模式、推測漏洞。這種不對稱性，讓開源的安全邏輯受到了挑戰。

然而，安全專家們的批評同樣有力。多位專家指出，NHS England的舉措"不必要且適得其反"。這里的"適得其反"值得細品。開源軟件的一個隱性價值在于信任建立——當代碼公開時，外部研究者可以獨立驗證其安全性，用戶也能確認系統沒有暗藏后門。反過來，把代碼鎖起來，并不意味著它變得更安全，只是讓問題更難被發現。

英國郵政系統的Horizon IT丑聞就是一個慘痛教訓。那套系統的代碼如果當初是公開的，導致數百名郵局局長被錯誤指控盜竊和欺詐的軟件缺陷，或許不會隱藏多年。透明度有時是最好的糾錯機制。

更深層的張力在于組織慣性。NHS England的新政策與自身的服務標準直接沖突——那份標準明確要求員工將軟件開源，理由是"公共服務用公共資金建設，除非有充分理由，否則其基礎代碼應供他人復用和改進"。現在，同一份機構文件被另一份文件推翻，而推翻的理由是一份AI安全威脅評估，與政府下屬研究機構的結論相左。

這種矛盾暴露了技術治理中的一個常見困境：當風險評估權分散在不同部門時，誰的聲音占主導？是直接接觸技術細節的安全團隊，還是獨立研究機構的學術判斷？NHS England選擇了前者，但代價是背離了長期奉行的開放原則。

還有一個被忽視的維度：開源生態的協作價值。NHS England的軟件被其他機構復用和改進，這種網絡效應一旦切斷，損失難以量化。英國政府在數字化服務上的投入本就面臨效率質疑，此時增加協作摩擦，時機頗為微妙。

當然，完全否定NHS England的謹慎也不公平。AI安全研究是一個快速演進的領域，今天的"有限能力"不等于明天的威脅水平。Mythos或許確實只能攻擊薄弱系統，但醫療IT系統的防御水平是否 uniformly 堅固？不同醫院、不同承包商的實施質量參差不齊，"默認私有"或許是一種務實的風險規避。

問題在于，這種規避是否經過了充分的成本效益分析？指導文件中提到，公開代碼需要"明確且例外的需求"和"正式批準"，這意味著決策權上收，靈活性下降。對于習慣了敏捷開發的團隊來說，這可能意味著創新節奏的放緩。

更值得追問的是，如果Mythos級別的AI威脅真實存在，僅僅隱藏代碼是否足夠？真正的安全加固需要代碼審計、滲透測試、架構改進等多層措施。把倉庫設為私有，更像是一種"眼不見為凈"的心理安慰，而非系統性的安全升級。

這場爭論的最終裁決，或許要等到5月11日之后才能看清。屆時，NHS England的代碼庫將完成私有化遷移，而Mythos的能力邊界也會隨著更多研究而明晰。一個可能的結果是：威脅被證實夸大，開放原則悄然恢復；另一種可能是，新的AI攻擊案例浮現，私有化決策被追認為先見之明。

但無論哪種結局，這個案例都提供了一個觀察窗口：當機構面對不確定的技術威脅時，如何在安全與開放之間尋找平衡點。NHS England的選擇是偏向封閉一端，但代價是犧牲了透明度帶來的信任紅利和協作效率。這個權衡是否值得，答案或許不在技術層面，而在治理哲學——你更擔心可見的風險，還是不可見的代價？

對于普通讀者來說，這件事還有一個貼近生活的啟示：我們日常使用的公共服務軟件，其安全邏輯正在經歷深刻變化。AI不再只是聊天機器人或圖像生成器，它正在進入基礎設施的安全評估領域，重新定義什么是"足夠安全"。下次當你看到某個政府系統要求更新隱私政策時，背后可能就有類似的博弈在發生。

科學界目前還沒定論的是：AI輔助的攻擊能力，究竟會在多大程度上改變開源軟件的安全經濟學。NHS England的實驗，無論成敗，都會成為這個辯論的重要數據點。