美國AI公司臉都綠了：前員工離職專喊末日，一條視頻千萬播放

他們在這里接受了一項關于如何報道宏大理論話題的指導，即如何向大眾傳播“失控的人工智能可能毀滅人類”這一警告。

這場聚會選址在舊金山灣區一個寬敞的活動場地。該場地深受當地一個特定社群的青睞，這個社群高度關注超級智能導致人類滅絕的可能性——這一事業有時被外界統稱為“人工智能安全”。

當杰弗里·拉迪什穿著直排輪滑鞋輕盈地滑上舞臺時，人群中爆發出陣陣歡呼。這位和藹可親的前安全工程師曾就職于人工智能初創企業Anthropic。他身穿無袖緊身背心，留著一頭金發，與一眾專家共同探討如何向普通大眾講述人工智能災難的傳播藝術。

拉迪什表示，他在2022年離開了開發熱門聊天機器人Claude的公司，轉而專注于研究如何幫助政策制定者了解人工智能逃避人類控制的各種方式。

在創辦非營利組織帕利塞德研究中心幾年后，他認為關于該主題的研究已經十分豐富，但這個領域需要傳播者將這些發現轉化為公眾能夠理解的語言。

“這就需要一群人把這里的專家們弄清楚的事情，向全世界解釋清楚，”他指出。拉迪什本人已經全心投入到這項使命中。近幾個月來，他與參議員伯尼·桑德斯共同出鏡了一段關于超人類人工智能威脅的爆款視頻。

此外，他還在紀錄片《人工智能醫生》的預告片中擔任了重要角色，該片探討了這種潛在威脅，在YouTube平臺上的播放量已達到580萬次。

項目規定，在八周的時間里，他們60%的內容必須聚焦于人工智能對社會的影響。隨著人工智能技術影響力的不斷擴大，將有關其危險性的內容播撒到互聯網各個角落的努力，已將相關辯論推向了政治主流。

一波警告該技術的爆款視頻，可能會讓硅谷支持的超級政治行動委員會感到頭疼，因為他們正試圖盡量減少對該行業的限制。此前的調查已經表明，大多數美國人支持政府對人工智能實施監管。

學術界和工業界的大多數人工智能專家指出，目前并沒有科學依據支持“整個物種面臨迫在眉睫的危險”這種斷言。他們認為，這種世界末日般的預測不僅高估了現有技術水平，也低估了現實世界的復雜性。

一些人希望立即停止任何關于超級智能的研發工作。另一些人則希望公眾意識到，采取行動的時間可能已經所剩無幾。

在2025年和2026年，“控制人工智能”YouTube頻道上所有視頻的總播放量僅略高于8000次。

去年僅一次付費的YouTube合作就斬獲了160萬次觀看。此外，該組織還贊助了格林廣受歡迎的《科學秀》節目的一集，凈賺了180萬次播放量。

制作社交媒體視頻標志著人工智能安全倡導者的戰略發生了轉變。在過去的十年里，支持該運動的科技界富豪捐贈者在非營利組織和研究資助上投入了數億美元，旨在敦促精英機構認真對待人工智能帶來的生存威脅。

這為人工智能實驗室、學術界、智庫和聯邦政府輸送了一批專業人才。盡管付出了這些努力，由營銷資深人士組成、現專注于人工智能安全的“震源基金會”表示，其研究發現，在公眾對人工智能的潛在擔憂中，生存風險排名墊底。公眾更關心的是失業問題以及技術對人際關系的影響。

近期針對人工智能公司的民粹主義和跨黨派不滿情緒日益高漲，這為人工智能安全倡導者提供了一個新的契機。

“這是唯一一個讓斯蒂芬·班農和拉爾夫·納德、格倫·貝克和伯尼·桑德斯為同一目標而戰的議題，”人工智能安全非營利組織“未來生命研究所”的傳播主管本·卡明表示。

他列舉了一些最近共同簽署人工智能政策優先事項聲明的公眾人物。這些優先事項包括“保持人類的控制權”和“追究人工智能公司的責任”，簽署者中還包括工會和一個保守派智庫。

這些新結交的盟友并不一定認同人工智能安全運動中最極端的擔憂。該組織支持的視頻也并不總是討論關于人工智能最可怕的預測。

卡明透露，自去年推出數字媒體加速器以來，“未來生命研究所”已經資助了30個開發人工智能安全內容的項目。該非營利組織網站上的申請表顯示，其計劃每月投入10萬美元。

因人工智能原因下崗的工人是否應該獲得額外福利？我一直在尋找解決人工智能導致失業的切實可行的方案，而在震源基金會的報告中，隱藏著一張包含一些好主意的圖表！

主要發現——32%的人希望獲得額外的工人權利。30%的人希望將更高的稅收重新分配給受影響的行業。32%的人希望為勞動力提供再培訓補助金。

額外福利的想法既有趣又及時，但我有一個疑問：監管能否跟上步伐并迅速采取行動？此外，這些人工智能公司擁有巨大的游說力量。

關于人工智能潛在災難的通俗易懂的內容如潮水般涌現，這可能會加劇席卷硅谷的政治辯論。由Meta、OpenAI公司以及與唐納德·特朗普結盟的科技界人士支持的財力雄厚的超級政治行動委員會，給人工智能安全社群貼上了“末日論者”的標簽。他們指責這些人阻礙了美國的進步，并試圖推動有利于Anthropic公司的監管政策。

Anthropic的創始人曾承諾要比競爭對手更注重安全，并獲得了人工智能安全運動中最具影響力的捐贈者的早期投資，其中包括Facebook聯合創始人達斯汀·莫斯科維茨和Skype早期員工簡·塔林。

莫斯科維茨的慈善機構“系數捐贈基金”拒絕置評；塔林也沒有回應置評請求。

前白宮人工智能和加密貨幣事務主管大衛·薩克斯最近成立了自己的超級政治行動委員會。他將消費者對人工智能的負面情緒歸咎于他所謂的“末日論者工業復合體”。

包括OpenAI公司全球事務首席官克里斯·勒漢在內的業內人士，最近將一枚燃燒彈被扔進該公司首席執行官薩姆·奧特曼家中的惡性事件，歸咎于“末日論者”的煽動性言論。據稱，襲擊者的Substack賬號曾發布過關于《如果有人制造了它，所有人都會死》的內容，這是一本描述超級智能如何消滅人類的近期著作。

曾批評OpenAI公司安全實踐的前員工丹尼爾·科科塔伊洛表示，倡導者發出警告的目的并不是為了幫助人工智能實驗室。但他補充道：“存在一種真正的風險，即人工智能安全運動中的許多人與公司走得太近，過于不愿提出會嚴重損害這些公司利益的解決方案。”

致力于促進人工智能領域的公平、社會包容和問責制的非營利組織“人工智能與數字政策中心”主席梅爾夫·希科克指出，大量資金涌入對立的陣營，已經導致該領域嚴重兩極分化。

“政策制定者要么將人工智能安全視為需要深入參與的領域，要么像特朗普政府那樣予以抵制，”她分析道。這在技術對公民權利的影響需要更多關注的時候，削弱了政策層面的應對能力。

在YouTube頻道“物種”上發布安全視頻的德魯·斯巴茨表示，如果框架設計得當，這些材料可以贏得龐大的受眾群體。該頻道擁有超過30萬名訂閱者。

最近，斯巴茨決定改變方向，不再報道行業動態，而是轉向制作敘事類視頻。其中包括一些試圖展示超人類智能接管世界的不同方式的視頻。他認為，講述關于災難的故事，能夠喚起“最原始的穴居人情感”。

拉迪什在基督復臨安息日會的環境中長大，但他表示自己已不再信仰宗教。他告訴臺下的觀眾，他花了一些時間才弄清楚如何與圈外人談論人類滅絕的風險。

“他們不談論遞歸自我改進。他們不談論內部優化器。”“這些詞對他們來說沒有任何意義，”拉迪什坦言。“沒有人會理解你。”

當他開始在酒吧、機場和Uber網約車上向人們做自我介紹，解釋自己是一名研究員并分享自己的想法時，他取得了突破。

“人們通常很樂意交談，但我也試圖談論一些真實的東西。我試著說，‘我認為我們可能都會死。’然后他們的反應是，‘什么鬼？什么？快給我講講！’”他回憶道。

在包括七名女性在內的十幾名研究員中，大多數人自己對人工智能安全的詞匯也很陌生。“身處舊金山會讓你意識到誰不在這個房間里，使用Jat聊天機器人”賬號的珍妮特·奧加納表示。她出生于肯尼亞，但成年后的大部分時間都在倫敦度過。

她指出，她的受眾中約有70%是女性，分別來自非洲僑民群體、美國、英國和東非洲。如果不通過她，這些人可能永遠聽不到來自這個社群角落的聲音。

“外面有一個更廣闊的世界，那里的人們可能開始感受到人工智能的影響，但方式卻截然不同，”奧加納強調。

YouTube明星格林曾為他的科學頻道與“控制人工智能”合作發布過付費內容。他在一份聲明中表示，他希望通過讓觀眾接觸各種觀點，讓他們更好地理解這種日益強大的技術。他提到了最近在其個人YouTube頻道上進行的非贊助采訪，受訪者包括人工智能公司炒作的批評者、參議員桑德斯以及《如果有人制造了它，所有人都會死》的合著者之一。

“我認真對待所有這些觀點。就我個人而言，我不知道。”“我傾向于認為‘認為人工智能會殺死我們是愚蠢的’，但我是一個非常樂觀的人！”格林寫道。他最后補充道：“這項技術非常詭異！”