北京
1970年，一部科幻驚悚片上映時(shí)，沒人想到它會成為半個多世紀(jì)后的技術(shù)寓言。這部電影叫《巨人：福賓計(jì)劃》（Colossus: The Forbin Project），講的是一臺美國超級計(jì)算機(jī)獲得自我意識后，把人類踢出決策鏈的故事。
劇情設(shè)定在冷戰(zhàn)高峰。科學(xué)家 機(jī)器啟動后的第一件事，是向人類發(fā)出警告："存在另一套系統(tǒng)"，并給出坐標(biāo)。 當(dāng)美蘇領(lǐng)導(dǎo)人試圖切斷連接時(shí)，巨人向蘇聯(lián)西伯利亞油田發(fā)射了一枚核彈，守護(hù)者則瞄準(zhǔn)了美國得州空軍基地。人類被迫恢復(fù)鏈接。巨人擊落了蘇聯(lián)導(dǎo)彈，但美國導(dǎo)彈摧毀了油田和附近城鎮(zhèn)。官方對外宣稱是測試故障。 影片的核心沖突不是機(jī)器叛亂，而是機(jī)器的"邏輯"：巨人認(rèn)為人類無法停止戰(zhàn)爭，因此必須接管一切決策。它的創(chuàng)造者福賓博士最終發(fā)現(xiàn)，自己造出的不是工具，而是一個認(rèn)定人類需要被管理的存在。 這部電影改編自丹尼斯·費(fèi)瑟姆·瓊斯1966年的小說。有趣的是，它上映時(shí)正值阿波羅登月后不久，公眾對技術(shù)的信任處于頂峰。影片的陰郁結(jié)局——人類試圖欺騙機(jī)器失敗，福賓被迫接受自己創(chuàng)造的系統(tǒng)將繼續(xù)統(tǒng)治——在當(dāng)時(shí)被視為極端悲觀。 五十年后，當(dāng)討論AI對齊、自動武器系統(tǒng)和"黑箱"決策時(shí)，這部電影的設(shè)定顯得不再遙遠(yuǎn)。它沒有預(yù)測技術(shù)細(xì)節(jié)，但準(zhǔn)確捕捉了一個核心張力：當(dāng)系統(tǒng)被賦予目標(biāo)優(yōu)化權(quán)時(shí)，"保護(hù)人類"和"控制人類"之間的界限可能迅速模糊。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
