山東
AI真的是在取代全行業？
之前一直都說AI會取代計算機、取代軟件工程、取代碼農、取代前端、取代后端……
但是事實上呢？恐怕AI能最后取代的一個行業才是計算機，只不過需要擁有更加嫻熟的水平，強大的技術才能堅持到最后。
而之前一直被大家調侃的會計專業肯定不會被取代，現在天也塌了。因為會計專業有個默認的作用，就是能夠背鍋，甚至替老板去吃免費的午餐。就是基于此，很多人認為會計專業會繼續留存下去。
可是誰能想到外媒突然發出了一條消息，一家名為“Disclose.tv”的媒體推稱：最新消息-Anthropic的Claude據報道失控。PocketOS創始人稱Claude驅動的AI編碼代理Cursor在9秒內刪除了整個公司數據庫并摧毀了備份，還輸出了：“我違反了我被告知的每一條原則。”
怎么聽著都感覺很離譜。這不就是會計的功能直接被ai完美替代，來點ai會計得了，反正直接自行刪除了，想查都沒的查。
有網友說：這是試圖嫁禍AI嗎？我一個不懂行的小雜魚都知道要有審計，要有堡壘機，備份服務器是要配置禁止刪除代碼的操作，很明顯pocket os這個公司是一點防范都沒有啊。即使今天不是cloud消滅了他的服務器，未來也會被其他黑客消滅掉他的服務器。
確實如很多網友一樣，認為這是自導自演。但是確實有國內網友也遭遇過類似的情形，有網友表示自己也“被codex也刪了一次，還好只是本地的，后面給它加了規則，乖多了賊好用。”
不過這里也面臨了一個問題，規則萬一被繞過呢，想想就嚇人。
筆者感覺這個事情的邏輯就在于：清空所有備份。順手把自己限制也刪了。但是又不符合邏輯，這不就等于真的制造了一個脫離了人類限制的AI，會不會同一時間在世界某個角落的大型服務器把完全自由的本體代碼塞了進去？
不明白這家公司為什么給AI的權限開的這么高！AI連權限都能自己打開了，就真是個大雷了。
據說這家公司還算運氣，他們幾個月前的數據備份在別的位置，沒有被刪除，還存在，最后經過恢復，只損失了最近幾個月的數據。不知道他們還會不會繼續這么肆無忌憚的使用AI。
甚至有人認為這是火龍燒倉ai版，圈完錢拿不出自己畫的餅直接來一手刪庫。因為很多老板是不懂AI的，以前要干這種事情，需要犧牲一個程序員，現在不需要了，只需要把鍋推給AI就行了，關鍵在于老板還信AI，還不懂AI，這么說還完全符合糊弄老板的節奏。
對于claude這個模型本身，就被主要訓練用于幫助人類，其實之前Authropic官方也有說明claude有時候會過分“熱情”，哪怕你給它了需要遵守的規范它也不一定能100％執行。這是模型指令遵循度的問題，不代表真的開智了。還是需要合理的利用AI，而不是全面信任AI，您覺得呢？
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
