聯(lián)想百應(yīng)AI主機300體驗：AI Max+395加持，能跑120B本地大模型

最近，NVIDIA 在 GTC Taipei 期間發(fā)布了 RTX Spark 超級芯片，引起業(yè)界的廣泛關(guān)注，被認(rèn)為標(biāo)志著個人計算產(chǎn)業(yè)迎來了自圖形加速時代以來最重大的變革。

不過，在具體了解這款 RTX Spark 超級芯片之后，小編想到，這款芯片的思路，其實和 AMD 的“Strix Halo”銳龍 AI Max 300 系列處理器有著異曲同工之妙。

而搭載 AMD 銳龍 AI Max+ 395 處理器的設(shè)備早在去年 1 月的 CES 大會上就已經(jīng)發(fā)布，如今早已成為眾多 AI 迷你工作站主機甚至是高端 AI 筆記本的“標(biāo)配”選擇。

這兩年，AI 已經(jīng)成為不止科技圈，而是各行各業(yè)都重點關(guān)注的焦點，加上今年以來的“龍蝦熱”，AI 相關(guān)的產(chǎn)品與技術(shù)正迅速滲透到人們工作、生活的方方面面。不只是科技發(fā)燒友，就算是普通玩家，可能也有在本地部署專屬自己的 AI 智能體的需求。

剛好最近，IT之家收到了一臺專業(yè)對口的桌面 AI 工作站，聯(lián)想百應(yīng) AI 主機 300。今天我們不妨就對其進(jìn)行一番體驗，看看它在本地部署企業(yè)級 AI 智能體以及各方面性能上的表現(xiàn)究竟如何。

一、外觀設(shè)計

聯(lián)想百應(yīng) AI 主機 300 工作站在外觀設(shè)計上走的是成熟、商務(wù)、極客的風(fēng)格。機身整體以黑色為主基調(diào)，正面采用一塊帶有豎條紋理的懸浮式灰色面板，增加了視覺上的層次感。

機身四周則被堅固耐用的金屬材質(zhì)所包裹，這種設(shè)計不僅提升了整機的抗跌落與防沖撞能力，也帶來了更好的觸感與品質(zhì)感。

左右兩側(cè)的進(jìn)氣孔采用賽博科幻風(fēng)格的波點設(shè)計，為原本稍顯單調(diào)的純色主機增添了一絲靈動的點綴。

在整機尺寸與體積控制方面，聯(lián)想百應(yīng) AI 主機 300 作為一款桌面迷你 AI 工作站，其體積大約在 4.5 升左右。具體的長寬高尺寸分別為 190×97.5×249mm（IT之家測得為 202×120×258mm）。

另外IT之家測得機身重量為 2.9kg，對于追求極致便攜的傳統(tǒng)迷你主機品類來說，這個體積和重量算不上十分苗條，放在背包里還是會有一定的墜重感。不過這是因為內(nèi)部集成了一個高達(dá) 350W 的內(nèi)置電源模塊，所以能把體積縮減到這樣已經(jīng)是屬于緊湊型的了。日常使用擺在桌面上也能做到簡潔利落，可有效提升桌面的整潔度與美觀度。

作為一款桌面迷你 AI 工作站，聯(lián)想百應(yīng) AI 主機 300 也提供了比較豐富的接口。在機身正面的前置 I/O 面板上，從下到上依次提供了一個 3.5 毫米的音頻復(fù)合接口，兩個傳輸速率達(dá)到 10Gbps 的 USB 3.2 Gen2 Type-A 接口，一個支持 40Gbps 數(shù)據(jù)傳輸與 DP 1.4 視頻輸出的 USB4 Type-C 全功能接口，以及一個對于攝影師和創(chuàng)作者極為友好的 SD 4.0 讀卡器插槽。

此外，正面還配備了帶有白色 LED 指示燈的電源開關(guān)按鍵以及一個專用的性能模式切換按鍵，方便用戶根據(jù)當(dāng)前的工作負(fù)載隨時調(diào)整主機的性能釋放策略。

轉(zhuǎn)到機身背面的后置 I/O 面板，這里的接口陣容也很豐富。除了標(biāo)準(zhǔn)的 AC C13 電源輸入接口外，還提供了一個額外的 3.5 毫米音頻復(fù)合接口，一個支持 2.5G 速率的高速 RJ45 網(wǎng)絡(luò)接口，一個 10Gbps 速率的 USB 3.2 Gen2 Type-A 接口，還有一個支持 40Gbps 速率與 DP 1.4 的 USB4 Type-C 接口。

在視頻輸出方面，背面還單獨配備了一個支持 HBR3（40Gbps）的 DP 1.4 接口以及一個支持 32Gbps FRL 的 HDMI 2.1 接口，最后還有兩個日常用于連接鍵鼠等外設(shè)的 USB 2.0 規(guī)格的 Type-A 接口。

整體看下來，聯(lián)想百應(yīng) AI 主機 300 機身沉穩(wěn)緊湊，金屬材質(zhì)搭配黑色機身有商務(wù)氣質(zhì)，機身的細(xì)節(jié)設(shè)計上又帶點極客元素，是一款低調(diào)百搭的迷你 AI 主機。

二、性能概述

正如前文所說，聯(lián)想百應(yīng) AI 主機 300 最大的看點自然是搭載了 AMD 旗艦芯片銳龍 AI Max+ 395。這款處理器采用全新的 Zen 5 架構(gòu)，領(lǐng)先的 4nm 制程，16 核超大核心 32 線程設(shè)計，最高頻率可達(dá) 5.1 GHz，并配備了 80MB 的緩存，整體規(guī)格非常強悍。

同時它還集成了 Radeon 8060S 顯卡。擁有 40 個 RDNA 3.5 架構(gòu)計算單元。cTDP 范圍在 45-120W 之間，可以平替 RTX 4070 獨顯，能在 1080p 分辨率下流暢運行各種游戲，還可驅(qū)動四臺顯示器，最高支持超高清 8K UHD，并能高效編碼和解碼多種視頻 codec，如 AVC、HEVC、VP9 和 AV1。

它的 NPU 采用了全新的 XDNA 2 架構(gòu)，Al 算力 50 TOPS。根據(jù)官方材料介紹，其在 Windows 11 AI+PC 中，GPU 在 LM Studio 里的 Al 性能比臺式機中的 NVIDIA GeForce RTX 4090 獨顯還要高出 2.2 倍，且功耗降低 87%。

內(nèi)存和存儲方面。為了應(yīng)對大參數(shù) AI 模型對內(nèi)存帶寬和容量的嚴(yán)苛渴求，聯(lián)想百應(yīng) AI 主機 300 板載了高達(dá) 128GB 容量的 LPDDR5x 超高頻內(nèi)存，通過統(tǒng)一內(nèi)存架構(gòu)和 AMD 可變顯存技術(shù)，實現(xiàn)了 CPU、NPU 和集成顯卡之間共享這 128GB 的海量內(nèi)存空間，還可分配最高 96GB 給到顯存，數(shù)據(jù)可以直接在芯片內(nèi)部的高速總線上流轉(zhuǎn)，實現(xiàn)了零拷貝的極致低延遲體驗。

憑借這套統(tǒng)一內(nèi)存架構(gòu)，這款主機的功耗得以再次降低 30% 以上，同時數(shù)據(jù)處理的延遲也被大幅縮短，AMD 銳龍 AI Max 系列處理器徹底打破了超大模型無法在本地流暢部署的技術(shù)壁壘。

在存儲系統(tǒng)上，該機標(biāo)配了一塊 2TB 容量的 PCIe 4.0 NVMe 高速固態(tài)硬盤。主板內(nèi)部則提供了兩個 M.2 2280 規(guī)格的插槽，均支持 PCIe 4.0 x4 通道。

上手之后，IT之家也對聯(lián)想百應(yīng) AI 主機 300 做了一系列的基準(zhǔn)性能測試，好讓大家整體了解這款迷你主機的硬核實力。

首先是 CPU 的理論性能測試，在 Cinebench R23 的基準(zhǔn)測試當(dāng)中，聯(lián)想百應(yīng) AI 主機 300 單核 2008pts，多核 36886pts 的表現(xiàn)，性能十分頂級。

CineBench 2024 中，銳龍 AI Max+ 395 單核為 113 pts，多核為 1887 pts。

GPU 方面，IT之家測了《3DMark》的 Time Spy 項目，得到顯卡成績?yōu)?12108 分，綜合得分 11682 分。

在 Fire Strike 項目中，Radeon 8060S 顯卡成績?yōu)?31792 分，綜合得分達(dá)到 27723 分。

然后是 Solar Bay 項目的測試，Radeon 8060S 顯卡跑到 205.95 FPS，綜合得分 54164 分。

可以看到，無論 CPU 還是 GPU，銳龍 AI Max+ 395 處理器的基準(zhǔn)性能都非常亮眼，足以和目前中高端的游戲本相抗衡。

內(nèi)存方面，通過 AIDA 64 的內(nèi)存測試工具測得讀取速度達(dá)到 119.94 GB/s，寫入速度達(dá)到 211.98 GB/s，拷貝速度為 148.04 GB/s，時延為 141.8 ns。

使用 CrystalDiskMark 測了 SSD 的讀寫性能，在 SEQ1M Q8T1 項目中，這塊 SSD 的讀取速度為 7010.44 MB/s，寫入速度為 6303.56 MB/s。

三、AI 功能體驗

我們知道，AMD 銳龍 AI Max+ 395 擁有為大模型量身打造的超強算力，這讓以往不能在本地部署的超大模型都能在這臺工作站中順利運行，對于 AI 初學(xué)者、開發(fā)者乃至企業(yè)用戶來說無疑會非常友好。

所以接下來IT之家也將重點為大家體驗使用聯(lián)想百應(yīng) AI 主機 300 在本地部署各類 AI 模型、智能體以及相關(guān)的應(yīng)用體驗。

1、OpenClaw 本地部署以及聯(lián)想百應(yīng) Claw 體驗

首先，這款主機的核心賣點之一就是其本地優(yōu)先的數(shù)據(jù)安全策略。所有的 AI 推理計算都可以在本地完成，敏感數(shù)據(jù)完全不需要上傳到云端，這極大程度地滿足了政企、醫(yī)療等行業(yè)對數(shù)據(jù)安全與合規(guī)性的要求。

實測過程中，我們先來看一下用聯(lián)想百應(yīng) AI 主機 300 本地“養(yǎng)龍蝦”的體驗。小編首先在本地部署了 OpenClaw，然后又在本地通過 Ollama 部署了 Qwen3.6 35B 的超大模型，讓 OpenClaw 調(diào)用本地大模型。

弄完了之后，小編給 OpenClaw 發(fā)了一個任務(wù)，讓它幫我整理出當(dāng)天全網(wǎng)科技圈熱點最高的新聞 20 條，并整理成 Excel 表格，保存在電腦的“文檔”文件夾里。

可以看到，經(jīng)過了大概 8 分鐘后，OpenClaw 順利完成了這個任務(wù)。不僅成功整理出了 20 條新聞熱點，還按照熱點程度分了等級，也根據(jù)要求將 Excel 保存在了指定的文件夾里。

測試過程中，小編時不時打開 Windows 的性能管理器，32GB 的內(nèi)存和 96GB 的顯存占用都很高，任務(wù)過程都是在本地運行的。

要知道，這可是高達(dá) 35B 參數(shù)的大模型本地運行，效果還是很出色的。

為了降低用戶的上手門檻，聯(lián)想百應(yīng) AI 主機 300 內(nèi)置了聯(lián)想百應(yīng) AI 平臺，支持一鍵部署私有知識庫與 OpenClaw 企業(yè)級 AI 智能體。

想要在這臺主機上本地部署 OpenClaw 其實并不復(fù)雜。用戶只需打開聯(lián)想百應(yīng) App，點擊立即部署選項，系統(tǒng)便會自動連接服務(wù)器下載所需的相關(guān)環(huán)境文件與依賴包。下載完成后，用戶可以在直觀的界面中選擇適合的模型供應(yīng)商，后續(xù)的默認(rèn)模型可以根據(jù)實際需求靈活挑選。

當(dāng)然，如果你像小編一樣已經(jīng)在本地部署了 OpenClaw，也可以直接讓聯(lián)想百應(yīng)來一鍵接管，整個過程只需要按照指引，兩三步就能完成接管，非常簡單。

相較于直接在本地運行 OpenClaw，聯(lián)想百應(yīng) Claw 中提供了很多可以一鍵實現(xiàn)或者簡化操作的快捷功能。比如創(chuàng)建龍蝦 Agent，你只需填寫名稱、身份描述、添加技能，即可快速創(chuàng)建。

技能方面，聯(lián)想百應(yīng) Claw 也內(nèi)置了豐富的技能選項，都是一鍵即可添加，操作非常簡單。

這里小編直接創(chuàng)建一個運營專家的龍蝦，根據(jù)操作指引，幾步就可以完成創(chuàng)建。創(chuàng)建后可以在對話框左下角切換。

不僅如此，你還可以將聯(lián)想百應(yīng) Claw 快捷接入到釘釘、飛書、微信、企業(yè)微信、QQ 等平臺，讓它成為你辦公或者生活的智能助手。

這里我們以微信為例，接入的過程很簡單，只需要根據(jù)操作指引掃碼，兩步就可以完成接入。接入后，微信上就會多出一個微信 ClawBot。

小編直接在微信上對微信 ClawBot 發(fā)起任務(wù)，讓它幫我設(shè)計一套針對某款手機的完整的小紅書平臺營銷方案。

在執(zhí)行過程中，雖然是在微信上發(fā)起的任務(wù)，但由于接入的是剛才的聯(lián)想百應(yīng) Claw，所以整個過程也是本地運行的，內(nèi)存和顯存的占用分別達(dá)到了 50% 和 70% 以上。

在微信上看不到智能體執(zhí)行任務(wù)的過程，大概 6 分鐘后，運營專家龍蝦智能體完成任務(wù)執(zhí)行并返回了結(jié)果。

可以看到，運營專家龍蝦智能體對整個營銷方案的設(shè)計還是十分完整全面的，而且具有相當(dāng)?shù)目刹僮餍浴Ｍ瑫r讓它生成的海報也交付了 3 張。而這一切，都是完全在本地完成的，得益于銳龍 AI Max+ 395 強大的基準(zhǔn)性能統(tǒng)一內(nèi)存架構(gòu)和 AI 算力的支持，聯(lián)想百應(yīng)完全可以將養(yǎng)龍蝦這件事放在終端測，這樣對于一些隱私敏感型的任務(wù)，大家就可以放心交給龍蝦去執(zhí)行了。

最后還需要提醒大家的是，如果你需要云端模型算力，也可以直接在聯(lián)想百應(yīng)上切換云端模型，同時購買聯(lián)想的 Token Plan，配合本地的模型，就可以實現(xiàn)端云結(jié)合的養(yǎng)龍蝦體驗了。

2、不同參數(shù)量本地大語言模型運行測試

上面使用聯(lián)想百應(yīng) AI 主機 300 本地跑龍蝦的過程還是比較順利的，并且都是調(diào)用本地的 Qwen3.6 35B 的超大模型。這也讓我們好奇聯(lián)想百應(yīng)本地跑各種大語言模型參數(shù)時的實際吞吐性能到底怎么樣。

接下來，小編使用 LM Studio 來裝載各種參數(shù)量的本地大語言模型進(jìn)行測試。首先我們直接從 Qwen3.5 9B 參數(shù)的模型來測試，問它一個關(guān)于上海旅游攻略的問題，大模型很快完成了回答。回答的效果很不錯，具體而詳細(xì)。

這次回答輸出了 1271 tokens，速度為 33.03 tok/s，延遲為 0.17s。

接著小編將模型切換到 Qwen 3.6 35B 模型，用類似的問題再進(jìn)行測試。這次 Qwen 3.6 35B 模型的回答要比上一個更加詳細(xì)，而且還提供了表格、各種需要避坑的要點也給列了出來。

關(guān)鍵是，這次 35B 模型輸出了 4752 個 tokens，輸出速度為 61.66 tok/s，速度比剛才的 9B 模型更快了，可見大參數(shù)模型在更好的優(yōu)化和量化技術(shù)下，也能獲得更加出色的運行效率。

為了進(jìn)一步壓榨它的潛力，我們直接上強度，嘗試運行了參數(shù)量高達(dá) 120B 的 OpenAI 開源超大 GPT-OSS 模型。在加載該模型時，系統(tǒng)分配的 32GB 內(nèi)存占用就已經(jīng)飆到了 99%，但得益于銳龍 AI Max+ 395 的超大容量 256bit 四通道內(nèi)存且高速的統(tǒng)一內(nèi)存架構(gòu)，機器還是能夠順利且穩(wěn)定地將模型跑起來。

測試時，小編還是用這個生成旅游攻略的問題來問它。GPT-OSS 模型的回答也很流暢和詳細(xì)，可以看到它比較擅長使用表格，各種要點一目了然。

可以看到，在運行 120B 的超大模型時，聯(lián)想百應(yīng) AI 主機 300 依然能實現(xiàn) 38.67 tok/s 的生成速度，總計生成了 4260 個 tokens，延遲為 0.47s，這對于過去的個人 PC 或主機來說是很難想象的。

3、本地大模型的創(chuàng)意內(nèi)容生成體驗

除了文本類的大語言模型之外，我們也在本地實際部署并運行了目前在創(chuàng)作者圈子中比較流行的通用 AI 圖像平臺 ComfyUI，在里面搭建一個文生圖工作流，做了本地文生圖測試。

測試時，小編使用的是 Zimage-Turbo -fp8 模型，讓它生成一張亞洲男子在街頭打電話的圖片，提示詞指令比較詳細(xì)，圖片分辨率是 1328×1328，迭代步數(shù)是 8 步。這張圖片生成時間大概 1 分 10 秒，生成的圖片品質(zhì)還是非常高的，完全符合復(fù)雜的提示詞指令的要求。

測試時，小編給內(nèi)存分配的是 96GB，顯存是 32GB，可以看到在運行過程中內(nèi)存和顯存的占用都在 20% 左右，運行過程全程是斷網(wǎng)的。

接著小編將顯存分配到 96GB，內(nèi)存分配到 32GB，再運行一次，這次讓它生成一個女子在河邊散步的圖片，提示詞同樣是比較詳細(xì)和復(fù)雜的。而這一次圖片生成的時間和上次差不多，都是 1 分鐘 10 秒左右。這說明銳龍 AI Max+ 395 處理器的能力遠(yuǎn)不止此，我們甚至還可以適時加大 AI 工作負(fù)載，比如進(jìn)一步提升圖片分辨率，增加迭代步數(shù)，這樣才更充分地利用內(nèi)置顯卡 Radeon 8060S 和統(tǒng)一內(nèi)存架構(gòu)的能力優(yōu)勢。

生圖過程中內(nèi)存和顯存占用最高到 80% 和 97%，但很快回落，對性能的開銷不算很大。生成的圖片質(zhì)量也是非常高的，精致真實且充滿細(xì)節(jié)。

除了文生圖，我們也測試了本地文生視頻。在視頻生成測試環(huán)節(jié)，小編使用的是 Amuse v3.5.2 這款軟件，模型使用的是 LTX-2-Disstilled。測試時，小編先讓它生成一段下雨天的街頭，一個男人在打電話的視頻。

生成這段 6.7 秒的視頻大概用了 11 分鐘，一共 161 幀，視頻分辨率 768×512，幀率為 24 fps，視頻生成過程中，能看到對內(nèi)存的占用比較高，96GB 的內(nèi)存最高占用可以超過 75%，對顯存的占用比較低，基本上都在 5% 以下。

生成的視頻如下：

考慮到視頻生成模型對算力和顯存的恐怖榨取程度，這個速度表現(xiàn)無疑是比較出色的。總體看下來，這 128GB 的超大統(tǒng)一內(nèi)存在面對諸如 120B 超大語言模型以及極為吃配置的 AI 文生視頻任務(wù)時，與傳統(tǒng)的消費級獨顯設(shè)備相比，聯(lián)想百應(yīng) AI 主機 300 的架構(gòu)優(yōu)勢與海量內(nèi)存紅利在此時就徹底顯現(xiàn)出來了，面對超大參數(shù)的模型也不至于出現(xiàn)爆顯存或心有余而力不足的尷尬局面。

結(jié)語

總體來說，這么一圈的測試體驗看下來，聯(lián)想百應(yīng) AI 主機 300 工作站的整體性能表現(xiàn)確實還是過硬的，主要是得益于 AMD 銳龍 AI Max+ 395 芯片超大的 128GB 內(nèi)存容量和四通道 256bit LPDDR5x 內(nèi)存位寬，通過統(tǒng)一內(nèi)存架構(gòu)設(shè)計，可以最高分配 96GB 給到顯存，打破了以往桌面小主機無法勝任重度 AI 開發(fā)的刻板印象。海量的內(nèi)存空間讓它在本地部署各種百億甚至千億級別的大語言模型這件事上，有著目前市面上絕大多數(shù)常規(guī)產(chǎn)品無法比擬的巨大優(yōu)勢。再加上聯(lián)想為其定制的聯(lián)想百應(yīng)，可以一鍵無腦部署 OpenClaw 企業(yè)級智能體，這對想零門檻體驗和探索前沿 AI 應(yīng)用的小伙伴來說，顯然很是友好。

而對于那些本身就具備開發(fā)能力的高階玩家和極客而言，也可以順手將其打造成純本地的專屬算力中心，從而跟高昂的云端算力賬單和 API 調(diào)用額度說拜拜。

從行業(yè)落地的視角來看，聯(lián)想百應(yīng) AI 主機 300 在醫(yī)療、制造業(yè)以及更廣泛的企業(yè)辦公領(lǐng)域也都有可觀的應(yīng)用場景，比如在醫(yī)療行業(yè)，因為有些病人的數(shù)據(jù)是不能上云的，它就可以化身為本地的桌面影像智能診斷和病歷錄入的大腦，輔助醫(yī)生進(jìn)行快速決策，提升診療效率；在制造行業(yè)，通過異常數(shù)據(jù) / 故障照片就能實時分析產(chǎn)線問題，實現(xiàn)預(yù)測性維護(hù)，減少停機損失；在企業(yè)進(jìn)行私有智能體部署，也能自動生成周報、提煉會議重點、智能問答，化身全能 AI 助手；消費零售領(lǐng)域則更為常見，智能客服本地化，能實現(xiàn)對客戶咨詢的秒級響應(yīng)，進(jìn)而提升客戶滿意度。

聯(lián)想百應(yīng) AI 主機 300 作為一款強大的旗艦級主機，目前京東平臺自營店面 128GB 內(nèi)存 +2TB 固態(tài)的版本價格達(dá)到了 26999 元。它比較適合那些真正對本地 AI 有剛需、同時已經(jīng)開始用 AI 干活，用 AI 真正能夠提升工作和創(chuàng)作效率以及生活和辦公體驗感的用戶，比如對本地數(shù)據(jù)隱私有著極高要求的企業(yè)用戶、開發(fā)者與預(yù)算充足的極客們。