快科技5月11日消息,當英偉達、AMD還在不斷堆高制程、堆砌HBM顯存推出高端AI加速卡時,一家小公司卻用老舊技術走出了不同路線。
中國臺灣企業Skymizer推出HTX301 PCIe AI加速器,采用28nm芯片搭配LPDDR4/LPDDR5內存,單卡即可運行7000億參數大語言模型。
HTX301單張PCIe卡集成6顆自研芯片協同工作,總內存容量最高可達384GB,整卡功耗僅為240W,全程未使用行業主流的HBM或 GDDR顯存方案。
![]()
該加速器基于Skymizer HyperThought平臺打造,搭載專為大語言模型工作負載設計的下一代LPU IP核,核心優化方向為大模型推理效率。
![]()
通過對權重和KV緩存采用專屬高效壓縮技術,HTX301的推理性能比開源框架llama.cpp 提升9%至17.8%,官方標稱帶寬可達100GB/s。
功耗對比方面,英偉達RTX PRO 6000 Blackwell 執行同類任務功耗約為600W,AMD Instinct MI350P功耗同樣遠高于該產品,均達到HTX301的兩倍以上。
HTX301采用標準PCIe卡外形尺寸,可直接安裝在普通風冷服務器中,無需對數據中心的電力和冷卻系統進行任何改造。
該方案同時解決了云端部署的兩大核心痛點,既避免了數據上傳帶來的隱私泄露風險,也實現了基礎設施成本的可預測性。
目前HTX301所宣稱的全部性能數據均來自Skymizer官方,尚未經第三方獨立測試驗證。
不過,Skymizer將于今年臺北國際電腦展上首次提供實機演示,并開放給獨立第三方機構對其性能參數進行全面驗證。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.