北京
NVIDIA 今日宣布推出NVIDIA BlueField-4? STX模塊化參考架構，該架構可助力企業、云計算及 AI 服務商輕松部署加速存儲基礎設施，以滿足代理式 AI 所需的長上下文推理能力。
NVIDIA STX 助力存儲廠商構建數據就近并可大規模訪問的基礎設施，從而使代理式 AI 工廠能夠在推理、訓練和分析方面提供更高的吞吐量和響應速度。
首個機架級部署方案集成了全新的 NVIDIA CMX? 上下文記憶存儲平臺。通過引入高性能的上下文層來擴展 GPU 內存，從而實現可擴展的推理和代理式系統。與傳統存儲相比，每秒可處理的 Token 提升高達 5 倍。
NVIDIA 創始人兼首席執行官黃仁勛表示：“代理式 AI 正在重新定義軟件的能力，必須重塑其背后的計算基礎設施才能跟上這一步伐。能夠基于海量上下文進行推理并持續學習的 AI 系統，需要新的存儲方案。NVIDIA STX 重新定義了存儲堆棧，為 AI 原生基礎設施提供了模塊化基礎，確保 AI 工廠始終保持峰值性能高效運行。”
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
