北京
4月28日，商湯科技發(fā)布并開源日日新SenseNova U1 系列原生理解生成統(tǒng)一模型。發(fā)布當日，包括昇騰等在內(nèi)的10家國產(chǎn)芯片公司，第一時間完成了對開源的SenseNova U1系列的Day 0適配。
從開源開發(fā)者平臺GitCode公開信息獲悉，昇騰基于Ascend 910C NPU對SenseNova-U1-8B-MoT模型進行了適配，并利用NPU的融合算子能力，對模型推理進行端到端加速，不僅實現(xiàn)“開箱即用”，更將推理速度顯著提升。
信息顯示，昇騰通過CANN算子編譯融合、任務(wù)隊列優(yōu)化、精度控制、RoPE融合等技術(shù)，將分散的細粒度算子合并執(zhí)行，有效減少計算冗余與顯存占用。在2048×2048分辨率圖像生成任務(wù)中，經(jīng)融合優(yōu)化后的推理平均時延從98.6秒降至39.1秒，整體加速比達到2.52倍，在信息圖、圖文交錯生成等場景提升尤為顯著。
為方便開發(fā)者快速落地，昇騰還在GitCode開放了一整套可直接復(fù)用的部署方案，包含容器環(huán)境配置、依賴安裝、模型下載、融合優(yōu)化、推理腳本等內(nèi)容，并提供常見問題排查指南。開發(fā)者無需復(fù)雜調(diào)試，按步驟即可完成部署，在保證精度對齊的同時獲得最優(yōu)性能。
SenseNova U1是一款基于商湯NEO-unify架構(gòu)的原生理解生成統(tǒng)一模型，實現(xiàn)了語言和視覺信息的高效協(xié)同，達到開源模型的SOTA水平。它在單一模型架構(gòu)上統(tǒng)一了多模態(tài)理解、推理與生成，并在業(yè)內(nèi)首創(chuàng)了連續(xù)性圖文創(chuàng)作輸出，具有高密度信息表達能力。此次開源的SenseNova U1 Lite僅憑8B-MoT的較小規(guī)格，就能達到甚至超越部分大型商業(yè)閉源模型。
業(yè)內(nèi)人士指出，國產(chǎn)大模型與國產(chǎn)算力的協(xié)同正快速走向成熟。昇騰此次對SenseNova U1 的Day0適配與端到端優(yōu)化，進一步驗證了國產(chǎn)芯片對新一代原生統(tǒng)一多模態(tài)模型的商用支撐能力，也為全棧國產(chǎn)化AI方案落地提供了可行路徑。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
