全國首個！“晏清”內(nèi)容審核大模型通過備案

近日，由云從科技助力東西湖國家網(wǎng)安基地打造的“晏清大模型”完成備案,成為全國首個完成此項備案的內(nèi)容審核大模型。

這意味著，我國AI行業(yè)有了一個能理解上下文、識別潛藏風(fēng)險、全棧自主可控的“內(nèi)容安全審核員”。

這一進(jìn)展，配合著監(jiān)管側(cè)對AI應(yīng)用治理進(jìn)一步強(qiáng)化。中央網(wǎng)信辦近期部署開展“清朗·整治AI應(yīng)用亂象”專項行動，明確提出將圍繞大模型備案、安全審核能力、訓(xùn)練語料安全、生成內(nèi)容標(biāo)識等關(guān)鍵環(huán)節(jié)開展整治，同時重點治理利用AI生成虛假信息、低俗內(nèi)容、侵害未成年人權(quán)益等問題。

此外，網(wǎng)信辦正在指導(dǎo)各地各網(wǎng)站平臺全面推進(jìn)落實三項工作：

規(guī)范短視頻內(nèi)容標(biāo)注標(biāo)簽；

將內(nèi)容標(biāo)注設(shè)為短視頻發(fā)布必經(jīng)環(huán)節(jié)；

對新增短視頻標(biāo)注情況加強(qiáng)審核。

此外，網(wǎng)信辦正在指導(dǎo)各地各網(wǎng)站平臺全面推進(jìn)落實三項工作：1.規(guī)范短視頻內(nèi)容標(biāo)注標(biāo)簽；2.將內(nèi)容標(biāo)注設(shè)為短視頻發(fā)布必經(jīng)環(huán)節(jié)；3.對新增短視頻標(biāo)注情況加強(qiáng)審核。

在此背景下，AI內(nèi)容治理正在從“規(guī)則補(bǔ)丁”階段，進(jìn)入“體系能力建設(shè)”階段。

內(nèi)容審核能力，也從原來的輔助環(huán)節(jié)，逐步成為AI應(yīng)用不可或缺的基礎(chǔ)能力。

從表面看，這是又一項大模型通過監(jiān)管審核的進(jìn)展；但放在當(dāng)前生成式AI快速演進(jìn)的背景下，這件事的意義，可能不止于“一個模型上線”。

內(nèi)容審核能力成為基礎(chǔ)剛需

過去，內(nèi)容審核更多依賴規(guī)則、人工經(jīng)驗和零散工具。

但隨著AI應(yīng)用深入，企業(yè)面對的內(nèi)容場景已經(jīng)越來越復(fù)雜：一邊是客服、運(yùn)營、平臺治理等環(huán)節(jié)中的高頻內(nèi)容處理需求，另一邊是文本、圖片、長文信息快速增長，傳統(tǒng)方式很難兼顧效率、穩(wěn)定性和一致性。

內(nèi)容生產(chǎn)被放大，審核能力開始變得稀缺。

更大的變化來自智能體（Agent）。

隨著Agent（智能體）逐步進(jìn)入實際應(yīng)用，AI不再只是“生成內(nèi)容”，而是開始自動完成一系列動作：寫、發(fā)、分發(fā)，甚至參與決策。

這意味著，內(nèi)容生產(chǎn)正在從“人工驅(qū)動”走向“自動化驅(qū)動”。當(dāng)生產(chǎn)能力被海量放大，如果判斷機(jī)制沒有同步升級，信息環(huán)境很容易在短時間內(nèi)出現(xiàn)失序。

換句話說，AI時代真正稀缺的，可能不再是“生成能力”，而是“判斷能力”。

在這樣的背景下，內(nèi)容審核大模型的價值，也不再只是“識別更準(zhǔn)”，而在于能否在真實環(huán)境中長期、穩(wěn)定地運(yùn)行。

這恰恰是最難的一部分。

內(nèi)容審核屬于典型的高并發(fā)場景，流量波動大、響應(yīng)要求高，同時還需要保證結(jié)果的穩(wěn)定與可控。

模型本身只是起點，更關(guān)鍵的是算力調(diào)度與系統(tǒng)工程能力。在國家網(wǎng)安基地的整體體系中，依托華為昇騰提供的算力基礎(chǔ)設(shè)施與智算能力支撐，使模型從“能用一次”走向“可以持續(xù)運(yùn)行”。

在這一體系建設(shè)過程中，云從科技承擔(dān)了核心的技術(shù)與系統(tǒng)整合工作——不僅提供模型能力，還圍繞內(nèi)容審核場景，對策略體系、系統(tǒng)架構(gòu)以及業(yè)務(wù)接入進(jìn)行持續(xù)優(yōu)化，使相關(guān)能力能夠真正進(jìn)入生產(chǎn)環(huán)境并穩(wěn)定運(yùn)行。

這一過程的難點，不在于單點技術(shù)突破，而在于如何把模型、算力與系統(tǒng)能力打通，形成可持續(xù)運(yùn)轉(zhuǎn)的整體。

AI基礎(chǔ)設(shè)施+AI智能體雙輪驅(qū)動

如果從更長周期來看，這一步也與云從科技近年來的戰(zhàn)略方向高度一致。

公司正從單一模型與行業(yè)應(yīng)用，逐步延伸到“AI基礎(chǔ)設(shè)施+AI智能體”的整體布局：

一方面，通過算力、模型與系統(tǒng)能力的整合，形成可持續(xù)供給的底層能力；另一方面，在此基礎(chǔ)上承載各類Agent與行業(yè)應(yīng)用，使AI能夠在真實場景中穩(wěn)定運(yùn)行。

從這個角度看，“晏清大模型”的備案，不僅是一次技術(shù)進(jìn)展，更像是一個信號：內(nèi)容安全能力正在從項目化交付，走向平臺化、持續(xù)供給的階段。

它的直接服務(wù)對象是企業(yè)客戶，最終覆蓋企業(yè)員工以及企業(yè)平臺上的終端用戶，主要聚焦幾類需求：一是智能客服場景中的應(yīng)答輔助、會話提煉、摘要總結(jié)；二是互聯(lián)網(wǎng)平臺和品牌方的內(nèi)容風(fēng)控需求，幫助識別和判斷平臺內(nèi)容風(fēng)險；三是對公開市場信息、長篇文章、數(shù)據(jù)材料進(jìn)行快速提煉和分析，輸出要點和核心觀點。

這類能力在早期往往不顯眼，但隨著AI應(yīng)用的深入，其重要性會逐步體現(xiàn)。

尤其是在Agent逐步普及、內(nèi)容自動化生產(chǎn)持續(xù)放大的背景下，誰能提供穩(wěn)定、可控的底層能力，誰就更有可能占據(jù)產(chǎn)業(yè)鏈中的關(guān)鍵位置。

目前國家網(wǎng)安基地已匯聚220余家網(wǎng)安頭部企業(yè)、科研機(jī)構(gòu)與政企單位，本身就是AI智能體與合規(guī)服務(wù)的精準(zhǔn)需求池，而云從科技作為基地運(yùn)營方與標(biāo)桿模型打造方，可直接將能力輻射至全生態(tài)，再逐步覆蓋全國千行百業(yè)，實現(xiàn)從單點標(biāo)桿到行業(yè)級基礎(chǔ)設(shè)施的量級跨越。

晏清大模型的備案通過，從來不是終點，而是Agent時代合規(guī)基建的起點。在AI智能體全面爆發(fā)的前夜，云從科技以國家級合規(guī)模型為切口，以“AI基礎(chǔ)設(shè)施+AI智能體”雙輪戰(zhàn)略為支撐，既守住了AI時代國家內(nèi)容安全的核心防線，也為千行百業(yè)擁抱AI智能體，打通了最關(guān)鍵的合規(guī)通路。