3萬多條“霸總”內(nèi)容被下架！一批AI侵權(quán)視頻也遭到處罰

4月23日，@抖音黑板報(bào) 發(fā)布關(guān)于AI生成不當(dāng)內(nèi)容及侵犯他人權(quán)益的治理公告：

為維護(hù)清朗網(wǎng)絡(luò)環(huán)境，保障廣大用戶及創(chuàng)作者的合法權(quán)益，抖音始終對(duì)各類侵權(quán)行為保持零容忍態(tài)度，持續(xù)加強(qiáng)技術(shù)識(shí)別能力與治理力度。近期，針對(duì)利用AI技術(shù)實(shí)行換臉、盜用名人肖像形象，利用AI生成、發(fā)布、傳播侵犯他人知識(shí)產(chǎn)權(quán)，肖像惡搞內(nèi)容、仿冒蹭熱他人等典型違規(guī)行為，平臺(tái)開展了專項(xiàng)治理行動(dòng)。現(xiàn)將相關(guān)情況公告如下：

一

治理成效

2026年，抖音持續(xù)加強(qiáng)對(duì)AI內(nèi)容的識(shí)別能力，強(qiáng)化AI侵權(quán)治理。截至目前，針對(duì)AI肖像惡搞、AI著作權(quán)侵權(quán)、AI仿冒蹭熱、AI侵權(quán)帶貨等典型違規(guī)行為，平臺(tái)通過開展多輪專項(xiàng)治理行動(dòng)、暢通用戶舉報(bào)反饋渠道，已累計(jì)下架AI侵權(quán)視頻超53.8萬條，處罰違規(guī)賬號(hào)4000多個(gè)。同時(shí)，平臺(tái)已處置利用“AI霸總”形象誤導(dǎo)、誘導(dǎo)中老年人互動(dòng)的不當(dāng)內(nèi)容3萬多條，賬號(hào)1300多個(gè)。

其中，針對(duì)利用AI技術(shù)換臉、盜用肖像或聲音，生成丑化、惡搞或仿冒蹭熱內(nèi)容，并制作傳播誤導(dǎo)性內(nèi)容的侵權(quán)行為，平臺(tái)予以重點(diǎn)打擊。目前已累計(jì)下架AI仿冒蹭熱視頻超36萬條，處置AI肖像、AI聲音類侵權(quán)內(nèi)容8.5萬條，并對(duì)部分嚴(yán)重違規(guī)的賬號(hào)予以禁止投稿、封禁賬號(hào)權(quán)限等梯度處罰，維護(hù)清朗抖音社區(qū)生態(tài)。

二

重點(diǎn)關(guān)注的AI侵權(quán)場景

當(dāng)前，平臺(tái)重點(diǎn)處置以下幾類AI生成不當(dāng)內(nèi)容及侵權(quán)場景：

1. 利用AI技術(shù)換臉、盜聲等違規(guī)行為

AI惡搞肖像：侵權(quán)者利用AI換臉、人臉合成等技術(shù)，將目標(biāo)人物的肖像（包括明星、公眾人物及普通用戶）與不雅、惡搞、丑化甚至虛假信息相結(jié)合，制作和傳播誤導(dǎo)性或侮辱性內(nèi)容，涉嫌侵害個(gè)人肖像權(quán)和名譽(yù)權(quán)。

AI聲音侵權(quán)：未經(jīng)授權(quán)的情況下，利用AI克隆、合成與他人聲音高度相似的音頻，公開傳播該聲音內(nèi)容；或冒用他人聲音生成語音，用于直播帶貨、短視頻配音等，對(duì)公眾造成惡意誤導(dǎo)。

AI仿冒蹭熱：未經(jīng)授權(quán)的情況下，利用AI技術(shù)制作并發(fā)布冒用他人身份的內(nèi)容，以此蹭熱博取流量、誤導(dǎo)公眾或?qū)嵤┰p騙引流。

AI侵權(quán)帶貨：未經(jīng)授權(quán)的情況下，利用AI生成含有他人肖像、聲音的宣傳內(nèi)容，如偽造的明星推薦視頻、AI生成的商品宣傳圖等，進(jìn)行推廣和銷售商品。

目前，為防范AI盜用名人肖像等侵權(quán)行為，平臺(tái)正持續(xù)建立完善典型案例樣本庫，結(jié)合大模型識(shí)別、技術(shù)巡檢與舉報(bào)信息，對(duì)樣本庫內(nèi)權(quán)利人相關(guān)的AI侵權(quán)內(nèi)容進(jìn)行及時(shí)干預(yù)和處置。

2. 通過AI技術(shù)“魔改”經(jīng)典，進(jìn)而傳播不良內(nèi)容

今年以來，平臺(tái)已開展治理“AI魔改”視頻專項(xiàng)工作。平臺(tái)對(duì)通過“魔改”傳統(tǒng)文藝作品，傳播血腥暴力、色情低俗等違規(guī)內(nèi)容從嚴(yán)處置，并對(duì)違規(guī)賬號(hào)采取梯度處罰措施。對(duì)涉嫌違法的行為，平臺(tái)也將及時(shí)上報(bào)有關(guān)部門，配合開展執(zhí)法工作。

三

舉報(bào)渠道與方式

為暢通用戶反饋路徑，平臺(tái)提供多種舉報(bào)渠道：

1. 抖音App內(nèi)舉報(bào)

通過視頻提示語/警示語舉報(bào) ：針對(duì)已自主聲明“內(nèi)容由AI生成”的視頻，用戶可點(diǎn)擊提示語發(fā)起舉報(bào)；對(duì)未聲明但平臺(tái)檢測出的疑似AI內(nèi)容，用戶可點(diǎn)擊“疑似使用了AI生成技術(shù)，請謹(jǐn)慎甄別”的警示語發(fā)起舉報(bào)。

長按視頻舉報(bào)：用戶可直接長按視頻，選擇“舉報(bào)”-“侵犯權(quán)益”，按照相應(yīng)的侵權(quán)類型進(jìn)行舉報(bào)；或者選擇“AI生成內(nèi)容問題”的舉報(bào)入口進(jìn)行反饋。

賬號(hào)舉報(bào)：用戶可進(jìn)入涉嫌侵權(quán)的賬號(hào)主頁，通過右上角“...”菜單發(fā)起舉報(bào)（詳情見圖）。

客服舉報(bào)：用戶可通過“我”-“≡”-“我的客服”- 右下角“發(fā)起新服務(wù)”進(jìn)入在線客服頁面，選擇“視頻創(chuàng)作與社交”-“我要舉報(bào)”-“舉報(bào)視頻”，選擇瀏覽記錄中想要舉報(bào)的內(nèi)容進(jìn)行反饋。

2. PC端批量舉報(bào)

用戶可通過抖音批量侵權(quán)舉報(bào)網(wǎng)站（www.douyin.com/qinquan/report）發(fā)起舉報(bào)，支持批量粘貼鏈接、上傳文件（單次最高可提交2000條內(nèi)容），覆蓋肖像權(quán)、隱私權(quán)、著作權(quán)等八大常見侵權(quán)場景。

3. 郵件反饋

如遇需要提交復(fù)雜證據(jù)或詳細(xì)文字說明的場景，用戶可將AI侵權(quán)內(nèi)容反饋至平臺(tái)郵箱（qinquan@bytedance.com）。

為構(gòu)建“人人可監(jiān)督”的社區(qū)共治環(huán)境，AI侵權(quán)場景下，平臺(tái)后續(xù)將針對(duì)非權(quán)利人提供網(wǎng)友監(jiān)督舉報(bào)入口，及時(shí)收集監(jiān)督舉報(bào)信號(hào)并研判處置。當(dāng)前行業(yè)仍普遍面臨AI生成內(nèi)容判斷難、AI聲音識(shí)別能力不足等難題。平臺(tái)將持續(xù)投入資源，盡力提升識(shí)別與精準(zhǔn)處置能力，應(yīng)對(duì)AI侵權(quán)內(nèi)容制作成本低、量級(jí)大等新挑戰(zhàn)。

當(dāng)前，部分違規(guī)內(nèi)容將真實(shí)素材與AI生成內(nèi)容進(jìn)行二次創(chuàng)作，真假難辨，技術(shù)識(shí)別存在局限性；針對(duì)AI生成的特定人物、IP形象，平臺(tái)很難第一時(shí)間掌握到相關(guān)授權(quán)信息，這給平臺(tái)研判、精準(zhǔn)處置也帶來了難題。

抖音呼吁廣大用戶理性創(chuàng)作、文明上網(wǎng)，共同抵制AI生成不當(dāng)內(nèi)容。如發(fā)現(xiàn)違規(guī)內(nèi)容，請積極通過上述舉報(bào)渠道進(jìn)行反饋。平臺(tái)將依法依規(guī)、從嚴(yán)處置各類違規(guī)行為，與用戶攜手共建清朗、誠信的網(wǎng)絡(luò)空間。

趕緊關(guān)注我們的官方賬號(hào)吧~

清朗網(wǎng)絡(luò)空間，我們共同守護(hù)！

掃碼進(jìn)入舉報(bào)不良信息頁面

來源丨@抖音黑板報(bào)、廣西日報(bào)

編輯｜李文彬

柳州市互聯(lián)網(wǎng)信息辦公室出品