北京
去年11月，F(xiàn)acebook上出現(xiàn)了一條包含疑似AI生成視頻的內(nèi)容。視頻中，一位蘇格蘭地區(qū)的工黨議員被偽造發(fā)表關(guān)于難民和性侵犯的諷刺性冒犯言論。這條內(nèi)容至今未被平臺移除，現(xiàn)在成了Meta監(jiān)督委員會的最新審查對象。
這條帖子實際上是個"組合包"：除了針對該議員的深度偽造視頻，還有一段疑似AI生成的親巴勒斯坦抗議者視頻，以及一張看起來真實的照片——幾名女性（包括視頻中的那位議員）舉著反極右翼標(biāo)語。帖子點名了這些女性，配文還對那位工黨議員提出了毫無根據(jù)的逃稅指控。
監(jiān)督委員會披露，該帖互動量相當(dāng)有限，且沒有任何AI標(biāo)簽或披露說明。兩名用戶曾舉報內(nèi)容違反Meta的《欺凌與騷擾政策》，但公司系統(tǒng)未能將投訴升級至人工審核，內(nèi)容因此保留。其中一名用戶隨后向監(jiān)督委員會提起上訴。
這位議員并非無名之輩。她長期公開反對被其視為種族主義虛假信息的內(nèi)容——這些信息被用來煽動反移民情緒，針對英國酒店安置尋求庇護(hù)者的抗議活動。她此前曾報告因就該議題發(fā)聲而遭受威脅和恐嚇，包括AI生成的網(wǎng)絡(luò)誹謗。
Meta的辯解理由層層遞進(jìn)：
第一，公眾人物"不設(shè)防"。 Meta稱該帖子未被標(biāo)記刪除，是因為當(dāng)事人是成年公眾人物，因此不自動受"非自愿操縱圖像"保護(hù)。普通私人個體可主動舉報有害內(nèi)容并申請下架。
第二，未觸及其他政策紅線。 Meta不認(rèn)可內(nèi)容違反《仇恨行為政策》中關(guān)于難民的概括性陳述條款；也不構(gòu)成虛假信息——因其未被任何"可信合作伙伴"項目成員舉報。此外，由于該議員未參加蘇格蘭近期地方選舉，故不構(gòu)成選舉干預(yù)。
第三，"諷刺"免標(biāo)簽。 Meta還援引低互動量和視頻的"諷刺"性質(zhì)，作為無需添加AI標(biāo)簽的理由。
監(jiān)督委員會目前正在征集與該案件相關(guān)的公眾意見，這些意見可能為其向Meta提出的政策建議提供參考。這些建議雖不具約束力，但Meta須在60天內(nèi)作出回應(yīng)。
需要說明的是，監(jiān)督委員會雖是獨立外部機(jī)構(gòu)，但其運作資金來自Meta。這一結(jié)構(gòu)自成立之初就伴隨著關(guān)于"獨立性"的爭議——平臺出錢請人來監(jiān)督自己，這套機(jī)制能在多大程度上真正約束平臺行為，始終是外界觀察的焦點。
此案的特殊性在于，它同時踩中了多個當(dāng)前內(nèi)容審核的灰色地帶：深度偽造的邊界在哪里？"諷刺"能否成為AI生成內(nèi)容的免責(zé)牌？公眾人物的隱私與名譽(yù)保護(hù)是否應(yīng)該讓位于"言論自由"？當(dāng)自動化系統(tǒng)漏過投訴時，人工復(fù)核機(jī)制的失效又該如何問責(zé)？
監(jiān)督委員會的最終裁定，或?qū)镸eta乃至整個行業(yè)處理類似案例提供參照。但更值得追問的是：在AI生成內(nèi)容井噴的當(dāng)下，平臺自我監(jiān)管的框架是否已經(jīng)滯后于技術(shù)濫用的速度？
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
