據(jù)外媒報道,OpenAI首席執(zhí)行官山姆·奧特曼近日向加拿大不列顛哥倫比亞省小鎮(zhèn)滕布勒里奇公開致歉,承認(rèn)公司在此前一起涉及潛在暴力風(fēng)險用戶的處理過程中,未能及時向執(zhí)法部門通報相關(guān)情況,并表示公司將進(jìn)一步加強與政府及執(zhí)法機構(gòu)的協(xié)作機制,以降低類似悲劇再次發(fā)生的可能性。
![]()
這起事件與今年2月發(fā)生在滕布勒里奇的一起槍擊案有關(guān),該案件造成8人死亡,警方隨后將杰西·范·魯特塞拉爾(Jesse Van Rootselaar)確定為主要嫌疑人。調(diào)查信息顯示,該用戶此前在使用ChatGPT過程中,曾生成包含暴力情景描述的內(nèi)容,觸發(fā)了OpenAI內(nèi)部自動審查系統(tǒng)的風(fēng)險標(biāo)記機制,并因此在去年6月被平臺封禁。
據(jù)報道,在內(nèi)部審查流程中,部分員工認(rèn)為相關(guān)對話內(nèi)容可能暗示現(xiàn)實中的潛在暴力傾向,并提出應(yīng)將信息上報加拿大執(zhí)法機構(gòu)。但公司管理層最終決定未采取報警措施。這一決策在槍擊事件發(fā)生后受到外界質(zhì)疑,并引發(fā)關(guān)于AI平臺風(fēng)險識別與通報責(zé)任邊界的討論。
在4月23日的一封致滕布勒里奇社區(qū)的信件中,奧特曼對此表示歉意,并向遇難者家屬及當(dāng)?shù)鼐用癖磉_(dá)哀悼。他在信中稱,沒有任何人應(yīng)該經(jīng)歷這樣的悲劇,并表示公司正在重新評估相關(guān)安全機制與應(yīng)急響應(yīng)流程。該信件由當(dāng)?shù)孛襟w率先披露。
![]()
OpenAI方面隨后表示,在事件發(fā)生后,公司已經(jīng)對安全審核與風(fēng)險識別系統(tǒng)進(jìn)行了升級,并調(diào)整了內(nèi)部政策。如果類似情況在當(dāng)前規(guī)則下再次出現(xiàn),系統(tǒng)將觸發(fā)更明確的執(zhí)法通報流程。此外,公司在后續(xù)調(diào)查中還發(fā)現(xiàn),涉事人員在被封禁后仍曾使用第二個ChatGPT賬戶,這也促使公司進(jìn)一步強化對多賬戶關(guān)聯(lián)行為的識別能力,以提升整體風(fēng)險追蹤水平。
該事件也引發(fā)了加拿大監(jiān)管層的關(guān)注。不列顛哥倫比亞省省長大衛(wèi)·伊比表示,公共安全部門已獲悉警方調(diào)查進(jìn)入收尾階段,但未披露更多細(xì)節(jié)。在聯(lián)邦層面,一些政策討論正在展開,包括對AI聊天機器人的潛在監(jiān)管措施。本月,加拿大執(zhí)政黨自由黨內(nèi)部通過了一項非約束性動議,建議考慮限制16歲以下未成年人使用AI聊天機器人,盡管相關(guān)政策尚未最終確定。
負(fù)責(zé)人工智能事務(wù)的加拿大聯(lián)邦官員表示,政府正在評估相關(guān)監(jiān)管框架,并與多方討論潛在規(guī)則設(shè)計,但目前尚未形成正式立法方案。
![]()
圍繞該事件,行業(yè)內(nèi)關(guān)于生成式AI責(zé)任邊界的爭論進(jìn)一步升溫。一方面,有觀點認(rèn)為,AI系統(tǒng)在識別極端或異常內(nèi)容方面已經(jīng)具備一定技術(shù)能力,因此在特定風(fēng)險情境下應(yīng)承擔(dān)更強的預(yù)警或通報義務(wù);另一方面,也有聲音指出,如果過度強化平臺的外部通報責(zé)任,可能會對用戶隱私保護(hù)及正常使用環(huán)境產(chǎn)生影響,并使技術(shù)公司面臨更復(fù)雜的法律風(fēng)險。
奧特曼在信中強調(diào),OpenAI未來將加強與各級政府之間的合作,探索更系統(tǒng)的風(fēng)險識別與通報機制,以避免類似事件再次發(fā)生。公司同時表示,正在完善內(nèi)部安全政策,將執(zhí)法通報標(biāo)準(zhǔn)納入更明確的操作流程,并通過技術(shù)手段強化對極端內(nèi)容與重復(fù)異常行為的檢測能力。
隨著生成式AI在社會各領(lǐng)域的滲透加深,圍繞其安全治理、責(zé)任劃分與監(jiān)管框架的討論正在持續(xù)加劇。這起事件也再次凸顯出技術(shù)發(fā)展速度與制度規(guī)范之間仍存在明顯張力,相關(guān)邊界如何界定,仍在持續(xù)演變之中。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.