AI倫理引爭議，ChatGPT預(yù)警失靈，OpenAI未報警方

據(jù)外媒報道，OpenAI首席執(zhí)行官山姆·奧特曼近日向加拿大不列顛哥倫比亞省小鎮(zhèn)滕布勒里奇公開致歉，承認(rèn)公司在此前一起涉及潛在暴力風(fēng)險用戶的處理過程中，未能及時向執(zhí)法部門通報相關(guān)情況，并表示公司將進(jìn)一步加強與政府及執(zhí)法機構(gòu)的協(xié)作機制，以降低類似悲劇再次發(fā)生的可能性。

這起事件與今年2月發(fā)生在滕布勒里奇的一起槍擊案有關(guān)，該案件造成8人死亡，警方隨后將杰西·范·魯特塞拉爾（Jesse Van Rootselaar）確定為主要嫌疑人。調(diào)查信息顯示，該用戶此前在使用ChatGPT過程中，曾生成包含暴力情景描述的內(nèi)容，觸發(fā)了OpenAI內(nèi)部自動審查系統(tǒng)的風(fēng)險標(biāo)記機制，并因此在去年6月被平臺封禁。

據(jù)報道，在內(nèi)部審查流程中，部分員工認(rèn)為相關(guān)對話內(nèi)容可能暗示現(xiàn)實中的潛在暴力傾向，并提出應(yīng)將信息上報加拿大執(zhí)法機構(gòu)。但公司管理層最終決定未采取報警措施。這一決策在槍擊事件發(fā)生后受到外界質(zhì)疑，并引發(fā)關(guān)于AI平臺風(fēng)險識別與通報責(zé)任邊界的討論。

在4月23日的一封致滕布勒里奇社區(qū)的信件中，奧特曼對此表示歉意，并向遇難者家屬及當(dāng)?shù)鼐用癖磉_(dá)哀悼。他在信中稱，沒有任何人應(yīng)該經(jīng)歷這樣的悲劇，并表示公司正在重新評估相關(guān)安全機制與應(yīng)急響應(yīng)流程。該信件由當(dāng)?shù)孛襟w率先披露。

OpenAI方面隨后表示，在事件發(fā)生后，公司已經(jīng)對安全審核與風(fēng)險識別系統(tǒng)進(jìn)行了升級，并調(diào)整了內(nèi)部政策。如果類似情況在當(dāng)前規(guī)則下再次出現(xiàn)，系統(tǒng)將觸發(fā)更明確的執(zhí)法通報流程。此外，公司在后續(xù)調(diào)查中還發(fā)現(xiàn)，涉事人員在被封禁后仍曾使用第二個ChatGPT賬戶，這也促使公司進(jìn)一步強化對多賬戶關(guān)聯(lián)行為的識別能力，以提升整體風(fēng)險追蹤水平。

該事件也引發(fā)了加拿大監(jiān)管層的關(guān)注。不列顛哥倫比亞省省長大衛(wèi)·伊比表示，公共安全部門已獲悉警方調(diào)查進(jìn)入收尾階段，但未披露更多細(xì)節(jié)。在聯(lián)邦層面，一些政策討論正在展開，包括對AI聊天機器人的潛在監(jiān)管措施。本月，加拿大執(zhí)政黨自由黨內(nèi)部通過了一項非約束性動議，建議考慮限制16歲以下未成年人使用AI聊天機器人，盡管相關(guān)政策尚未最終確定。

負(fù)責(zé)人工智能事務(wù)的加拿大聯(lián)邦官員表示，政府正在評估相關(guān)監(jiān)管框架，并與多方討論潛在規(guī)則設(shè)計，但目前尚未形成正式立法方案。

圍繞該事件，行業(yè)內(nèi)關(guān)于生成式AI責(zé)任邊界的爭論進(jìn)一步升溫。一方面，有觀點認(rèn)為，AI系統(tǒng)在識別極端或異常內(nèi)容方面已經(jīng)具備一定技術(shù)能力，因此在特定風(fēng)險情境下應(yīng)承擔(dān)更強的預(yù)警或通報義務(wù)；另一方面，也有聲音指出，如果過度強化平臺的外部通報責(zé)任，可能會對用戶隱私保護(hù)及正常使用環(huán)境產(chǎn)生影響，并使技術(shù)公司面臨更復(fù)雜的法律風(fēng)險。

奧特曼在信中強調(diào)，OpenAI未來將加強與各級政府之間的合作，探索更系統(tǒng)的風(fēng)險識別與通報機制，以避免類似事件再次發(fā)生。公司同時表示，正在完善內(nèi)部安全政策，將執(zhí)法通報標(biāo)準(zhǔn)納入更明確的操作流程，并通過技術(shù)手段強化對極端內(nèi)容與重復(fù)異常行為的檢測能力。

隨著生成式AI在社會各領(lǐng)域的滲透加深，圍繞其安全治理、責(zé)任劃分與監(jiān)管框架的討論正在持續(xù)加劇。這起事件也再次凸顯出技術(shù)發(fā)展速度與制度規(guī)范之間仍存在明顯張力，相關(guān)邊界如何界定，仍在持續(xù)演變之中。