去年5月,杭州師范大學(xué)王金、范文翔團(tuán)隊(duì)還在《自然》子刊發(fā)論文,說(shuō)ChatGPT對(duì)學(xué)生學(xué)習(xí)有"中等到較大"的正面效果。現(xiàn)在這篇論文被撤了——從發(fā)表到撤稿,剛好一年。
一圖看懂:這篇論文是怎么"翻車(chē)"的
![]()
先畫(huà)個(gè)簡(jiǎn)單的結(jié)構(gòu)圖,幫你理清這件事:
【頂層】研究類型:元分析(meta-analysis)——把51篇已有研究打包再分析
【中間層】數(shù)據(jù)來(lái)源:2022年11月到2025年2月發(fā)表的51項(xiàng)研究
【底層結(jié)論】原論文聲稱:ChatGPT對(duì)學(xué)習(xí)表現(xiàn)、學(xué)習(xí)感知、高階思維都有正面作用
問(wèn)題就出在這三層結(jié)構(gòu)的中間層。元分析的價(jià)值完全取決于底層研究的質(zhì)量,如果那51篇原始研究本身有偏倚,打包后的結(jié)論就是"垃圾進(jìn),垃圾出"。
撤稿原因:數(shù)據(jù)問(wèn)題還是方法缺陷?
《自然》的撤稿通知沒(méi)細(xì)說(shuō)具體原因,只提到"對(duì)數(shù)據(jù)可靠性的擔(dān)憂"。
這種模糊表述通常有幾種可能:原始研究篩選標(biāo)準(zhǔn)過(guò)寬、效應(yīng)量計(jì)算有誤、或者存在發(fā)表偏倚(只選陽(yáng)性結(jié)果的研究)。
元分析領(lǐng)域有個(gè)老笑話:用統(tǒng)計(jì)方法把一堆噪聲合成信號(hào),最后得到的是"精確的噪聲"。這篇論文可能踩的就是這個(gè)坑。
為什么這件事值得科技從業(yè)者關(guān)注
第一,AI教育應(yīng)用正處于"概念驗(yàn)證"到"規(guī)模化落地"的轉(zhuǎn)折點(diǎn),任何頂刊的負(fù)面信號(hào)都會(huì)影響采購(gòu)決策。
第二,這篇論文被引用了多少次、進(jìn)了多少份政策簡(jiǎn)報(bào),目前還沒(méi)統(tǒng)計(jì)——但學(xué)術(shù)聲譽(yù)的損失已經(jīng)造成。
第三,也是最實(shí)際的:如果你所在的公司正在做AI教育產(chǎn)品,用戶可能會(huì)拿著這篇撤稿新聞來(lái)質(zhì)疑效果。提前準(zhǔn)備回應(yīng)口徑,比事后滅火強(qiáng)。
學(xué)術(shù)界的自我糾錯(cuò)機(jī)制在運(yùn)轉(zhuǎn),這本身是好事。但對(duì)依賴論文做商業(yè)判斷的人來(lái)說(shuō),留個(gè)心眼:頂刊光環(huán)≠結(jié)論保險(xiǎn),元分析尤其如此。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.