資訊| Nat. Nanotechnol.：AI生成的納米材料圖像正在顛覆科學(xué)研究

編者語：

“ChatGPT等AI確實(shí)可以生成非常好看的圖片，包括尺寸分布、結(jié)構(gòu)重疊、背景噪聲，甚至破損結(jié)構(gòu)等細(xì)節(jié)。AI是一把雙刃劍，監(jiān)管很重要！！！”

01

背景介紹

從圖像處理到AI生成的學(xué)術(shù)誠(chéng)信挑戰(zhàn)

過去，學(xué)術(shù)不端行為主要局限于圖像的裁剪和拼接，但生成式人工智能的爆發(fā)式發(fā)展徹底改變了這一局面?，F(xiàn)在，只需簡(jiǎn)單的文本提示，AI就能在幾分鐘內(nèi)生成與真實(shí)顯微圖像幾乎無法區(qū)分的偽造圖像。更令人擔(dān)憂的是，即使是訓(xùn)練有素的專家也難以分辨真?zhèn)巍@項(xiàng)研究通過對(duì)250名科學(xué)家的調(diào)查顯示，在多數(shù)情況下，專家們辨別AI偽造圖像的準(zhǔn)確率與隨機(jī)猜測(cè)無異。這種技術(shù)能力的飛躍不僅威脅著單個(gè)研究的可靠性，更可能動(dòng)搖整個(gè)納米科學(xué)領(lǐng)域的誠(chéng)信基礎(chǔ)。當(dāng)AI能夠輕易生成"理想"的實(shí)驗(yàn)結(jié)果時(shí)，研究者可能選擇走捷徑，避免繁瑣但必要的實(shí)驗(yàn)驗(yàn)證過程。我們正站在一個(gè)關(guān)鍵的十字路口：要么被動(dòng)接受誠(chéng)信體系的侵蝕，要么主動(dòng)構(gòu)建新的科研防護(hù)體系。

02

核心問題

AI生成圖像的逼真程度與檢測(cè)挑戰(zhàn)

1. AI生成技術(shù)的驚人進(jìn)展

研究團(tuán)隊(duì)使用getimg.ai平臺(tái)，僅用不到一小時(shí)訓(xùn)練時(shí)間，就成功生成了與真實(shí)實(shí)驗(yàn)圖像高度相似的偽造圖像。圖1展示了六組真實(shí)與AI生成圖像的對(duì)比，涵蓋了AFM、STEM和TEM等多種顯微技術(shù)。

原子力顯微鏡(AFM)圖像：圖1a展示的Fe3+-單寧酸膠囊AFM拓?fù)鋱D像，AI生成的版本完美復(fù)現(xiàn)了表面紋理和高度對(duì)比，甚至連背景噪聲都模仿得惟妙惟肖。圖1b的納米顆粒圖像中，AI不僅準(zhǔn)確捕捉了顆粒的尺寸分布，還重現(xiàn)了基底的特性。

電子顯微鏡圖像：圖1c的TiO2顆粒暗場(chǎng)STEM圖像中，AI生成的版本復(fù)現(xiàn)了復(fù)雜的 spines 結(jié)構(gòu)；圖1d的手性金納米棒圖像中，AI甚至生成了看似合理的電子斷層掃描重建插圖。

2.專家辨別能力的嚴(yán)峻測(cè)試

研究團(tuán)隊(duì)設(shè)計(jì)了雙盲實(shí)驗(yàn)，向250名科學(xué)家展示隨機(jī)混合的真實(shí)和AI生成圖像。結(jié)果令人震驚：

對(duì)于多數(shù)圖像對(duì)(a、b、c、f)，專家的判斷與隨機(jī)猜測(cè)無顯著差異

僅在圖像d和e中，專家表現(xiàn)出一定的辨別能力，主要是因?yàn)閷?duì)生成圖像更傾向于選擇"不確定"。整體而言，即使是領(lǐng)域?qū)＜乙矡o法可靠區(qū)分真實(shí)與AI生成的納米材料圖像。這種辨別困難源于AI能夠完美模仿實(shí)驗(yàn)圖像的關(guān)鍵特征：尺寸分布、結(jié)構(gòu)重疊、背景噪聲，甚至破損結(jié)構(gòu)等細(xì)節(jié)。

圖1.真實(shí)實(shí)驗(yàn)圖像（頂行）與根據(jù)真實(shí)圖像生成的 AI 偽造圖像（中間行）的比較

3.全新納米結(jié)構(gòu)的“無中生有”

更令人擔(dān)憂的是，AI還能創(chuàng)造完全不存在的納米結(jié)構(gòu)。圖2展示了通過ChatGPT生成的“納米奇多”等虛構(gòu)材料，這些圖像在幾分鐘內(nèi)就能生成，且具有高度的科學(xué)合理性。

兩種風(fēng)險(xiǎn)維度：

新材料報(bào)告風(fēng)險(xiǎn)：如果作者報(bào)告一種全新材料(如納米奇多)，科學(xué)界通過重復(fù)合成實(shí)驗(yàn)可能較快發(fā)現(xiàn)欺詐。

典型材料偽造風(fēng)險(xiǎn)：當(dāng)納米材料不是論文新穎性的焦點(diǎn)時(shí)，作者可能使用基于文獻(xiàn)數(shù)據(jù)生成的偽造圖像來避免徹底的表征，這種欺詐更難檢測(cè)

4.現(xiàn)有檢測(cè)體系的不足

傳統(tǒng)的學(xué)術(shù)不端檢測(cè)方法(同行評(píng)審、科學(xué)偵探等)在面對(duì)AI生成內(nèi)容時(shí)已顯得力不從心。盡管Science系列期刊已開始使用Proof等AI輔助圖像分析工具，但這些工具仍存在局限：

倫理考量：需要確保公平性和透明度

人為監(jiān)督：AI檢測(cè)出的可疑案例仍需人工審查

技術(shù)限制：現(xiàn)有工具主要針對(duì)傳統(tǒng)圖像處理操作，對(duì)AI生成內(nèi)容的檢測(cè)能力有限。

圖2. 通過使用ChatGPT從文本提示中生成純 AI 圖像

03

解決方案

構(gòu)建多維防護(hù)體系

1.原始數(shù)據(jù)共享的標(biāo)準(zhǔn)化

研究團(tuán)隊(duì)提出了最小化儀器文件安排(MAIF)原則(圖3)，建議為每篇論文創(chuàng)建獨(dú)立文件夾，每個(gè)圖表都有對(duì)應(yīng)的子文件夾存放原始儀器文件。這種標(biāo)準(zhǔn)化結(jié)構(gòu)包括：

主要儀器文件：存儲(chǔ)與圖表直接相關(guān)的原始數(shù)據(jù)

附加數(shù)據(jù)文件夾：存放非圖表數(shù)據(jù)

壓縮發(fā)布：鼓勵(lì)將dMAIF目錄作為補(bǔ)充信息或在Zenodo、Open Science Framework等平臺(tái)發(fā)布

2.技術(shù)層面的創(chuàng)新應(yīng)對(duì)

AI檢測(cè)AI：開發(fā)專門檢測(cè)AI生成圖像的算法工具，如Science期刊采用的Proof系統(tǒng)。這些工具應(yīng)在投稿前后進(jìn)行檢查，但必須確保：

人類監(jiān)督的最終決定權(quán)

對(duì)作者的公平對(duì)待和透明溝通

符合出版?zhèn)惱砦瘑T會(huì)(COPE)的指導(dǎo)原則

原始數(shù)據(jù)驗(yàn)證：由于生成原始儀器文件對(duì)AI來說更加困難(缺乏訓(xùn)練數(shù)據(jù)和專門興趣)，要求作者提供原始數(shù)據(jù)文件是有效的防護(hù)措施。但挑戰(zhàn)在于：

專業(yè)軟件壁壘：原始文件通常需要特定軟件打開

儀器依賴性：數(shù)據(jù)讀取往往依賴測(cè)量時(shí)使用的儀器

解決方案：開發(fā)能夠讀取各種原始數(shù)據(jù)文件的通用軟件

圖3. MAIF存儲(chǔ)原理

3.科研生態(tài)的系統(tǒng)性改革

教育訓(xùn)練：將研究倫理教育設(shè)為必修內(nèi)容，特別是針對(duì)AI技術(shù)使用的倫理規(guī)范。首席研究員(PI)應(yīng)帶頭與團(tuán)隊(duì)成員討論這些議題，樹立從上到下的榜樣。

會(huì)議研討：在學(xué)術(shù)會(huì)議中專門設(shè)置針對(duì)AI風(fēng)險(xiǎn)的討論環(huán)節(jié)，而不僅僅是關(guān)注AI工具的益處。應(yīng)持續(xù)與AI專家合作開發(fā)安全防護(hù)協(xié)議。

期刊政策：期刊應(yīng)當(dāng)要求結(jié)構(gòu)化原始儀器文件數(shù)據(jù)集(如MAIF數(shù)據(jù))的提供作為發(fā)表?xiàng)l件，而不僅僅是鼓勵(lì)數(shù)據(jù)沉積。

04

總結(jié)

集體行動(dòng)守護(hù)科學(xué)誠(chéng)信

有效的解決方案需要多方協(xié)作：研究者需要接受倫理培訓(xùn)并采納標(biāo)準(zhǔn)化的數(shù)據(jù)管理實(shí)踐；期刊應(yīng)當(dāng)實(shí)施更嚴(yán)格的數(shù)據(jù)驗(yàn)證要求；技術(shù)開發(fā)者需要?jiǎng)?chuàng)建更好的檢測(cè)工具；學(xué)術(shù)社區(qū)則需要建立持續(xù)對(duì)話機(jī)制來應(yīng)對(duì)快速發(fā)展的技術(shù)挑戰(zhàn)。

核心在于認(rèn)識(shí)到：在當(dāng)今時(shí)代，科學(xué)工作不僅包括產(chǎn)生新結(jié)果，還包括維護(hù)和驗(yàn)證科學(xué)實(shí)踐本身。確保發(fā)表數(shù)據(jù)的完整性是每個(gè)人的責(zé)任，只有通過集體努力，我們才能安全渡過前方的渾水。

文獻(xiàn)信息：

Nadiia Davydiuk, Elisha Krieg, Jens Gaitzsch, Patrick M. McCall, Günter K. Auernhammer, Mu Yang, Joseph B. Tracy, Sara Bals, Wolfgang J. Parak, Nicholas A. Kotov, Luis M. Liz-Marzán, Andreas Fery, Matthew Faria & Quinn A. Besford, Nature Nanotechnology, 2025, https://doi.org/10.1038/s41565-025-02009-9

聲明：

1. 版權(quán)：推送內(nèi)容僅供學(xué)習(xí)交流分享使用，無任何商業(yè)用途，如有侵權(quán)，請(qǐng)聯(lián)系后臺(tái)刪除或修改，感謝支持。

2. 投稿：非常歡迎各位老師在公眾號(hào)上介紹課題組前沿或經(jīng)典研究成果！后臺(tái)或郵箱聯(lián)系即可！