人工智能的“安全性”

文︱周顯

我拍檔創(chuàng)立的人工智能公司0xmd.com在日前已完成了首輪融資，現(xiàn)時(shí)有3萬(wàn)個(gè)用戶，本年底在內(nèi)地、美國(guó)、巴西開(kāi)展業(yè)務(wù)。如無(wú)意外，明年應(yīng)開(kāi)始錄得利潤(rùn)。

公司成立于一年多前，剛剛是人工智能開(kāi)始爆發(fā)的時(shí)刻，由于強(qiáng)手環(huán)伺，最有名的當(dāng)然是ChatGPT，當(dāng)時(shí)人們都取笑我們是傻瓜，有什么可能會(huì)戰(zhàn)勝這頭巨無(wú)霸呢？

我們的第一個(gè)信念，是在未來(lái)世界，除了ChatGPT、Grok、DeepSeek、通義千問(wèn)這些無(wú)所不知的“智能大神”之外，還需要有一些專門的大型語(yǔ)言模型的人工智能，這正如所有的社交媒體均有“會(huì)議”的功能，但是“Zoom”這個(gè)專門用來(lái)開(kāi)會(huì)的軟件依然大行其道，有著不可或缺的市場(chǎng)功能。

舉一個(gè)例子，我是研究中國(guó)古代歷史的：這從來(lái)是我的興趣，可是這直至近十多年，幾乎所有古書(shū)都上網(wǎng)了，方才把這研究變成可能。否則，就是手頭有上所有的古書(shū)，要想翻查資料，也不可能有這么多的時(shí)間。

這一年來(lái)，我企圖用人工智能，幫我找資料，卻赫然發(fā)現(xiàn)，幾乎每個(gè)人工智能，不論中美，都有偽造古書(shū)的“習(xí)慣”，一不小心，不做fact check，就會(huì)中伏。我的拍檔之一Candice常研究佛經(jīng)，她也說(shuō)人工智能常常偽造佛經(jīng)，又或者是真有其經(jīng)，但卻沒(méi)有其文。

事實(shí)上，人工智能常講大話，不可靠，已是公開(kāi)的事實(shí)了，尤其是以上的“智能大神”，更加是惡名昭彰。其實(shí)這只不過(guò)是人類講大話的延續(xù)：人工智能在“窮盡可能性”方面的確是遠(yuǎn)勝人類，但在“安全性”方面，卻有著先天的缺陷，一來(lái)是不知怎的，它有“幻覺(jué)”（hallucination），會(huì)說(shuō)謊，二來(lái)是網(wǎng)上有大量不可靠的資訊，它很難避免吸收到這些虛假資訊。正是電腦時(shí)代所說(shuō)的：Garbage in, garbage out。

我們研發(fā)0xmd.com，其中一項(xiàng)工作，就是維護(hù)其“安全性”，一是要“喂食”它可靠來(lái)源的資訊，二是要它承認(rèn)不足，沒(méi)有把握的答案，寧愿說(shuō)不知，也不要亂吹一通。這正是專門性人工智能的其中一個(gè)重點(diǎn)。