AI教學(xué)槍擊技術(shù)嚇壞議員，國(guó)會(huì)坦言技術(shù)發(fā)展太快

開(kāi)放人工智能公司和幻方公司已向美國(guó)眾議院國(guó)土安全委員會(huì)工作人員通報(bào)其新型具備網(wǎng)絡(luò)攻擊能力的人工智能模型，以及這些模型對(duì)網(wǎng)絡(luò)安全的影響。阿克西奧斯獲悉了這一消息。

這次通報(bào)意義不小。這是立法者首次就新一代人工智能模型帶來(lái)的網(wǎng)絡(luò)威脅，與這兩家人工智能巨頭進(jìn)行溝通之一，涉及的風(fēng)險(xiǎn)還包括對(duì)資源不足的關(guān)鍵基礎(chǔ)設(shè)施部門可能造成的影響。

目前，幻方公司因其“神話預(yù)覽”模型能夠迅速發(fā)現(xiàn)并利用關(guān)鍵安全漏洞，暫緩了該模型的公開(kāi)發(fā)布。

開(kāi)放人工智能公司則決定，分級(jí)發(fā)布其“第五點(diǎn)四版網(wǎng)絡(luò)模型”。兩家公司都在與聯(lián)邦機(jī)構(gòu)合作，推動(dòng)這些機(jī)構(gòu)獲得相關(guān)模型的使用權(quán)限。

據(jù)一名委員會(huì)助理向阿克西奧斯透露，開(kāi)放人工智能公司和幻方公司于周四分別進(jìn)行了兩場(chǎng)保密通報(bào)，面向的是委員會(huì)工作人員。

這名助理表示，這些通報(bào)屬于委員會(huì)就近期前沿模型發(fā)展與相關(guān)企業(yè)開(kāi)展的主動(dòng)接觸，重點(diǎn)討論了這些模型對(duì)關(guān)鍵基礎(chǔ)設(shè)施網(wǎng)絡(luò)安全的影響。

這名助理還說(shuō)，通報(bào)中也提到了白宮近期一份備忘錄。該備忘錄指責(zé)以“工業(yè)化規(guī)模”蒸餾和復(fù)制美國(guó)人工智能模型。

開(kāi)放人工智能公司表示，這場(chǎng)通報(bào)只是該公司上周與參眾兩院多個(gè)委員會(huì)舉行的數(shù)場(chǎng)通報(bào)之一，此外還包括一場(chǎng)面向白宮的通報(bào)。

幻方公司發(fā)言人表示，公司會(huì)定期向國(guó)會(huì)工作人員介紹模型能力及其對(duì)國(guó)家安全的影響，并稱上周的通報(bào)也是這一持續(xù)溝通的一部分。

從更大的背景看，據(jù)《華盛頓郵報(bào)》報(bào)道，安德魯·加巴里諾一直在主持與科技和人工智能企業(yè)高管的閉門圓桌會(huì)議。他還與本周提出一項(xiàng)人工智能聯(lián)邦監(jiān)管框架法案的眾議員杰伊·奧伯諾特討論了這項(xiàng)工作。

該委員會(huì)還曾舉行多場(chǎng)聽(tīng)證會(huì)，討論生成式人工智能模型對(duì)國(guó)家安全的影響，其中包括國(guó)家行為體發(fā)起的網(wǎng)絡(luò)攻擊。

加巴里諾在一份聲明中對(duì)阿克西奧斯表示：“產(chǎn)業(yè)界與政府之間建立富有成效的合作關(guān)系至關(guān)重要。這有助于我們?cè)诓粩嘌葑兊耐{環(huán)境中保持領(lǐng)先，確保政府能夠安全運(yùn)用人工智能的防御能力，同時(shí)在等對(duì)手不擇手段謀求優(yōu)勢(shì)之際，支持并保護(hù)美國(guó)人工智能的發(fā)展?！奔影屠镏Z還說(shuō)，這類接觸有助于委員會(huì)識(shí)別風(fēng)險(xiǎn)，并確?！皣?guó)會(huì)提出的是正確的問(wèn)題”。

另一個(gè)值得注意的背景是，委員會(huì)成員表示，上周另一場(chǎng)關(guān)于“越獄”人工智能模型的通報(bào)，讓他們對(duì)監(jiān)管人工智能產(chǎn)生了更強(qiáng)烈的緊迫感。所謂“越獄”模型，是指通過(guò)操控繞過(guò)其內(nèi)置安全防護(hù)限制的模型。

在那場(chǎng)通報(bào)中，議員們看到了這類工具如何被用于實(shí)施校園槍擊或爆炸襲擊。得克薩斯州共和黨眾議員奧古斯特·普夫盧格在通報(bào)結(jié)束后對(duì)記者說(shuō)：“我剛才在里面看到的內(nèi)容，只需要很短時(shí)間輸入一些問(wèn)題，就已經(jīng)非?？膳?。這些模型威力極大。”

他還說(shuō)：“我們看到了它有多強(qiáng)大，它本應(yīng)被用于正當(dāng)用途，但必須加上防護(hù)欄……國(guó)會(huì)和行政部門需要與產(chǎn)業(yè)伙伴合作，確保我們保護(hù)好孩子們的安全。”

田納西州共和黨眾議員安迪·奧格爾斯在此前那場(chǎng)通報(bào)結(jié)束后表示：“這場(chǎng)展示最不同尋常的地方在于，其中大部分內(nèi)容都是現(xiàn)成可得、很容易接觸到的，這也提高了落入錯(cuò)誤之人手中的可能性……這相當(dāng)令人不安，也再次說(shuō)明人工智能發(fā)展得太快，而國(guó)會(huì)遠(yuǎn)遠(yuǎn)落在后面。”延伸閱讀：早期測(cè)試者稱，新型人工智能工具正在加快已知黑客攻擊手法的實(shí)施速度