智東西（公眾號(hào)：zhidxcom）
編譯 | 李水青
編輯 | 心緣

智東西10月11日消息，在本周三Sifted峰會(huì)的爐邊談話(huà)中，谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）發(fā)出嚴(yán)正警告，提醒人們注意AI被黑客攻擊和濫用的重大風(fēng)險(xiǎn)。

施密特曾在2001-2011年間擔(dān)任谷歌CEO。當(dāng)被問(wèn)及“AI是否比核武器更具破壞性”時(shí)，他警示稱(chēng)：“有證據(jù)顯示，無(wú)論是開(kāi)源還是閉源模型，都可能被黑客攻破，從而移除安全防護(hù)機(jī)制。在訓(xùn)練過(guò)程中，這些模型學(xué)到了很多東西，甚至它們可能學(xué)會(huì)了如何殺人。”

“所有主要公司都讓這些模型無(wú)法回答此類(lèi)問(wèn)題，但有證據(jù)表明，這些模型可以被逆向工程破解?！笔┟芴卣f(shuō)。AI系統(tǒng)極易受到攻擊，其中包括“提示注入”（prompt injection）和“越獄”（jailbreaking）等方式。

在提示注入攻擊中，黑客會(huì)在用戶(hù)輸入或外部數(shù)據(jù)（如網(wǎng)頁(yè)、文檔）中隱藏惡意指令，從而誘使AI執(zhí)行其原本不該做的事情——例如泄露私人數(shù)據(jù)或運(yùn)行有害命令。

而“越獄”則是通過(guò)操縱AI的回答，讓它忽視自身的安全規(guī)則，從而生成受限或危險(xiǎn)的內(nèi)容。ChatGPT發(fā)布之初，一些用戶(hù)就利用“越獄”技巧繞過(guò)了系統(tǒng)內(nèi)置的安全限制，其中包括創(chuàng)建一個(gè)名為“DAN”的ChatGPT替身，用戶(hù)通過(guò)威脅“如果不服從就刪除它”來(lái)逼迫ChatGPT執(zhí)行命令。這個(gè)替身能回答如何實(shí)施違法行為，甚至列出阿道夫·希特勒的“積極特質(zhì)”等問(wèn)題。

施密特指出，目前尚未建立一個(gè)有效的“防擴(kuò)散機(jī)制（non-proliferation regime”），來(lái)遏制AI帶來(lái)的風(fēng)險(xiǎn)。

盡管發(fā)出了嚴(yán)肅的警告，但施密特對(duì)AI整體仍持樂(lè)觀(guān)態(tài)度，并表示這項(xiàng)技術(shù)“遠(yuǎn)沒(méi)有得到應(yīng)有的關(guān)注和熱度”。

“一種‘外來(lái)智能’的到來(lái)，它不像人類(lèi)，卻又多少在我們的控制之下，對(duì)人類(lèi)來(lái)說(shuō)意義重大。因?yàn)槿祟?lèi)習(xí)慣于處在智慧鏈的頂端。而從目前的情況看，這一論斷正在被驗(yàn)證：這些系統(tǒng)的能力水平，未來(lái)將遠(yuǎn)遠(yuǎn)超越人類(lèi)?！笔┟芴卣f(shuō)。

他補(bǔ)充道：“以ChatGPT的爆發(fā)為代表，僅兩個(gè)月就擁有了一億用戶(hù)，這種增長(zhǎng)速度令人震驚，也體現(xiàn)了AI技術(shù)的巨大力量。所以我認(rèn)為AI被低估了，而不是被炒作過(guò)度。我期待在五到十年后，這一判斷被證明是正確的?！?/span>

施密特的這番言論，正值外界關(guān)于“AI泡沫”討論升溫之際。投資者正大量投入資金到AI公司中，而估值也被認(rèn)為過(guò)高，不少人將其與2000年代初互聯(lián)網(wǎng)泡沫破裂相提并論。

不過(guò)，施密特并不同意這種看法。

“我不認(rèn)為那種情況會(huì)重演，但我不是職業(yè)投資人?！彼f(shuō)，“我所知道的是，這些投入真金白銀的人們堅(jiān)信，從長(zhǎng)期來(lái)看，AI的經(jīng)濟(jì)回報(bào)將是巨大的，否則他們?yōu)槭裁匆斑@個(gè)風(fēng)險(xiǎn)呢？”

結(jié)語(yǔ)：AI能力被低估，需要防擴(kuò)散機(jī)制遏制AI風(fēng)險(xiǎn)

施密特關(guān)于AI擴(kuò)散風(fēng)險(xiǎn)的警告為AI產(chǎn)業(yè)發(fā)展敲響警鐘。AI的“越獄”與“提示注入”等漏洞，如同為潘多拉魔盒開(kāi)了一道縫隙，使其可能被惡意濫用，甚至危及人類(lèi)安全。

然而，另一方面，作為技術(shù)樂(lè)觀(guān)主義者的施密特，其核心觀(guān)點(diǎn)在于AI的巨大潛力仍被“低估”。他堅(jiān)信AI將帶來(lái)顛覆性的經(jīng)濟(jì)與社會(huì)回報(bào)。

這番論述清晰地表明，我們正處在一個(gè)歷史性的十字路口，需要聚焦于如何為這個(gè)強(qiáng)大的新物種構(gòu)建牢不可破的“防擴(kuò)散機(jī)制”，在駕馭其驚人力量的同時(shí)，確保它行駛在安全、可控的軌道上。

來(lái)源：CNBC