在把AGI作為終極目標(biāo)之前，或許我們應(yīng)當(dāng)先對(duì)AGI的概念定義達(dá)到共識(shí)。這篇文章里，作者分享了相關(guān)研究，研究里討論了大眾對(duì)通用人工智能概念的爭(zhēng)論，不妨來(lái)看一下。

最近幾年，AI技術(shù)的發(fā)展遠(yuǎn)遠(yuǎn)超出普通大眾和研究者的預(yù)期，「通用人工智能（AGI）」的概念也從科幻小說(shuō)中走進(jìn)了日常生活的討論中，成為了許多科技公司和研究機(jī)構(gòu)所追求的最終目標(biāo)。

AI行業(yè)的領(lǐng)頭羊OpenAI表示，其使命是「確保通用人工智能造福全人類(lèi)」；

DeepMind在公司愿景聲明中也指出，「人工通用智能有可能推動(dòng)歷史上最偉大的變革之一」；

AGI概念在英國(guó)政府的國(guó)家人工智能戰(zhàn)略和美國(guó)政府的人工智能文件中也被著重提及；

微軟的研究人員聲稱(chēng)在大型語(yǔ)言模型GPT-4中發(fā)現(xiàn)了「AGI火花」（sparks of AGI）存在的證據(jù)；

論文鏈接：https://arxiv.org/pdf/2303.12712.pdf

現(xiàn)任和前任谷歌高管宣稱(chēng)「AGI已經(jīng)到了」（AGI is already here）；

「GPT-4能否算作是一種AGI算法」的問(wèn)題也是Elon Musk對(duì)OpenAI提起訴訟的核心……

雖然術(shù)語(yǔ)AGI已經(jīng)在商業(yè)、政府和媒體中被廣泛使用，但不同群體的用戶(hù)對(duì)AGI概念的含義并沒(méi)有達(dá)成共識(shí)。

「AGI的含義到底是什么？」在AI社區(qū)內(nèi)引起了激烈的爭(zhēng)論，這以問(wèn)題不僅是一場(chǎng)關(guān)于「術(shù)語(yǔ)」定義的學(xué)術(shù)爭(zhēng)論，也將影響著科技公司、政府部門(mén)等關(guān)于AGI做出的重要決策。

最近，圣菲研究所的教授Melanie Mitchell在Science上發(fā)表了一篇letter，討論了大眾對(duì)通用人工智能概念的爭(zhēng)論。

深入研究AGI后可以發(fā)現(xiàn)，人工智能從業(yè)者對(duì)智能本質(zhì)（the nature of intelligence）的看法與研究人類(lèi)和動(dòng)物認(rèn)知的人截然不同，這種差異對(duì)于「理解當(dāng)下、預(yù)測(cè)機(jī)器智能的未來(lái)前景」等至關(guān)重要。

人工智能概念

人工智能領(lǐng)域的最初目標(biāo)是創(chuàng)造出具有與人類(lèi)相當(dāng)、具有通用智能的機(jī)器。

早期的人工智能先驅(qū)們對(duì)此持樂(lè)觀態(tài)度：1965年，赫伯特·西蒙（Herbert Simon）在著作《人類(lèi)和管理的自動(dòng)化形態(tài)》中預(yù)測(cè)「20年后，機(jī)器可以承擔(dān)所有人類(lèi)能做的工作」；

在1970年出版的《生活》雜志上，馬文·明斯基（Marvin Minsky）宣稱(chēng)：在三到八年后，我們就能擁有一臺(tái)具有普通人智力水平的機(jī)器，一臺(tái)能夠閱讀莎士比亞、潤(rùn)滑汽車(chē)、玩弄辦公室政治、講笑話和打架的機(jī)器。

遺憾的是，這些樂(lè)觀的預(yù)測(cè)并沒(méi)有實(shí)現(xiàn)。

在接下來(lái)的幾十年里，唯一成功的人工智能系統(tǒng)只能算是專(zhuān)用，而非通用：只能執(zhí)行單一任務(wù)或有限范圍的任務(wù)，例如手機(jī)上的語(yǔ)音識(shí)別軟件可以轉(zhuǎn)錄口述內(nèi)容，但不能理解具體內(nèi)容并生成回復(fù)。

通用人工智能（AGI）一詞是在21世紀(jì)初創(chuàng)造的，以重新追尋人工智能先驅(qū)最初的崇高愿望，尋求重新關(guān)注「試圖以獨(dú)立于領(lǐng)域的方式研究和復(fù)制智能」。

但直到最近，這種崇高的追求在人工智能領(lǐng)域內(nèi)仍然相當(dāng)模糊，領(lǐng)先的人工智能公司將實(shí)現(xiàn)AGI作為其主要目標(biāo)，但AGI的存在性（existential threat from AGI）仍然是他們最害怕的事。

許多人工智能從業(yè)者都在預(yù)測(cè)AGI的實(shí)現(xiàn)時(shí)間軸，例如，有人預(yù)測(cè)「到2028年，有50%的機(jī)會(huì)擁有AGI」；但也有人質(zhì)疑AGI的前提，稱(chēng)其定義模糊不清，甚至有研究人員在推特上表示：AGI的概念是不科學(xué)的，人們應(yīng)該對(duì)使用這個(gè)詞感到尷尬。

雖然早期的AGI支持者認(rèn)為機(jī)器很快就會(huì)承擔(dān)所有人類(lèi)活動(dòng)，但研究人員已經(jīng)意識(shí)到，打造一個(gè)「國(guó)際象棋機(jī)器人」或是「回答搜索查詢(xún)的AI系統(tǒng)」要比開(kāi)發(fā)一個(gè)機(jī)器人來(lái)「疊衣服」或「修水管」容易得多。

AGI的定義也相應(yīng)地進(jìn)行了調(diào)整，包含了所謂的「認(rèn)知任務(wù)」（cognitive tasks）。

DeepMind聯(lián)合創(chuàng)始人Demis Hassabis將AGI定義為「應(yīng)該能夠完成幾乎任何人類(lèi)可以完成的認(rèn)知任務(wù)」的系統(tǒng)，OpenAI將其描述為「高度自主的系統(tǒng)，在最有經(jīng)濟(jì)價(jià)值的工作中優(yōu)于人類(lèi)」（most economically valuable work)，其定義大多忽視了需要物理智能（physical intelligence）的任務(wù)。

人工智能中的「智能」概念，即認(rèn)知或其他方面，通常是以個(gè)體智能體為獎(jiǎng)勵(lì)或目標(biāo)進(jìn)行優(yōu)化的方式來(lái)構(gòu)建的。

一篇有影響力的論文將通用智能定義為「智能體在各種環(huán)境中實(shí)現(xiàn)目標(biāo)的能力」。

論文鏈接：https://link.springer.com/article/10.1007/s11023-007-9079-x

也有論文指出，「智力及其相關(guān)能力可以被理解為促進(jìn)獎(jiǎng)勵(lì)最大化」。

論文鏈接：https://www.sciencedirect.com/science/article/pii/S0004370221000862

事實(shí)上，這也是當(dāng)下人工智能系統(tǒng)的運(yùn)行方式，例如，計(jì)算機(jī)程序AlphaGo被訓(xùn)練來(lái)優(yōu)化「贏得比賽」的獎(jiǎng)勵(lì)函數(shù)，而GPT-4被訓(xùn)練來(lái)優(yōu)化「預(yù)測(cè)短語(yǔ)中的下一個(gè)單詞」的獎(jiǎng)勵(lì)函數(shù)。

一些人工智能研究人員猜測(cè)：一旦人工智能系統(tǒng)實(shí)現(xiàn)了AGI，就會(huì)將其優(yōu)化能力應(yīng)用于自身軟件來(lái)快速實(shí)現(xiàn)超越人類(lèi)的智能水平，迭代地推進(jìn)自己的智能；在極端預(yù)測(cè)下，AGI系統(tǒng)會(huì)「比我們聰明數(shù)千倍或數(shù)百萬(wàn)倍」。

這種對(duì)優(yōu)化的關(guān)注導(dǎo)致人工智能社區(qū)的一些人擔(dān)心「沒(méi)有與人類(lèi)標(biāo)準(zhǔn)對(duì)齊」（unaligned）的AGI會(huì)給人類(lèi)帶來(lái)生存風(fēng)險(xiǎn)，可能會(huì)偏離其創(chuàng)造者的目標(biāo)。

在2014年出版的《超級(jí)智能》一書(shū)中，哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）提出了一個(gè)著名的思想實(shí)驗(yàn)：假設(shè)人類(lèi)給一個(gè)超級(jí)智能人工智能系統(tǒng)一個(gè)「優(yōu)化回形針生產(chǎn)」的目標(biāo)，人工智能系統(tǒng)會(huì)利用它的智能來(lái)控制地球上所有的資源，并將地球上所有的東西都變成回形針。

當(dāng)然，人類(lèi)并不是為了制造更多的回形針而毀滅地球和人類(lèi)，只是他們?cè)谡f(shuō)明書(shū)中沒(méi)有提到這一點(diǎn)。

人工智能研究員Yoshua Bengio也提供了一個(gè)思想實(shí)驗(yàn)：我們可能會(huì)要求人工智能解決氣候變化問(wèn)題，但AGI可能會(huì)設(shè)計(jì)一種病毒來(lái)毀滅人類(lèi)，因?yàn)槲覀兘o出的指令對(duì)「?jìng)Φ暮x」解釋得不夠清楚，人類(lèi)實(shí)際上是解決氣候危機(jī)的主要障礙。

這種對(duì)AGI（或超級(jí)智能）的推測(cè)性觀點(diǎn)與研究生物智能，特別是人類(lèi)認(rèn)知的人所持的觀點(diǎn)不同。

雖然認(rèn)知科學(xué)并沒(méi)有嚴(yán)格地定義「通用智能」，但大多數(shù)認(rèn)知科學(xué)家認(rèn)可，智力水平不是一個(gè)可以量化的指標(biāo)，可以簡(jiǎn)單地向上或向下調(diào)整，而是一個(gè)復(fù)雜的綜合通用和專(zhuān)項(xiàng)能力，在大多數(shù)情況下，可以適應(yīng)特定的進(jìn)化生態(tài)位（specific evolutionary niche）。

許多研究生物智能的人也懷疑智能的所謂「認(rèn)知」方面可以從其他模式中分離出來(lái)，并在一個(gè)無(wú)實(shí)體的機(jī)器中捕獲：心理學(xué)家已經(jīng)表明，人類(lèi)智力的重要方面是建立在一個(gè)人的身體和情感體驗(yàn)的基礎(chǔ)上的。

證據(jù)還表明，個(gè)人的智力深深依賴(lài)于一個(gè)人對(duì)社會(huì)和文化環(huán)境的參與，理解、協(xié)調(diào)和向他人學(xué)習(xí)的能力，可能比個(gè)人的「優(yōu)化能力」更重要。

此外，與之前提到的回形針人工智能（paper clip–maximizing AI）不同，人類(lèi)智能并不以固定目標(biāo)的優(yōu)化為中心，一個(gè)人的目標(biāo)是通過(guò)先天需求和支持其智能的社會(huì)和文化環(huán)境的復(fù)雜整合形成的。

與超級(jí)智能體不同的是，智力的提高恰恰使人類(lèi)能夠更好地洞察他人的意圖以及自身行為的可能影響，并相應(yīng)地修正行為。

正如哲學(xué)家卡佳·格雷斯（Katja Grace）所說(shuō)，把「接管宇宙」作為目標(biāo)對(duì)于任何人來(lái)說(shuō)都是可笑的，所以為什么我們會(huì)認(rèn)為實(shí)現(xiàn)人工智能的目標(biāo)是不同的呢？

一臺(tái)機(jī)器改進(jìn)自己的軟件以提高其智能水平也偏離了生物學(xué)的觀點(diǎn)，即智能是一個(gè)高度復(fù)雜的系統(tǒng)，不只是需要大腦的參與。

如果人類(lèi)水平的智能需要不同認(rèn)知能力的復(fù)雜整合以及社會(huì)和文化的加持，那么系統(tǒng)的「智能」水平很可能無(wú)法提升自身的「軟件」能力，就像人類(lèi)無(wú)法設(shè)計(jì)大腦（或基因）使自己更聰明一樣。

然而，人類(lèi)可以作為一個(gè)集體，通過(guò)外部技術(shù)工具（如計(jì)算機(jī)）和建立文化機(jī)構(gòu)（如學(xué)校、圖書(shū)館和互聯(lián)網(wǎng)）來(lái)提高有效智力水平。

對(duì)AGI的含義，以及AGI是否是一個(gè)連貫的概念仍在爭(zhēng)論中，對(duì)于AGI機(jī)器能夠做什么的猜測(cè)主要是基于直覺(jué)，而不是科學(xué)證據(jù)。

但這種直覺(jué)能有多少可信度呢？人工智能的歷史一再證明我們對(duì)智能的直覺(jué)是錯(cuò)誤的。

許多早期的人工智能先驅(qū)認(rèn)為，用邏輯編程的機(jī)器將捕捉人類(lèi)智能的全部；其他學(xué)者預(yù)測(cè)，讓機(jī)器在國(guó)際象棋中擊敗人類(lèi)，或在語(yǔ)言之間進(jìn)行翻譯，或進(jìn)行對(duì)話，將需要它具有一般人類(lèi)水平的智能，但結(jié)果被證明是錯(cuò)誤的。

在人工智能進(jìn)化的每一步，人類(lèi)水平的智能都比研究人員預(yù)期的要復(fù)雜。

目前關(guān)于機(jī)器智能的猜測(cè)是否也會(huì)被證明是錯(cuò)誤的？我們能否發(fā)展出一種更嚴(yán)謹(jǐn)、更通用的智能科學(xué)來(lái)回答這些問(wèn)題？

目前還人工智能科學(xué)是否更像人類(lèi)智能科學(xué)，還是更像天體生物學(xué)（預(yù)測(cè)其他星球上的生命可能是什么樣的）。

對(duì)從未見(jiàn)過(guò)甚至可能不存在的東西做出預(yù)測(cè)，無(wú)論是外星生命還是超級(jí)智能機(jī)器，都需要基于通用原理的理論。

最終，所謂AGI的含義和后果不會(huì)通過(guò)媒體的辯論、訴訟或直覺(jué)和猜測(cè)來(lái)達(dá)到共識(shí)，而是通過(guò)對(duì)這些原理的長(zhǎng)期科學(xué)調(diào)研。

參考資料：

https://www.science.org/doi/10.1126/science.ado7069