本篇文章是來(lái)自三位大佬級(jí)人物的翻譯作品，從一個(gè)大模型是否會(huì)吃掉整個(gè)AI生態(tài)的問(wèn)題出發(fā)，用Workflow（工作流）和Value（價(jià)值）這兩個(gè)衡量標(biāo)準(zhǔn)來(lái)預(yù)測(cè)未來(lái)AI生態(tài)格局。希望能夠給大家?guī)?lái)啟發(fā)。

今天看到了一篇不錯(cuò)的文章《Does One Large Model Rule Them All? Predictions on the Future AI Ecosystem》，這篇文章的三位作者都是大佬級(jí)的人物，分別是谷歌前CEO Eric Schmidt、Databricks的首席科學(xué)家同時(shí)也是斯坦福教授的Matei Zaharia和Samaya AI創(chuàng)始人Maithra Raghu。這篇文章從一個(gè)大模型是否會(huì)吃掉整個(gè)AI生態(tài)的問(wèn)題出發(fā)，用Workflow（工作流）和Value（價(jià)值）這兩個(gè)衡量標(biāo)準(zhǔn)來(lái)預(yù)測(cè)未來(lái)AI生態(tài)格局。以下是這篇文章的翻譯，基本都由GPT-4完成，希望給大家有所啟發(fā)和思考。

導(dǎo)語(yǔ)

過(guò)去的10年里，人工智能不斷取得進(jìn)展，每一波新的發(fā)展都帶來(lái)了令人興奮的新功能和應(yīng)用。最大的一波無(wú)疑是最近出現(xiàn)的單一通用人工智能模型，例如大型語(yǔ)言模型（LLMs），它們可以用于執(zhí)行多種多樣的任務(wù)，從代碼生成、圖像理解到科學(xué)推理等。

這些任務(wù)的執(zhí)行質(zhì)量之高，以至于一整代新的技術(shù)應(yīng)用正在被定義和開(kāi)發(fā)。盡管考慮到潛在的影響，這令人興奮不已，但這種飛速的成功確實(shí)讓我們對(duì)未來(lái)的人工智能生態(tài)系統(tǒng)產(chǎn)生了一個(gè)深度的不安問(wèn)題：

未來(lái)的人工智能領(lǐng)域是否會(huì)被單一通用AI模型所主導(dǎo)？

具體來(lái)說(shuō)，未來(lái)的人工智能領(lǐng)域是否會(huì)：

1. 由少數(shù)（<5）公司擁有的大型通用AI模型主導(dǎo)？
2. 這些通用AI模型是否會(huì)成為驅(qū)動(dòng)所有重要技術(shù)AI進(jìn)步和產(chǎn)品的關(guān)鍵組件？

隨著類似ChatGPT和GPT-4等模型的發(fā)布，這些模型已經(jīng)改變了我們對(duì)AI能做什么的理解，以及開(kāi)發(fā)這類模型的成本不斷上升，這已經(jīng)成為一種普遍的觀點(diǎn)。

然而，我們持相反的看法！

1. 將會(huì)有很多公司為AI生態(tài)系統(tǒng)的發(fā)展做出貢獻(xiàn)。
2. 并且，許多具有高實(shí)用性的AI系統(tǒng)將出現(xiàn)，它們將不同于（單一）通用AI模型。
3. 這些AI系統(tǒng)在結(jié)構(gòu)上將非常復(fù)雜，由多個(gè)AI模型、API等驅(qū)動(dòng)，并將推動(dòng)新的技術(shù)AI發(fā)展。
4. 針對(duì)明確定義的、高價(jià)值的工作流程，主要將由專用AI系統(tǒng)而非通用AI模型來(lái)解決。

我們可以用以下示意圖來(lái)說(shuō)明我們對(duì)AI生態(tài)系統(tǒng)的預(yù)測(cè)：

假設(shè)我們將所有適用于基于AI的解決方案的工作流程按照“價(jià)值”降序排列。價(jià)值可以是潛在收入，也可以是對(duì)用戶的實(shí)用性。會(huì)有少量非常高價(jià)值的工作流程，例如一個(gè)龐大的市場(chǎng)或者擁有大量用戶且明確可通過(guò)AI解決的痛點(diǎn)。這將衍生出一長(zhǎng)串繁雜但價(jià)值較低的工作流程，代表了許多AI可以協(xié)助的定制預(yù)測(cè)任務(wù)。

高價(jià)值工作流程的例子有哪些？雖然還很早，但我們已經(jīng)看到了編碼助手、視覺(jué)內(nèi)容創(chuàng)作、搜索和寫作助手等方面的令人興奮的發(fā)展。

那么，低價(jià)值工作流程的重尾部分呢？這些將是不太明確的定制需求，源于特定的情境。例如，通過(guò)分類對(duì)客服機(jī)器人的請(qǐng)求進(jìn)行分級(jí)處理。

我們預(yù)測(cè)，在圖表的左上角（高價(jià)值工作流程）將由專業(yè)化AI系統(tǒng)主導(dǎo)，隨著我們沿著藍(lán)色曲線下降至較低價(jià)值的工作流程，通用AI模型將成為主導(dǎo)方法。

乍一看，這個(gè)畫面似乎違反直覺(jué)。一些最先進(jìn)的AI能力似乎來(lái)自通用模型。那么為什么這些模型不主導(dǎo)高價(jià)值工作流程呢？但是，通過(guò)思考生態(tài)系統(tǒng)可能的演變，有一些重要因素支持這個(gè)觀點(diǎn)，我們將在下面詳細(xì)展開(kāi)。

01. 專業(yè)化對(duì)于質(zhì)量至關(guān)重要

高價(jià)值工作流程需要高質(zhì)量，并獎(jiǎng)勵(lì)任何質(zhì)量的提升。應(yīng)用于高價(jià)值工作流程的AI解決方案會(huì)不斷調(diào)整以提高質(zhì)量。由于工作流程特定的問(wèn)題導(dǎo)致質(zhì)量差距，這種調(diào)整將導(dǎo)致專業(yè)化。

專業(yè)化可以簡(jiǎn)單地通過(guò)針對(duì)特定工作流程的數(shù)據(jù)進(jìn)行調(diào)優(yōu)，或者（更可能）開(kāi)發(fā)多個(gè)專業(yè)化的AI組件。

我們可以通過(guò)考慮當(dāng)前用于自動(dòng)駕駛汽車的AI系統(tǒng)來(lái)具體說(shuō)明。這些系統(tǒng)有多個(gè)AI組件，從規(guī)劃組件到檢測(cè)組件，以及數(shù)據(jù)標(biāo)注和生成組件。將這個(gè)專業(yè)化的AI系統(tǒng)用類似GPT-4的通用AI模型替換，將導(dǎo)致質(zhì)量急劇下降。

但是，更先進(jìn)的通用AI模型，如GPT-(4+n)，能否戰(zhàn)略性地執(zhí)行此工作流程？

我們可以進(jìn)行一個(gè)思維實(shí)驗(yàn)來(lái)展示這可能如何發(fā)展：

• 假設(shè)GPT-(4+n)發(fā)布，具有非常有用的功能，包括自動(dòng)駕駛。
• 我們無(wú)法立即替換整個(gè)現(xiàn)有系統(tǒng)。
• 因此，我們確定GPT-(4+n)最有用的功能，并考慮將其作為另一個(gè)組件添加進(jìn)來(lái)，可能是通過(guò)API調(diào)用。
• 然后對(duì)這個(gè)新系統(tǒng)進(jìn)行測(cè)試，不可避免地會(huì)發(fā)現(xiàn)質(zhì)量差距。
• 有壓力要解決這些差距，由于它們來(lái)自特定的工作流程（自動(dòng)駕駛），因此會(huì)開(kāi)發(fā)特定于工作流程的解決方案。
• 最終結(jié)果可能是用一個(gè)新的、專門的AI組件完全替換API調(diào)用，或者與其他專門的組件一起增強(qiáng)。

雖然這個(gè)思維實(shí)驗(yàn)可能不完全準(zhǔn)確，但它說(shuō)明了我們可能從通用AI模型開(kāi)始，然后大量地專門化它以提高質(zhì)量。

總之：

1. 高價(jià)值工作流程的質(zhì)量很重要
2. 專業(yè)化有助于提高質(zhì)量。

02. 充分利用用戶反饋

與質(zhì)量考慮密切相關(guān)的是用戶反饋的作用。有明確證據(jù)表明，在高質(zhì)量的人類“使用”數(shù)據(jù)（例如偏好、指令、提示和響應(yīng)等）上進(jìn)行仔細(xì)調(diào)整，對(duì)于推動(dòng)通用AI模型的能力至關(guān)重要。

在大模型中，諸如RLHF（從人類反饋中學(xué)習(xí)強(qiáng)化學(xué)習(xí)）和監(jiān)督學(xué)習(xí)在類似人類的指令/偏好數(shù)據(jù)上已經(jīng)在獲取高質(zhì)量生成和指令執(zhí)行行為方面發(fā)揮了關(guān)鍵作用。這在ChatGPT中得到了顯著證明，現(xiàn)在正在推動(dòng)許多大模型的發(fā)展。

同樣，我們期望用戶反饋在推動(dòng)特定工作流程的AI能力方面發(fā)揮關(guān)鍵作用。但是，有效地整合這些反饋需要對(duì)AI系統(tǒng)進(jìn)行細(xì)粒度的控制。我們不僅要仔細(xì)調(diào)整基礎(chǔ)模型以適應(yīng)用戶反饋（由于成本和有限訪問(wèn)權(quán)限，通用AI模型難以實(shí)現(xiàn)），而且可能需要調(diào)整整個(gè)AI系統(tǒng)的結(jié)構(gòu)，例如定義數(shù)據(jù)、AI模型和工具之間的互動(dòng)。

為通用AI模型設(shè)置這種細(xì)粒度控制在工程（多樣化的微調(diào)方法、API調(diào)用、處理不同的AI組件）、成本（大型模型調(diào)整昂貴）和安全性（參數(shù)泄露、數(shù)據(jù)共享）方面具有挑戰(zhàn)性。

總之，實(shí)現(xiàn)用戶反饋所需的細(xì)粒度控制更容易在專門的AI系統(tǒng)中實(shí)現(xiàn)。

03. 專有數(shù)據(jù)和專有知識(shí)

許多高價(jià)值、領(lǐng)域特定的工作流程依賴于豐富的專有數(shù)據(jù)集。針對(duì)這些工作流程的最佳AI解決方案需要在這些數(shù)據(jù)上進(jìn)行訓(xùn)練。然而，擁有這些數(shù)據(jù)集的實(shí)體將專注于保護(hù)其數(shù)據(jù)壁壘，不太可能允許第三方進(jìn)行AI訓(xùn)練的非聯(lián)合訪問(wèn)。因此，這些實(shí)體將在內(nèi)部或通過(guò)特定合作伙伴建立專門針對(duì)這些工作流程的AI系統(tǒng)。這些系統(tǒng)將與通用AI模型不同。

與此相關(guān)的是，許多領(lǐng)域還使用專有知識(shí)——僅由少數(shù)人類專家了解的“商業(yè)秘密”。例如，臺(tái)積電（TSMC）用于尖端芯片制造的技術(shù)，或頂級(jí)對(duì)沖基金使用的定量算法。利用這種專有知識(shí)的AI解決方案將再次在內(nèi)部建立，專門針對(duì)這些工作流程。

這些是許多先前技術(shù)周期發(fā)生的“建設(shè)與購(gòu)買”計(jì)算的例子，同樣也會(huì)在這個(gè)波浪中重現(xiàn)。

04. AI模型的商品化

與開(kāi)發(fā)昂貴的專有模型（如GPT-4）的努力同時(shí)進(jìn)行的是構(gòu)建和發(fā)布AI模型，然后迅速優(yōu)化。這些是基于成本的效用和效率之間激烈競(jìng)爭(zhēng)的例子。

效率是指在保持效用的同時(shí)，快速降低新AI技術(shù)的成本。這是由于以下幾個(gè)關(guān)鍵屬性：

• AI領(lǐng)域深厚的合作、發(fā)表研究和開(kāi)源傳統(tǒng)，使技術(shù)見(jiàn)解的知識(shí)傳播迅速。
• 受歡迎的AI模型的計(jì)算成本迅速降低，原因是硬件、基礎(chǔ)設(shè)施和培訓(xùn)方法更優(yōu)越。
• 收集、整理和開(kāi)源數(shù)據(jù)集的努力有助于民主化模型構(gòu)建并提高質(zhì)量。

對(duì)于我們目前最強(qiáng)大的模型，效率似乎最可能在競(jìng)賽中獲勝，從而導(dǎo)致這些模型的商品化。

05. 通用AI模型的未來(lái)？

但是，這是否意味著所有大型通用AI模型都將被商品化？

這取決于另一個(gè)競(jìng)爭(zhēng)者，基于成本的效用。如果AI模型有用但成本也很高，那么效率過(guò)程就需要更長(zhǎng)的時(shí)間——前期成本越高，降低成本所需的時(shí)間就越長(zhǎng)。

• 如果成本保持在今天的范圍內(nèi)，那么我們很可能會(huì)看到完全的商品化。
• 如果成本增加了一個(gè)數(shù)量級(jí)，但效用呈遞減趨勢(shì)，那么我們同樣會(huì)看到商品化。
• 如果成本增加了一個(gè)數(shù)量級(jí)，并且效用成比例增加，那么很可能會(huì)有少量非常高成本的通用AI模型，而不是商品化。

哪種情況最有可能發(fā)生？

很難確切預(yù)測(cè)。未來(lái)的AI模型肯定有用更大量/類型的數(shù)據(jù)和增加計(jì)算的空間。如果效用也繼續(xù)增加，我們將擁有少量昂貴的通用AI模型，用于處理大量多樣化、難以定義的工作流程，如上圖所示——這對(duì)AI來(lái)說(shuō)就像云對(duì)計(jì)算所做的那樣。

總結(jié)

盡管經(jīng)歷了長(zhǎng)達(dá)十年的AI進(jìn)步浪潮，AI的未來(lái)仍然比過(guò)去更多姿多彩！我們預(yù)計(jì)一個(gè)豐富的生態(tài)系統(tǒng)將出現(xiàn)，其中包括各種高價(jià)值、專業(yè)化的AI系統(tǒng)，由不同的AI組件驅(qū)動(dòng)，以及少量通用AI模型，支持大量多樣化的AI工作流程。

參考材料

[1]https://maithraraghu.com/blog/2023/does-one-model-rule-them-all/