Sora大秀開(kāi)啟大模型新紀(jì)元,如何看待算力挑戰(zhàn)?

0 評(píng)論 757 瀏覽 0 收藏 12 分鐘

AI技術(shù)不斷發(fā)展,與之相應(yīng)的,算力需求也不斷增加。如何看待當(dāng)前AI時(shí)代所面臨的算力挑戰(zhàn)呢?這篇文章里,作者分享了他的看法,一起來(lái)看一下。

今年春節(jié)我們見(jiàn)證了Sora的驚艷表現(xiàn)?,F(xiàn)在的大模型,已經(jīng)進(jìn)入了新的發(fā)展階段。從技術(shù),到具體的應(yīng)用場(chǎng)景,生成式AI正在更多領(lǐng)域,發(fā)揮出驚人的潛力。

麥肯錫報(bào)告顯示,生成式AI每年將為全球經(jīng)濟(jì)增加4.4萬(wàn)億美元的價(jià)值。生成式AI可自動(dòng)化節(jié)省 60%到70%的員工時(shí)間來(lái)提高生產(chǎn)力。在2030年至2060年間,有近一半的工作將實(shí)現(xiàn)智能化水平。

但是不可否認(rèn)的是,隨著AI不斷發(fā)展,它對(duì)于算力的需求會(huì)持續(xù)增加,這也讓整個(gè)行業(yè)都處在“焦慮”之中,如何破解AI時(shí)代的算力危機(jī),也成為行業(yè)必須面對(duì)的問(wèn)題。

一、生成式AI爆發(fā),對(duì)企業(yè)價(jià)值體現(xiàn)

當(dāng)下,大模型主導(dǎo)的生成式AI,尤其是GPT-4的發(fā)布,讓人類社會(huì)看到了通用人工智能時(shí)代的曙光。這意味著,作為生產(chǎn)力工具甚至是數(shù)字時(shí)代的“新基建”的人工智能技術(shù),不用再局限于單一或有限場(chǎng)景,而是能夠在眾多領(lǐng)域像人類一樣進(jìn)行思考、解決問(wèn)題,并進(jìn)行持續(xù)、快速的自我進(jìn)化,因此,大模型主導(dǎo)的生成式AI,將擁有極為廣闊的應(yīng)用前景,有望賦能千行百業(yè)。

隨著生成式人工智能的爆發(fā),對(duì)企業(yè)和個(gè)人的價(jià)值帶來(lái)了許多新的機(jī)遇和優(yōu)勢(shì):

  • 創(chuàng)造性內(nèi)容生成:生成式 AI 可以幫助企業(yè)和個(gè)人快速生成創(chuàng)造性的內(nèi)容,包括文字、圖像、音頻和視頻等。這些內(nèi)容可以用于廣告營(yíng)銷、品牌宣傳、內(nèi)容創(chuàng)作等方面,為企業(yè)和個(gè)人節(jié)省時(shí)間和成本,提高創(chuàng)作效率和質(zhì)量。
  • 個(gè)性化服務(wù)和體驗(yàn):生成式 AI 可以根據(jù)用戶的個(gè)性化需求和偏好生成定制化的服務(wù)和體驗(yàn)。企業(yè)可以利用生成式 AI 技術(shù)提供個(gè)性化的產(chǎn)品推薦、定制化的服務(wù)等,提高用戶滿意度和忠誠(chéng)度。
  • 創(chuàng)新和產(chǎn)品開(kāi)發(fā):生成式 AI 可以幫助企業(yè)和個(gè)人快速生成新的創(chuàng)意和概念,促進(jìn)產(chǎn)品和服務(wù)的創(chuàng)新和開(kāi)發(fā)。通過(guò)生成式 AI 技術(shù),可以快速驗(yàn)證和探索各種想法和可能性,為創(chuàng)新提供更多可能性。
  • 數(shù)據(jù)增強(qiáng)和擴(kuò)展:生成式 AI 可以幫助企業(yè)和個(gè)人生成大量的合成數(shù)據(jù),用于數(shù)據(jù)增強(qiáng)和擴(kuò)展。這些合成數(shù)據(jù)可以用于模型訓(xùn)練、數(shù)據(jù)標(biāo)注、測(cè)試和驗(yàn)證等方面,提高模型的性能和泛化能力。
  • 個(gè)人創(chuàng)作和娛樂(lè):對(duì)于個(gè)人而言,生成式 AI 可以成為創(chuàng)作和娛樂(lè)的有力工具。通過(guò)生成式 AI 技術(shù),個(gè)人可以快速生成各種藝術(shù)作品、創(chuàng)意內(nèi)容和娛樂(lè)產(chǎn)品,拓展個(gè)人創(chuàng)作和娛樂(lè)的領(lǐng)域。

但是,值得注意的是,生成式 AI 對(duì)算力的需求通常較高,特別是在訓(xùn)練大型模型和處理大規(guī)模數(shù)據(jù)時(shí)。由于生成式 AI 模型通常具有復(fù)雜的結(jié)構(gòu)和大量的參數(shù),因此需要大量的計(jì)算資源來(lái)進(jìn)行訓(xùn)練和推理。隨著生成式 AI 技術(shù)的不斷發(fā)展和應(yīng)用,對(duì)算力的需求將會(huì)繼續(xù)增加,需要更多的計(jì)算資源來(lái)支持。

二、AI狂奔,算力問(wèn)題不可忽視

隨著AI技術(shù)的迅速發(fā)展,越來(lái)越多的人開(kāi)始關(guān)注AI算力問(wèn)題。AI算力問(wèn)題指的是,在處理復(fù)雜的AI模型和算法時(shí)需要大量的計(jì)算資源,而這種計(jì)算資源又需要消耗大量的時(shí)間和能源。

以下是生成式 AI 對(duì)算力需求的一些方面:

模型訓(xùn)練:生成式 AI 模型的訓(xùn)練是一個(gè)非常計(jì)算密集的過(guò)程。這些模型通常由數(shù)百萬(wàn)甚至數(shù)十億個(gè)參數(shù)組成,需要在大規(guī)模數(shù)據(jù)集上進(jìn)行多輪迭代的訓(xùn)練。由于訓(xùn)練過(guò)程中需要進(jìn)行大量的矩陣運(yùn)算和梯度計(jì)算等計(jì)算密集型操作,因此需要強(qiáng)大的計(jì)算資源來(lái)加速訓(xùn)練過(guò)程。

例如,ChatGPT的訓(xùn)練參數(shù)達(dá)到了1750億、訓(xùn)練數(shù)據(jù)45TB,每天生成45億字的內(nèi)容,支撐其算力至少需要上萬(wàn)顆英偉達(dá)的GPU A100,單次模型訓(xùn)練成本超過(guò)1200萬(wàn)美元。

推理和生成:一旦生成式AI模型訓(xùn)練完成,推理和生成過(guò)程也需要大量的計(jì)算資源。在推理過(guò)程中,模型需要根據(jù)輸入數(shù)據(jù)生成相應(yīng)的輸出,這涉及復(fù)雜的矩陣運(yùn)算和神經(jīng)網(wǎng)絡(luò)計(jì)算,因此需要強(qiáng)大的計(jì)算能力來(lái)保證推理速度和生成質(zhì)量。

制造沖突性單個(gè)Token的推理過(guò)程整體運(yùn)算量為 2×大模型參數(shù)量,因此大模型推理側(cè)每日算力需求=每日調(diào)用大模型次數(shù)×每人平均查詢Token數(shù)量×2×大模型參數(shù)量,僅以Google搜索引擎為例,每年調(diào)用次數(shù)至少超過(guò)2萬(wàn)億,一旦和大模型結(jié)合,其AI 算力需求將十分可觀。

模型優(yōu)化和調(diào)整:生成式AI模型的優(yōu)化和調(diào)整也需要大量的計(jì)算資源。在模型訓(xùn)練完成后,通常需要對(duì)模型進(jìn)行調(diào)參、微調(diào)和優(yōu)化,以進(jìn)一步提高模型的性能和生成質(zhì)量。這些過(guò)程也需要耗費(fèi)大量的計(jì)算資源。

大規(guī)模數(shù)據(jù)處理:生成式AI模型通常需要在大規(guī)模數(shù)據(jù)集上進(jìn)行訓(xùn)練和推理,因此需要強(qiáng)大的計(jì)算資源來(lái)處理和管理這些數(shù)據(jù)。這包括數(shù)據(jù)的存儲(chǔ)、讀取、預(yù)處理等過(guò)程,需要高效的計(jì)算資源來(lái)支持。

因此,我們看到,對(duì)于算力需求,隨著AI技術(shù)的發(fā)展和應(yīng)用場(chǎng)景的擴(kuò)大,算力需求也在不斷增加。AI模型的訓(xùn)練和推理都需要大量的計(jì)算資源支持,特別是深度學(xué)習(xí)模型等復(fù)雜模型需要更多的算力來(lái)訓(xùn)練和運(yùn)行。

三、算力未來(lái)發(fā)展趨勢(shì)

隨著這個(gè)趨勢(shì)的深入,半導(dǎo)體行業(yè)的收入葉城縣指數(shù)級(jí)增長(zhǎng)。Gartner預(yù)計(jì),AI半導(dǎo)體收入將在預(yù)測(cè)期內(nèi)繼續(xù)保持兩位數(shù)增長(zhǎng),2024年將增長(zhǎng)25.6%,達(dá)到671億美元(約4884.88億元人民幣),到2027年,AI芯片收入預(yù)計(jì)將比 2023 年的市場(chǎng)規(guī)模增長(zhǎng)一倍以上,達(dá)到1194億美元(當(dāng)前約8692.32億元人民幣)。

因此,面對(duì)AI對(duì)于算力的需求以及算力市場(chǎng)的發(fā)展,算力行業(yè)也有一些措施來(lái)應(yīng)對(duì):

  • 提高硬件性能和效率:算力行業(yè)應(yīng)該不斷提升硬件設(shè)備的性能和效率,包括 CPU、GPU、TPU等,以滿足 AI 技術(shù)對(duì)算力的不斷增長(zhǎng)需求。同時(shí),還可以通過(guò)優(yōu)化硬件設(shè)計(jì)和制造工藝,提高算力設(shè)備的能效比,降低能耗成本。
  • 推動(dòng)算力技術(shù)創(chuàng)新:算力行業(yè)應(yīng)該持續(xù)推動(dòng)算力技術(shù)的創(chuàng)新,包括算法優(yōu)化、并行計(jì)算、分布式計(jì)算等方面。通過(guò)不斷創(chuàng)新和提升技術(shù)水平,提高算力設(shè)備的性能和效率,降低計(jì)算成本,滿足 AI 技術(shù)的需求。
  • 拓展云計(jì)算服務(wù):算力行業(yè)可以通過(guò)拓展云計(jì)算服務(wù),為企業(yè)和個(gè)人提供彈性的計(jì)算資源,滿足不同場(chǎng)景下的算力需求。通過(guò)提供云計(jì)算服務(wù),可以實(shí)現(xiàn)資源的靈活調(diào)配和共享利用,提高算力資源的利用率和效率。
  • 加強(qiáng)行業(yè)合作與共享:算力行業(yè)可以加強(qiáng)與企業(yè)、研究機(jī)構(gòu)等相關(guān)領(lǐng)域的合作與共享,共同推動(dòng)算力技術(shù)的發(fā)展和應(yīng)用。通過(guò)合作共享的方式,可以更好地利用各方資源,提高算力行業(yè)的整體競(jìng)爭(zhēng)力和服務(wù)水平。

綜上所述,隨著 AI 技術(shù)的發(fā)展和應(yīng)用,算力需求將會(huì)持續(xù)增加,算力行業(yè)應(yīng)該通過(guò)提高硬件性能和效率、推動(dòng)技術(shù)創(chuàng)新、拓展云計(jì)算服務(wù)、加強(qiáng)行業(yè)合作與共享等措施,應(yīng)對(duì)這一趨勢(shì),實(shí)現(xiàn)行業(yè)的持續(xù)發(fā)展和進(jìn)步。

四、我國(guó)算力領(lǐng)域發(fā)展如何?

我國(guó)算力產(chǎn)業(yè)規(guī)??焖僭鲩L(zhǎng),近5年平均增速超過(guò)30%,算力規(guī)模排名全球第二。各地根據(jù)自身資源稟賦特點(diǎn)和產(chǎn)業(yè)優(yōu)勢(shì),紛紛制定規(guī)劃,加快布局發(fā)展算力產(chǎn)業(yè)。

一方面,加快打通通道,推動(dòng)數(shù)據(jù)快進(jìn)快出,相繼建成國(guó)家級(jí)互聯(lián)網(wǎng)骨干直聯(lián)點(diǎn)、國(guó)際互聯(lián)網(wǎng)數(shù)據(jù)專用通道、根服務(wù)器鏡像節(jié)點(diǎn)和國(guó)家頂級(jí)域名節(jié)點(diǎn),加快建設(shè)全國(guó)“東數(shù)西算”南線主干道。另一方面,通過(guò)建設(shè)算力超市和算力調(diào)度平臺(tái),組織算力提供方、需求方和上下游企業(yè)進(jìn)場(chǎng)對(duì)接。

相關(guān)數(shù)據(jù)顯示,截至目前,全國(guó)在用數(shù)據(jù)中心機(jī)架總規(guī)模超過(guò)760萬(wàn)標(biāo)準(zhǔn)機(jī)架,算力總規(guī)模達(dá)到每秒1.97萬(wàn)億億次浮點(diǎn)運(yùn)算(197EFLOPS),位居全球第二,服務(wù)器、計(jì)算機(jī)、智能手機(jī)等計(jì)算類產(chǎn)品產(chǎn)量全球第一,圍繞算力樞紐節(jié)點(diǎn)建設(shè)130條干線光纜,算力應(yīng)用廣泛深入到政務(wù)、工業(yè)、交通、醫(yī)療等領(lǐng)域,不斷催生新技術(shù)、新模式、新業(yè)態(tài),算力賦能千行百業(yè)正向縱深推進(jìn),成為傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)的重要支點(diǎn),為經(jīng)濟(jì)高質(zhì)量發(fā)展注入了強(qiáng)大動(dòng)力。

寫在最后

當(dāng)前,數(shù)字經(jīng)濟(jì)作為新經(jīng)濟(jì)形態(tài),正成為重組全球要素資源、重塑全球經(jīng)濟(jì)結(jié)構(gòu)、重構(gòu)全球競(jìng)爭(zhēng)格局的關(guān)鍵力量。當(dāng)前,我國(guó)算力產(chǎn)業(yè)已初具規(guī)模,正加速向政務(wù)、工業(yè)、交通、醫(yī)療等領(lǐng)域拓展深化,推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能與實(shí)體經(jīng)濟(jì)深度融合,持續(xù)賦能千行百業(yè)。

作者:賈桂鵬

來(lái)源公眾號(hào):元宇宙新聲

本文由 @元宇宙新聲 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來(lái)自 Unsplash,基于 CC0 協(xié)議。

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒(méi)評(píng)論,等你發(fā)揮!