算力概念熱度持續(xù)升溫。此前,一則署名為北交所上市公司董事長(zhǎng)的微信朋友圈消息在市場(chǎng)上流傳,信息內(nèi)容顯示:“我們算力服務(wù)已經(jīng)上線10000張A800/A100卡,今年另有12000張H800卡在逐步上線中,超算模式算力,價(jià)格極具競(jìng)爭(zhēng)力,歡迎試用。”
無(wú)獨(dú)有偶,近期亦有消息稱,因算力需求旺盛、供給緊張,某互聯(lián)網(wǎng)巨頭已暫停A100服務(wù)器出租業(yè)務(wù)。這一消息雖未得到證實(shí),但也同樣暴露了國(guó)內(nèi)算力租賃市場(chǎng)需求量遠(yuǎn)超供應(yīng)量,存在巨大缺口。有機(jī)構(gòu)分析指出,行業(yè)供求矛盾升級(jí),算力租賃行業(yè)將進(jìn)入新一輪漲價(jià)周期。
大模型“炒熱”算力租賃,撐起行業(yè)藍(lán)海
算力是當(dāng)代生產(chǎn)力,超級(jí)計(jì)算也被稱為高性能計(jì)算,同時(shí)使用幾十臺(tái)甚至幾千臺(tái)服務(wù)器這樣龐大的算力資源共同完成一個(gè)計(jì)算任務(wù)。
人工智能大模型的爆發(fā)讓算力需求激增。由于AI大模型需要大量的計(jì)算資源進(jìn)行訓(xùn)練和推理,而許多個(gè)人和企業(yè)無(wú)法承擔(dān)購(gòu)買和維護(hù)這些硬件設(shè)備的成本。因此,算力租賃提供了一個(gè)經(jīng)濟(jì)有效的方式來(lái)獲得所需的計(jì)算資源。根據(jù)有關(guān)數(shù)據(jù)預(yù)測(cè),2023年AI服務(wù)器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬(wàn)臺(tái),年增38.4%;占整體服務(wù)器的出貨量有望從2023年近9%提升至2026年15%;同時(shí)2022—2026年AI服務(wù)器出貨量年復(fù)合成長(zhǎng)率至22%。
今年來(lái),隨著AI大模型的涌現(xiàn),計(jì)算芯片依賴已從CPU轉(zhuǎn)向GPU,也就意味著,GPU成為驅(qū)動(dòng)AI技術(shù)發(fā)展以及應(yīng)用落地的關(guān)鍵引擎,像大模型訓(xùn)練、推理也催生了大量AI算力需求。
對(duì)標(biāo)GPT-3和GPT-4模型,GPT-3模型訓(xùn)練使用了128臺(tái)英偉達(dá)A100服務(wù)器(訓(xùn)練34天),對(duì)應(yīng)640P算力,GPT-4模型訓(xùn)練使用了3125臺(tái)英偉達(dá)A100服務(wù)器(訓(xùn)練90-100天),對(duì)應(yīng)15625P算力。從GPT-3至GPT-4模型參數(shù)規(guī)模增加約10倍,但用于訓(xùn)練的GPU數(shù)量增加了近24倍(且不考慮模型訓(xùn)練時(shí)間的增長(zhǎng))。
因此,上游AI算力資源作為重要支撐,稀缺性凸顯。在此背景下,AI算力租賃需求爆發(fā),也是在情理之中。據(jù)專業(yè)機(jī)構(gòu)預(yù)測(cè),未來(lái)每家龍頭大模型廠商推理側(cè)A100需求有望達(dá)到十萬(wàn)張量級(jí),一片藍(lán)海市場(chǎng)。
人民數(shù)據(jù)資產(chǎn)服務(wù)平臺(tái)數(shù)據(jù)顯示,2023年10月18日—11月17日,關(guān)于“算力租賃”的相關(guān)信息量超過(guò)8萬(wàn)余條,環(huán)比增加232.45%,相關(guān)信息傳播聲量在11月達(dá)到高峰,相關(guān)話題相繼在新聞資訊、兩微一端、論壇、網(wǎng)絡(luò)媒體等多個(gè)平臺(tái)被轉(zhuǎn)發(fā)關(guān)注。其中,新聞資訊和兩微一端及論壇成為輿論發(fā)酵的主要陣地,相關(guān)信息的傳播分布占比近98.18%。網(wǎng)民關(guān)注“利好”“漲停”“算力”等熱詞。
圖:截至2023年11月17日算力租賃A股指數(shù)周K線
圖:截至2023年11月17日“算力租賃”有關(guān)信息渠道分布
超算架構(gòu)為大模型訓(xùn)練提速
我國(guó)算力業(yè)務(wù)前景可期
目前,我國(guó)算力規(guī)模整體保持高速增長(zhǎng),2022年達(dá)302EFlops,連續(xù)兩年增速近50%;超算算力占比尚小但持續(xù)增長(zhǎng),2022年達(dá)3.9EFlops,連續(xù)兩年增速超30%。
有關(guān)機(jī)構(gòu)研報(bào)顯示,以訓(xùn)練一次1746億參數(shù)的GPT-3模型為例,需要算力約為3640PFlop/s-day,完成一次訓(xùn)練成本過(guò)億元。
目前,地方政府是AI智算中心建設(shè)的主要規(guī)劃與投資方。根據(jù)有關(guān)數(shù)據(jù)顯示,全國(guó)有超過(guò)30個(gè)城市正在建設(shè)或規(guī)劃智算中心,其中一些已經(jīng)投入運(yùn)營(yíng)或即將投入運(yùn)營(yíng),總規(guī)劃算力達(dá)到了數(shù)十EFlops。若假設(shè)未來(lái)全國(guó)智算中心算力達(dá)到50EFlops(對(duì)應(yīng)50000PFlops),對(duì)應(yīng)AIDC建設(shè)規(guī)??臻g為500-750億元。
圖:部分地方政府智算中心建設(shè)規(guī)劃
此前,人民數(shù)據(jù)中原算力中心在河南鄭州正式啟動(dòng)。人民數(shù)據(jù)中原算力中心由人民數(shù)據(jù)與中創(chuàng)算力共同建設(shè),將以數(shù)字新基建數(shù)據(jù)中心作為重點(diǎn),為地方政府提供數(shù)字新基建下的技術(shù)支持、容災(zāi)備份、產(chǎn)業(yè)賦能等全方位的服務(wù),為政府和企業(yè)搭建一個(gè)集政、產(chǎn)、學(xué)、研為一體的新基建協(xié)同協(xié)作平臺(tái)。