【盤中寶】大模型等系列AIGC產(chǎn)品持續(xù)落地,這類產(chǎn)品是服務(wù)器重要配套設(shè)施,這家公司相關(guān)產(chǎn)品已應(yīng)用于超算中心

來(lái)源:英為財(cái)情

財(cái)聯(lián)社資訊獲悉,隨著大模型等系列AIGC產(chǎn)品的商業(yè)化落地,AI服務(wù)器的需求將會(huì)快速提升,其中大量的高功率CPU、GPU芯片將帶動(dòng)整臺(tái)AI服務(wù)器功耗走高。機(jī)構(gòu)指出,未來(lái)AI集群算力密度普遍有望達(dá)到20-50kW/柜,自然風(fēng)冷技術(shù)一般只支持8-10kW,冷熱風(fēng)道隔離的微模塊加水冷空調(diào)水平制冷在機(jī)柜功率超過(guò)15kW后性價(jià)比大幅下降,液冷散熱方案的能力與經(jīng)濟(jì)性優(yōu)勢(shì)逐步凸顯。


(相關(guān)資料圖)

一、風(fēng)冷散熱技術(shù)面臨嚴(yán)峻挑戰(zhàn)

后摩爾定律時(shí)代芯片算力與功耗同步大幅度提升,風(fēng)冷散熱技術(shù)面臨嚴(yán)峻挑戰(zhàn)。(1)CPU方面,隨著內(nèi)核數(shù)量的增加,處理器性能不斷提高,帶動(dòng)處理器功率不斷增加,特殊場(chǎng)景下(如高性能云計(jì)算)處理器將使用超頻以提高運(yùn)算性能,進(jìn)一步提升功耗。Intel 2023年一季度發(fā)布的第四代至強(qiáng)處理器多款子產(chǎn)品熱設(shè)計(jì)功耗達(dá)350W、AMD EPYC 9004系列處理器,單顆多達(dá)96個(gè)核心,最大功率可達(dá)400W。(2)GPU方面,2022年英偉達(dá)于GTC大會(huì)上發(fā)布H100計(jì)算卡,其具有SXM、PCIe 5.0兩種樣式,最高功耗可達(dá)700W,已超出傳統(tǒng)風(fēng)冷系統(tǒng)散熱的能力范疇,于是英偉達(dá)直接在機(jī)架中整合液冷散熱系統(tǒng),取代傳統(tǒng)的系統(tǒng)風(fēng)冷散熱。

液冷技術(shù)按照液體與發(fā)熱器件的接觸方式,可分為“間接接觸型”和“直接接觸型”兩大類。間接接觸型液冷技術(shù)是指服務(wù)器熱源與液冷劑之間沒(méi)有直接接觸的換熱過(guò)程,其中,冷板式液冷是最典型的間接接觸型液冷技術(shù);直接接觸型液冷技術(shù)是將發(fā)熱部件與直液冷劑直接接觸的冷卻方式,主要有浸沒(méi)式液冷和噴淋式液冷兩種技術(shù),其中,浸沒(méi)式液冷最為典型。對(duì)比來(lái)看,冷板式液冷技術(shù)改造成本低、技術(shù)最成熟,浸沒(méi)式和噴淋式液冷技術(shù)冷卻效果更好,但改造成本高,且現(xiàn)階段落地應(yīng)用較少。

二、大模型應(yīng)用或?qū)?lái)近百億液冷解決方案市場(chǎng)空間

招商證券分析指出,根據(jù)微軟數(shù)據(jù),ChatGPT前一代基礎(chǔ)模型—GPT3.0的訓(xùn)練數(shù)據(jù)高達(dá)45TB,總訓(xùn)練設(shè)備包括28.5萬(wàn)個(gè)CPU 與超過(guò)1萬(wàn)個(gè)NVIDIA V100 GPU。隨著國(guó)內(nèi)百度、阿里巴巴、騰訊、華為、360、字節(jié)等互聯(lián)網(wǎng)大廠陸續(xù)推出自己的AIGC算力模型,勢(shì)必會(huì)對(duì)國(guó)內(nèi)AI服務(wù)器的需求快速增加,基于用于推理與訓(xùn)練的 AI 服務(wù)器中冷板式液冷與浸沒(méi)式液冷的占比與相應(yīng)價(jià)值量,測(cè)算得出,隨著國(guó)內(nèi)互聯(lián)網(wǎng)大廠陸續(xù)推出自己的大模型,將會(huì)帶來(lái)34.41億元的冷板式液冷增量空間與58.99億元的浸沒(méi)式液冷增量空間,總計(jì)將帶來(lái)93.4億元的液冷解決方案新增量市場(chǎng)。

三、相關(guān)上市公司:申菱環(huán)境、飛龍股份、歐陸通

申菱環(huán)境推出的數(shù)據(jù)中心液冷實(shí)現(xiàn)多年商業(yè)化應(yīng)用,液冷解決方案已應(yīng)用于超算中心和互聯(lián)網(wǎng)數(shù)據(jù)中心。

飛龍股份電子水泵系列油泵系列產(chǎn)品和熱管理系統(tǒng)平臺(tái)產(chǎn)品經(jīng)過(guò)設(shè)計(jì)優(yōu)化升級(jí)后已經(jīng)形成多個(gè)專用GPU冷卻、AI服務(wù)器上的平臺(tái)產(chǎn)品,目前已有多個(gè)項(xiàng)目正在進(jìn)行小批量和開發(fā)中。

歐陸通為阿里巴巴定制的新一代浸沒(méi)式液冷集中式供電電源在云棲大會(huì)展出,應(yīng)用于磐久服務(wù)器供電系統(tǒng),此次推出的新一代供電架構(gòu)結(jié)合了浸沒(méi)式液冷+集中式供電的雙重優(yōu)勢(shì),在保證高可靠性的同時(shí),具備業(yè)界超一流效率指標(biāo),帶ATS部件整機(jī)效率高達(dá)97%+。

近期熱門系列:

4月3日《光模塊中最核心的器件,AIGC算力催生需求,這類產(chǎn)品有望快速放量,這家公司正在開發(fā)的芯片可以用于該領(lǐng)域,相關(guān)產(chǎn)品研發(fā)進(jìn)度順利》

4月3日《行業(yè)巨頭發(fā)布行業(yè)大模型產(chǎn)品,有望成為垂直GPT率先落地的場(chǎng)景,這家公司已成為文心一言首批合作伙伴》

3月30日《AI賦能這個(gè)領(lǐng)域,從需求到供給改革行業(yè)生態(tài),這家公司入選首批該計(jì)劃合作伙伴單位》

3月29日《AI大算力場(chǎng)景下重要新技術(shù)路線,這類產(chǎn)品銷量四年有望提升達(dá)90倍,這家公司已推出相關(guān)產(chǎn)品》

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)