記者實(shí)探：可容納20個(gè)千億級(jí)參數(shù)模型訓(xùn)練 新型數(shù)據(jù)中心如何參與算力迭代？-全球要聞

“比方說我們這個(gè)機(jī)柜里面，總共有10臺(tái)服務(wù)器，根據(jù)功率，每個(gè)機(jī)柜會(huì)安裝8到16臺(tái)服務(wù)器，根據(jù)不同的需求和功能，實(shí)現(xiàn)計(jì)算和存儲(chǔ)。”在位于安徽蕪湖的中國電信云計(jì)算中心，總經(jīng)理張運(yùn)保向記者介紹數(shù)據(jù)中心的運(yùn)營情況。

2022年初，隨著國家發(fā)改委等四部門聯(lián)合批復(fù)，十個(gè)國家數(shù)據(jù)中心集群規(guī)劃正式公布，其中“蕪湖集群”赫然在列。

政策引導(dǎo)下，蕪湖市迅速啟動(dòng)算力“新基建”，一年多來，蕪湖市累計(jì)招引重點(diǎn)項(xiàng)目11個(gè)、總投資接近2300億元，其中不乏中國電信、聯(lián)云世紀(jì)、華為云等投資超百億的數(shù)據(jù)中心項(xiàng)目。

(資料圖片僅供參考)

蕪湖電信云計(jì)算中心，工作人員正在進(jìn)行機(jī)房巡檢

早在2017年，中國電信就將蕪湖作為31個(gè)云資源骨干節(jié)點(diǎn)之一，規(guī)劃建設(shè)集團(tuán)級(jí)云計(jì)算中心。“目前已經(jīng)建成的數(shù)據(jù)中心機(jī)架總規(guī)模有1.5萬架，可容納的服務(wù)器的話有15萬臺(tái)，算力資源有50萬核。”蕪湖云計(jì)算中心總經(jīng)理張運(yùn)保向記者介紹道，“我們目前部署的算力資源以通用算力為主，后續(xù)通過一些高性能的CPU，我們也在部署一些智算的能力。”

從通用算力到智能算力

數(shù)據(jù)中心建設(shè)贏來新機(jī)遇 新動(dòng)能

當(dāng)數(shù)據(jù)成為新的經(jīng)濟(jì)要素，算力也就成為了數(shù)據(jù)發(fā)揮價(jià)值的關(guān)鍵驅(qū)動(dòng)力，引發(fā)了全球?qū)τ谌斯ぶ悄艽竽Ｐ偷母叨汝P(guān)注，在公眾“圍觀吃瓜”之前，業(yè)內(nèi)已經(jīng)先行一步。

位于上海臨港的商湯科技人工智能計(jì)算中心（AIDC），面向的正是人工智能時(shí)代爆發(fā)的大模型訓(xùn)練需求。

位于上海臨港的商湯人工智能計(jì)算中心

“從硬件層面來說包含了我們各類服務(wù)器、各類芯片組成的一個(gè)計(jì)算集群，以及我們所有的AI計(jì)算平臺(tái)、數(shù)據(jù)平臺(tái)、網(wǎng)絡(luò)等。” 在商湯科技大裝置事業(yè)群智算中心總經(jīng)理林海看來，AIDC是需要打通軟件和硬件，組成可以進(jìn)行模型生產(chǎn)的通用基礎(chǔ)設(shè)施。“目前為止我們可以實(shí)現(xiàn)4000卡GPU的單項(xiàng)任務(wù)的訓(xùn)練，整個(gè)的并行效率可以達(dá)到91.5%，我們在這個(gè)園區(qū)里邊可以容納的訓(xùn)練任務(wù)，可以實(shí)現(xiàn)20個(gè)千億級(jí)參數(shù)的模型的訓(xùn)練。”

據(jù)了解，商湯早在2018年便開始布局人工智能計(jì)算原型機(jī)的研制，去年初，AIDC正式在上海臨港啟動(dòng)運(yùn)營，在市場人士看來，商湯已拿到了智能算力時(shí)代的“船票”。

頭部玩家群雄逐“數(shù)”

帶動(dòng)云、軟件、芯片產(chǎn)業(yè)重塑

與商湯類似，作為國內(nèi)領(lǐng)先的ICT企業(yè)，華為在2019年發(fā)布了由數(shù)千顆昇騰910處理器組成的AI訓(xùn)練集群Atlas 900。在上海超級(jí)中心的數(shù)據(jù)機(jī)房，記者見到了這臺(tái)號(hào)稱“全球最快”的服務(wù)器機(jī)柜。

“從體積上來說，它跟我們傳統(tǒng)的機(jī)柜是同樣的，采用42U的設(shè)計(jì)，但是通過我們對(duì)于網(wǎng)絡(luò)、存儲(chǔ)和人工智能計(jì)算算力的高度集成，它單機(jī)柜可以實(shí)現(xiàn)20P算力。” 上海昇騰人工智能生態(tài)創(chuàng)新中心COO張中陽告訴記者。

上海超算中心機(jī)房搭載的華為Atlas900服務(wù)器

立足于全棧自研的數(shù)據(jù)中心解決方案，華為推出了業(yè)界唯一覆蓋“端、邊、云”全場景的達(dá)芬奇架構(gòu)處理器，發(fā)布了包括支持通用計(jì)算的鯤鵬系列，支持AI的昇騰系列，支持智能終端的麒麟系列及支持智慧屏的鴻鵠系列，“應(yīng)該是把昇騰稱之為NPU，實(shí)際上N它代表的就是神經(jīng)網(wǎng)絡(luò)計(jì)算，我們其實(shí)也是希望能夠在人工智能領(lǐng)域里面，推出一款專用的AI計(jì)算的芯片。”張中陽談到。

從芯片到軟件到云平臺(tái)，華為給出了支撐智能算力的國產(chǎn)答卷。

進(jìn)入算力基建化時(shí)代

綠色+低碳成為數(shù)據(jù)中心建設(shè)新命題

來自國家網(wǎng)信辦的數(shù)據(jù)顯示，截至2022年底我國數(shù)據(jù)中心機(jī)架總規(guī)模已超過650萬標(biāo)準(zhǔn)機(jī)架，近5年年均增速超過30%。

面對(duì)大規(guī)模數(shù)據(jù)計(jì)算產(chǎn)生的熱能，傳統(tǒng)方式是使用空調(diào)降溫。而在中國電信蕪湖云計(jì)算中心即將啟用的機(jī)房內(nèi)，“冷水主機(jī)+板換+冷卻塔”的聯(lián)合供冷模式讓人耳目一新。

蕪湖電信云計(jì)算中心水冷機(jī)房

“它跟我們早期的風(fēng)冷相比，整個(gè)單位能耗就下降得非常多，通過冷水和熱水的交換，實(shí)際上實(shí)現(xiàn)了制冷的效果。” 蕪湖云計(jì)算中心總經(jīng)理張運(yùn)保向記者介紹道。

商湯的AIDC則運(yùn)用了一整套智能決策的系統(tǒng)來降低PUE，“在我們的訓(xùn)練任務(wù)上來的時(shí)候，我們的IT功耗的水平，IT負(fù)載力的水平，跟外部的氣候條件以及跟我們所有設(shè)備運(yùn)行的參數(shù)，這三者之間實(shí)際上是一個(gè)聯(lián)動(dòng)關(guān)系。” 商湯科技大裝置事業(yè)群智算中心總經(jīng)理林海認(rèn)為，解決能耗的問題，還需要借助AI管理的手段。

高能耗背后

隱含算力資源供需失衡的深層次矛盾

數(shù)據(jù)中心的投資可以帶來較高的經(jīng)濟(jì)外部性、利潤溢出效應(yīng)。但算力要?jiǎng)悠饋恚c數(shù)據(jù)連同，才能將價(jià)值發(fā)揮出來。

在安永大中華區(qū)數(shù)字化與新興科技合伙人王志遠(yuǎn)看來，當(dāng)前我國算力供需存在“旱的旱死澇的澇死”這一結(jié)構(gòu)不平衡現(xiàn)象。

“其實(shí)現(xiàn)在可能超過50%以上的IDC，CPU以及內(nèi)存的使用比例非常低，存在算力的浪費(fèi)，另外又有一些企業(yè)存在大量高并發(fā)的算力需求，由于缺少算力資源，無法響應(yīng)客戶需求。”他認(rèn)為，要解決這個(gè)問題，需要借助一些AI算力分配的邏輯，滿足企業(yè)對(duì)于算力的彈性需求。

由上海超算中心打造的算力調(diào)度平臺(tái)

我國算力供需結(jié)構(gòu)失衡的另一層面體現(xiàn)在通用算力資源過多，智算資源不足，這一點(diǎn)也在人工智能時(shí)代被放大。

上海超級(jí)計(jì)算中心主任李根國認(rèn)為，在數(shù)字經(jīng)濟(jì)轉(zhuǎn)型和國際市場競爭的背景下，當(dāng)前我國的建設(shè)的智算資源還遠(yuǎn)遠(yuǎn)不夠，在他看來，我國算力產(chǎn)業(yè)的發(fā)展離不開產(chǎn)業(yè)鏈各環(huán)節(jié)的共同努力。

“不論是芯片制造的，還是服務(wù)器制造的，還是提供算力的機(jī)構(gòu)，在國家戰(zhàn)略的推動(dòng)下，攜手打造良好的產(chǎn)業(yè)生態(tài)，每個(gè)環(huán)節(jié)各司其職，共同推動(dòng)我國算力的發(fā)展。”李根國告訴記者。

標(biāo)簽：