2023數字科技生態大會召開,天翼云重磅發布一站式智算服務平臺“慧聚
2023-11-13
11月(yue)10日,2023數字科技生(sheng)態大會在廣州正式(shi)啟幕。會上,天(tian)翼云重磅發布一站式(shi)智算服務平臺“慧聚(ju)”,為加速(su)大模型在行(xing)業的應用落地(di)提供強勁動能。
在(zai)平(ping)(ping)(ping)臺(tai)層,“慧(hui)(hui)聚(ju)”平(ping)(ping)(ping)臺(tai)將大模(mo)型(xing)(xing)開(kai)發訓練過(guo)程(cheng)中(zhong)的(de)關鍵流(liu)程(cheng)、復雜(za)技(ji)術(shu)和(he)(he)寶貴(gui)實踐經驗進(jin)行(xing)(xing)總結和(he)(he)抽取,構(gou)建出一站式(shi)(shi)全鏈路的(de)大模(mo)型(xing)(xing)生產應用的(de)流(liu)水線。在(zai)技(ji)術(shu)上,“慧(hui)(hui)聚(ju)”平(ping)(ping)(ping)臺(tai)成功(gong)突破了算子加速、模(mo)型(xing)(xing)并行(xing)(xing)、斷點續訓等(deng)(deng)技(ji)術(shu)難點,將高性能(neng)計算能(neng)力(li)、分布式(shi)(shi)算力(li)調(diao)度能(neng)力(li)、訓練和(he)(he)推(tui)理多環(huan)節加速技(ji)術(shu)、高性能(neng)數據(ju)(ju)存(cun)儲技(ji)術(shu)進(jin)行(xing)(xing)封裝,穩定性、訓練推(tui)理速度等(deng)(deng)核心指標大幅提升。在(zai)功(gong)能(neng)上,“慧(hui)(hui)聚(ju)”平(ping)(ping)(ping)臺(tai)基于(yu)數據(ju)(ju)平(ping)(ping)(ping)臺(tai)、模(mo)型(xing)(xing)開(kai)發平(ping)(ping)(ping)臺(tai)、模(mo)型(xing)(xing)服務(wu)平(ping)(ping)(ping)臺(tai)和(he)(he)應用服務(wu)平(ping)(ping)(ping)臺(tai)四大平(ping)(ping)(ping)臺(tai),提供數據(ju)(ju)準備、模(mo)型(xing)(xing)開(kai)發、任務(wu)管(guan)理、模(mo)型(xing)(xing)優(you)化等(deng)(deng)多個(ge)產品功(gong)能(neng)模(mo)塊,每個(ge)功(gong)能(neng)模(mo)塊包(bao)含多級組件。功(gong)能(neng)與組件之間可以靈活組裝,幫助用戶打造針對不同(tong)場景的(de)專屬工具集。
目(mu)前,天翼云已(yi)經(jing)為大(da)(da)(da)(da)模(mo)型(xing)(xing)開(kai)發(fa)者、大(da)(da)(da)(da)模(mo)型(xing)(xing)提供者、應用(yong)廠商、政(zheng)府與科研機構、行業協會等合(he)作(zuo)伙(huo)伴提供多種生態(tai)模(mo)式支持。依托國云智(zhi)算底座,發(fa)揮國云安全(quan)優勢,天翼云將與產(chan)業各(ge)方(fang)合(he)作(zuo)伙(huo)伴緊(jin)密協作(zuo),廣(guang)泛(fan)匯聚(ju)國內(nei)外(wai)AI芯(xin)片伙(huo)伴、各(ge)類通用(yong)大(da)(da)(da)(da)模(mo)型(xing)(xing)及行業大(da)(da)(da)(da)模(mo)型(xing)(xing)伙(huo)伴及廣(guang)大(da)(da)(da)(da)開(kai)發(fa)者,共建繁榮的大(da)(da)(da)(da)模(mo)型(xing)(xing)創新生態(tai),攜手打造先進(jin)的智(zhi)算生產(chan)力,全(quan)面賦能經(jing)濟社會的數字化和智(zhi)能化。