天翼云“息壤”一體化智算服務體系和能力，助力數字經濟向新向智發展
2024-08-30
8月28日，2024中(zhong)國(guo)(guo)國(guo)(guo)際大(da)數(shu)據(ju)(ju)產業(ye)博覽會在貴(gui)(gui)州(zhou)貴(gui)(gui)陽(yang)舉(ju)行。會議期間，中(zhong)國(guo)(guo)電信(xin)(xin)舉(ju)辦了以“聚數(shu)乘云(yun) 天翼賦能數(shu)字(zi)經(jing)濟新(xin)生態”為主(zhu)題的(de)天翼云(yun)中(zhong)國(guo)(guo)行·貴(gui)(gui)州(zhou)站“數(shu)據(ju)(ju)賦能”交流(liu)活動(dong)。貴(gui)(gui)州(zhou)省(sheng)副(fu)省(sheng)長蔡朝林、國(guo)(guo)家數(shu)據(ju)(ju)局(ju)(ju)副(fu)局(ju)(ju)長夏冰、中(zhong)國(guo)(guo)電信(xin)(xin)集(ji)團有限公司副(fu)總經(jing)理(li)(li)唐珂出席(xi)活動(dong)。貴(gui)(gui)州(zhou)省(sheng)大(da)數(shu)據(ju)(ju)發展管理(li)(li)局(ju)(ju)、貴(gui)(gui)州(zhou)省(sheng)通(tong)信(xin)(xin)管理(li)(li)局(ju)(ju)、貴(gui)(gui)州(zhou)省(sheng)工業(ye)和(he)信(xin)(xin)息化廳(ting)、貴(gui)(gui)陽(yang)市人民政府、中(zhong)國(guo)(guo)信(xin)(xin)息通(tong)信(xin)(xin)研究院云(yun)計算與大(da)數(shu)據(ju)(ju)研究所等企(qi)事業(ye)單位代表蒞臨現(xian)場(chang)。會(hui)上(shang)，中國電信全國首發(fa)上線“魔樂(le)（Modelers）開發者社區”。
Modelers開發者社區上線首(shou)發儀(yi)式(shi)
當(dang)前，人(ren)工(gong)智(zhi)能已進(jin)入(ru)加(jia)(jia)快推進(jin)應用(yong)落(luo)地的關鍵階段。為進(jin)一步驅動國內人(ren)工(gong)智(zhi)能產業(ye)發(fa)展，加(jia)(jia)快技術(shu)創新和商業(ye)落(luo)地，中國電信聯合伙(huo)伴發布魔樂（Modelers）開發(fa)(fa)者(zhe)社(she)區(qu)。作為開發(fa)(fa)者(zhe)交流、學習和創新的平臺(tai)，魔樂（Modelers）開發(fa)(fa)者(zhe)社(she)區(qu)集成了模型(xing)庫、數據(ju)集和體驗空間(jian)、開發(fa)(fa)工具(ju)鏈等(deng)核心(xin)組件(jian)，覆蓋(gai)自然語言(yan)處理、視覺、音頻等(deng)多個領(ling)域，可提供原生(sheng)模型(xing)、易用開發(fa)(fa)工具(ju)、豐富(fu)的(de)生態資源(yuan)，幫助開發(fa)者獲取領先的人工智能(neng)技術，打造(zao)出更(geng)有競(jing)爭力(li)和(he)差異化的模(mo)型及應(ying)用。天(tian)翼云(yun)通過建(jian)設社區，構建(jian)中文環境下(xia)的算力(li)、數(shu)據、模(mo)型、應(ying)用和(he)新CDMA服務，希(xi)望吸引全國(guo)開發者(zhe)，共同繁榮國(guo)產AI生態。
會上，天翼云科技有限公(gong)司副總經(jing)理弓劍(jian)煒以“云智一(yi)體 國(guo)云助(zhu)力(li)(li)數字經(jing)濟高質量(liang)發(fa)展”為題發(fa)表演講(jiang)。弓劍(jian)煒表示，天翼云構建領(ling)先的(de)(de)(de)“息(xi)壤(rang)”一(yi)體化智算(suan)服務體系和能力(li)(li)，全方位開放生態合(he)作，為廣大客戶提供“供得上、用(yong)得起、用(yong)得好”的(de)(de)(de)算(suan)力(li)(li)服務。“息(xi)壤(rang)”突破(po)了(le)多(duo)項關(guan)鍵技術(shu)，擁(yong)有強大的(de)(de)(de)算(suan)網(wang)調度能力(li)(li)、高效的(de)(de)(de)異構計算(suan)能力(li)(li)、一(yi)站式的(de)(de)(de)訓推服務能力(li)(li)，積累了(le)豐(feng)富(fu)的(de)(de)(de)落地應用(yong)案例。
天翼云科技有限公司副總(zong)經理 弓劍(jian)煒(wei)
算(suan)網調度能力(li)方面，“息壤”在(zai)三(san)個方面(mian)取得顯著技術(shu)突破(po)。通過(guo)算(suan)(suan)(suan)力插件和算(suan)(suan)(suan)力網關(guan)，實(shi)現(xian)了算(suan)(suan)(suan)力的(de)(de)統(tong)一、高效和云化接入；通過(guo)算(suan)(suan)(suan)數(shu)協同和多級(ji)算(suan)(suan)(suan)力互聯調度，實(shi)現(xian)了算(suan)(suan)(suan)數(shu)網的(de)(de)一體化調度，數(shu)隨算(suan)(suan)(suan)走(zou)，算(suan)(suan)(suan)隨數(shu)動，調度區域更廣，算(suan)(suan)(suan)力更泛(fan)在(zai)；借助大模型認知(zhi)能(neng)力和業務調度，實(shi)現(xian)算(suan)(suan)(suan)力選擇和應(ying)用部署簡(jian)單化，故障自動恢復與負載均衡(heng)，使算(suan)(suan)(suan)力簡(jian)便(bian)易(yi)用。
基于上述技(ji)術突破和產品化應用，“息壤”可服務于三(san)大算(suan)力(li)(li)(li)場景。一是天翼云自營公共算(suan)力(li)(li)(li)服務平臺，目前已接入39家算(suan)力(li)(li)(li)伙伴，實(shi)(shi)現三(san)方(fang)各類算(suan)力(li)(li)(li)可調度22EFLOPS，顯著(zhu)擴大算(suan)力(li)(li)(li)規模和品類，滿足(zu)公有云客戶的多元算(suan)力(li)(li)(li)需求。二是幫助客戶構建行(xing)業算(suan)力(li)(li)(li)互(hu)聯網(wang)，例如高校算(suan)力(li)(li)(li)聯盟等，實(shi)(shi)現行(xing)業內(nei)算(suan)力(li)(li)(li)利用率的有效(xiao)提升。三(san)是幫助地方(fang)政(zheng)府構建城市算(suan)力(li)(li)(li)互(hu)聯網(wang)，實(shi)(shi)現區域(yu)內(nei)多方(fang)算(suan)力(li)(li)(li)的一體化統籌(chou)調度，助力(li)(li)(li)地方(fang)經濟和產業發展，目前已在貴州等多個區域(yu)成(cheng)功實(shi)(shi)施。
異(yi)構計算(suan)能力(li)方面，“息(xi)壤”具備高效的異構計算能力(li)，能夠(gou)破解大模型訓練推理(li)中面臨的大算力(li)、高性能、高穩(wen)定(ding)需(xu)求等挑戰。在大算力(li)需(xu)求方面，天翼云建(jian)(jian)設PB級并行文件(jian)存儲，并組(zu)建(jian)(jian)低延時超大規模RDMA網絡，通過(guo)計算(suan)(suan)、內(nei)存和(he)通訊的(de)多維(wei)優化(hua)，提升(sheng)綜(zong)合(he)(he)算(suan)(suan)效。在性能方面(mian)，對AI框架進(jin)行升(sheng)級、存儲(chu)加速，實現checkpoint文件快速保存、加載(zai)，將國(guo)產算(suan)(suan)力的(de)綜(zong)合(he)(he)算(suan)(suan)效提升(sheng)到了(le)行業可比水(shui)平。在穩定性方面(mian)，通過(guo)多項指標(biao)的(de)監控(kong)分(fen)析(xi)，實現故障訓(xun)(xun)前(qian)發(fa)現，有(you)效控(kong)制大模型訓(xun)(xun)練(lian)中斷(duan)恢(hui)復(fu)時長(chang)，實現訓(xun)(xun)練(lian)任務長(chang)期穩定、高可用運(yun)行。此外，天翼云基(ji)于(yu)國(guo)產萬卡智算(suan)(suan)集(ji)群和(he)自研智算(suan)(suan)平臺，已具(ju)備支撐萬億參(can)數基(ji)礎大模型訓(xun)(xun)練(lian)的(de)能力。
訓(xun)推(tui)服務能力方(fang)面，“息壤(rang)”一站式的訓推(tui)服務能(neng)力，可降低大(da)(da)模型(xing)應用創(chuang)新(xin)開發(fa)門檻。平臺(tai)預置行業數據集、納管國(guo)內外(wai)主流AI加速硬(ying)件(jian)、預置基于國(guo)產算力的多個基礎(chu)大(da)(da)模型(xing)等全(quan)(quan)棧工具(ju)鏈能(neng)力，將大(da)(da)模型(xing)精調場景(jing)簡化(hua)(hua)操作至選數據、選硬(ying)件(jian)和選模型(xing)三個步驟(zou)，簡化(hua)(hua)部署(shu)、提升(sheng)效率(lv)；通過(guo)自(zi)研(yan)AI框(kuang)架(jia)、3D并行加速、自(zi)研(yan)訓練(lian)加速庫、容(rong)器調度優化(hua)(hua)等核(he)心(xin)技術，大(da)(da)幅提升(sheng)訓練(lian)效率(lv)；通過(guo)模型(xing)量化(hua)(hua)壓縮、自(zi)研(yan)推(tui)理(li)加速算子庫、自(zi)研(yan)AI推(tui)理(li)加速框(kuang)架(jia)等核(he)心(xin)技術，顯著(zhu)提高推(tui)理(li)效率(lv)；通過(guo)全(quan)(quan)鏈路(lu)(lu)故(gu)障檢測、定位(wei)、告警，全(quan)(quan)鏈路(lu)(lu)日志監控與(yu)可視化(hua)(hua)、斷(duan)點續(xu)訓快速恢復等核(he)心(xin)技術，實(shi)現訓推(tui)過(guo)程全(quan)(quan)鏈路(lu)(lu)監控。
人工智能產業的(de)發展和繁榮離不(bu)開(kai)生態沃土的(de)“滋養”。此次(ci)會議首發上(shang)線魔樂（Modelers）開發者社(she)區。通過社(she)區建設，天(tian)(tian)翼云將協同伙(huo)伴聚集更多的優質中文AI資(zi)源，加速AI應(ying)用商業(ye)落地(di)。天(tian)(tian)翼云還開放(fang)AI云電腦平臺，打造(zao)AI應(ying)用中心，具備AI助手(shou)、AI空間、AI客服、AI低(di)代(dai)碼等AI創新應用(yong)(yong)，使AI應用(yong)(yong)能夠更廣泛地接(jie)入和使用(yong)(yong)，同(tong)時推(tui)出算數(shu)融合套餐，為用(yong)(yong)戶提(ti)供更加(jia)靈活和高效的服務，全力構(gou)建開(kai)放的模型、數(shu)據(ju)、應用(yong)(yong)生態，共鑄AI產業繁榮(rong)。
中國信通院云計算(suan)與大(da)數據(ju)研(yan)究(jiu)所(suo)所(suo)長何寶宏在會上(shang)介紹(shao)了云計算(suan)和大(da)數據(ju)賦能產業發展現狀及趨勢(shi)。他表(biao)示，隨著AI原生(sheng)帶來(lai)的(de)云(yun)(yun)(yun)技術(shu)革新和大模型規模化落地(di)，云(yun)(yun)(yun)計(ji)算技術(shu)與產業融(rong)合(he)價值愈加凸顯，各(ge)行業上(shang)云(yun)(yun)(yun)積極性持續攀升，云(yun)(yun)(yun)計(ji)算市場(chang)將迎來(lai)新一輪增長，AI加速產業格局重新洗牌。展(zhan)望未來(lai)，作為(wei)數字社(she)會底座，云(yun)(yun)(yun)計(ji)算的(de)價值將被(bei)繼續挖掘，我國也將從(cong)“數據(ju)大國”邁向“數據(ju)強國”。
中國(guo)信(xin)通院云計算與大(da)數據(ju)研究所(suo)所(suo)長 何(he)寶宏
人工智(zhi)(zhi)能已經成為數字經濟(ji)發(fa)(fa)展的(de)新引(yin)擎。作為云計(ji)算原創技術策源(yuan)地(di)、數字中國(guo)(guo)建(jian)設主(zhu)力(li)軍，天(tian)翼云將不斷深耕云計(ji)算領(ling)域核心技術，依托豐富(fu)的(de)智(zhi)(zhi)算資源(yuan)、強大的(de)智(zhi)(zhi)算一體化平(ping)臺(tai)能力(li)、開放的(de)模型應用(yong)生(sheng)態(tai)和(he)(he)豐富(fu)的(de)實(shi)踐(jian)案(an)例，攜(xie)手廣大客戶(hu)與合作伙(huo)伴共同賦能千行(xing)百(bai)業數智(zhi)(zhi)化轉型，持續(xu)為數字經濟(ji)發(fa)(fa)展和(he)(he)數字中國(guo)(guo)建(jian)設注入(ru)澎湃動(dong)能。
