亚欧色一区w666天堂,色情一区二区三区免费看,少妇特黄A片一区二区三区,亚洲人成网站999久久久综合,国产av熟女一区二区三区

  • 發布文章
  • 消息中心
點贊
收藏
評論
分享

【音視頻】弱網下實時視頻的極限通信

2022-06-27 06:48:58
285
0

弱網的場景

弱網(wang)與常規(gui)的(de)(de)(de)互(hu)聯網(wang)還是不(bu)一樣的(de)(de)(de),常規(gui)的(de)(de)(de)互(hu)聯網(wang)對于極限挑戰(zhan),已經(jing)是不(bu)錯的(de)(de)(de)。無論(lun)是直播(bo)、點播(bo),基(ji)礎設施(shi)、網(wang)絡設備以及壓縮(suo)處理技術等(deng)(deng)已經(jing)完全可以滿足高清、超高清、多視(shi)點等(deng)(deng)需求了。但對于弱網(wang)來說,比如:應急(ji)救災、遠洋(yang)海(hai)事、無人圖傳、邊(bian)防監(jian)控等(deng)(deng),這(zhe)些(xie)場景(jing)往往需要(yao)實時的(de)(de)(de)通(tong)信(xin),但這(zhe)些(xie)場景(jing)下,依(yi)賴基(ji)站(zhan)通(tong)信(xin)存(cun)在一定的(de)(de)(de)自(zi)然(ran)原因可能會導致通(tong)訊受限,甚至(zhi)中斷(duan)。比如:大規(gui)模泥石流(liu)、地震等(deng)(deng)自(zi)然(ran)災害。

極限通信架構

基于弱網實(shi)(shi)(shi)際(ji)的場景,以(yi)及實(shi)(shi)(shi)際(ji)存在的問題,南大實(shi)(shi)(shi)驗室提(ti)出了一個極限通信的架(jia)構,主要體現在三個方面:

數據驅動

在線強化學習實現個性化

數據通信轉向人工智能

數據驅動

從(cong)數(shu)十年的研究經驗(yan)來(lai)看,從(cong)最(zui)基本的工(gong)程(cheng)設計角(jiao)度出發,來(lai)走向數(shu)據(ju)驅動,當然,這(zhe)(zhe)一點(dian)也被證明(ming)是可行的:比(bi)如:強化學習等來(lai)應用到控制網絡(luo)帶寬(kuan),視頻編解碼器等參(can)數(shu),這(zhe)(zhe)些參(can)數(shu)都是比(bi)較復(fu)雜的。

在線強化學習實現個性化

當然(ran),希望從(cong)數據驅(qu)動,可以再更進一步走向自動化(hua)、智(zhi)能化(hua),因為你(ni)無法知道接觸的(de)網(wang)絡的(de)變化(hua),無法預計(ji)是什(shen)么(me)樣的(de)分發存(cun)在(zai)。所(suo)以希望通過最新的(de)在(zai)線學習的(de)模型(xing)、策略(lve)等,實現(xian)端到端的(de)視頻通信(xin)。

數據通信到人工智能

大(da)部分的(de)(de)(de)(de)(de)(de)(de)視頻(pin)(pin)通(tong)(tong)信(xin),目前都是(shi)以(yi)數(shu)據(ju)(ju)通(tong)(tong)信(xin)的(de)(de)(de)(de)(de)(de)(de)方式存在(zai)(zai),例(li)如:交換機(ji)等(deng)不(bu)知(zhi)(zhi)道數(shu)據(ju)(ju)到底是(shi)視頻(pin)(pin),還是(shi)圖(tu)像,還是(shi)其它什么的(de)(de)(de)(de)(de)(de)(de)。所以(yi)希望結合視頻(pin)(pin)、圖(tu)像內容,其本身在(zai)(zai)用(yong)(yong)戶(hu)理(li)解上(shang)(shang),或者說語義層(ceng)面上(shang)(shang),真正從數(shu)據(ju)(ju)層(ceng)走(zou)向人工智能。因為在(zai)(zai)用(yong)(yong)戶(hu)感知(zhi)(zhi)中(zhong),即使視頻(pin)(pin)丟(diu)失一幀,像素丟(diu)失,我們(men)(men)都可(ke)以(yi)通(tong)(tong)過補(bu)償的(de)(de)(de)(de)(de)(de)(de)辦法給取(qu)回來。在(zai)(zai)網絡(luo)(luo)最差的(de)(de)(de)(de)(de)(de)(de)時候(hou),我們(men)(men)是(shi)否可(ke)以(yi)在(zai)(zai)網絡(luo)(luo)不(bu)能讀取(qu)的(de)(de)(de)(de)(de)(de)(de)時候(hou),主動丟(diu)包,可(ke)以(yi)借(jie)助一些(xie)終端(duan)設備來處(chu)理(li)。例(li)如:一些(xie)比(bi)較流行的(de)(de)(de)(de)(de)(de)(de)手(shou)機(ji)里包括芯(xin)片(pian)(pian),這些(xie)芯(xin)片(pian)(pian)計算能力很(hen)強(qiang),可(ke)以(yi)在(zai)(zai)網絡(luo)(luo)丟(diu)包時,終端(duan)給予(yu)補(bu)償。我們(men)(men)前期在(zai)(zai)做一些(xie)測(ce)試:當把(ba)(ba)基于線性的(de)(de)(de)(de)(de)(de)(de)模(mo)型推廣(guang)到數(shu)據(ju)(ju)驅動的(de)(de)(de)(de)(de)(de)(de)話,能把(ba)(ba)用(yong)(yong)戶(hu)感知(zhi)(zhi)、視頻(pin)(pin)通(tong)(tong)信(xin)感知(zhi)(zhi)的(de)(de)(de)(de)(de)(de)(de)性能提升(sheng)百分之十以(yi)上(shang)(shang)。同時,我們(men)(men)把(ba)(ba)離線的(de)(de)(de)(de)(de)(de)(de)模(mo)型變成在(zai)(zai)線的(de)(de)(de)(de)(de)(de)(de)模(mo)型,可(ke)以(yi)再(zai)次提升(sheng)其性能。當然(ran),如果在(zai)(zai)用(yong)(yong)戶(hu)感知(zhi)(zhi)的(de)(de)(de)(de)(de)(de)(de)角度主動丟(diu)包的(de)(de)(de)(de)(de)(de)(de)話,可(ke)以(yi)予(yu)以(yi)提升(sheng)。面臨的(de)(de)(de)(de)(de)(de)(de)困(kun)難是(shi):如何(he)把(ba)(ba)這些(xie)更好的(de)(de)(de)(de)(de)(de)(de)部署(shu)到終端(duan)、網絡(luo)(luo)節點、服務器上(shang)(shang)。

智能視頻編碼

對于大數(shu)據量(liang)的視(shi)頻(pin)壓縮與編碼(ma),這(zhe)是很有(you)必(bi)要的。那么,如(ru)何把壓縮、編碼(ma)做到最好,這(zhe)是 30 多年來人們的一個追求。當然,這(zhe)些(xie)年來,可以(yi)看到視(shi)頻(pin)壓縮還(huan)是有(you)一定的進(jin)步。從 MPEG-1 到 VVC、AVS3,有(you)將(jiang)近 16 倍的提升。

在最初,基于現(xian)有(you)的理論,想通(tong)過人的理解(jie)系統(tong),啟發(fa)一(yi)(yi)個(ge)新(xin)的視(shi)頻編解(jie)碼系統(tong)。并且當時有(you)相(xiang)關的一(yi)(yi)些理論文章被提出。最后,考慮(lv)從生物視(shi)覺(jue)、腦視(shi)覺(jue)的角度出發(fa),來做(zuo)這一(yi)(yi)塊的工(gong)作。

從(cong)工(gong)(gong)藝角(jiao)度(du)出(chu)發,隨著(zhu)現在工(gong)(gong)藝追求的(de)(de)越來越量級化(hua),5 納米、3 納米,而(er)且設備功(gong)耗、算力等成為最(zui)大的(de)(de)考慮(lv)。那么從(cong) 2015 年,谷歌開始研發自己的(de)(de) GPU。后續的(de)(de)話,蘋果、華(hua)為等手機端也存在這種(zhong)加速設備的(de)(de)卡。從(cong)工(gong)(gong)業上是可以這樣做的(de)(de),但(dan)其帶來的(de)(de)犧牲是比(bi)較大的(de)(de)。

所(suo)以(yi),現在(zai)研究的(de)(de)(de)(de)(de)(de)是,視(shi)頻圖像的(de)(de)(de)(de)(de)(de)內(nei)容,無非是人(ren)來(lai)(lai)(lai)看,或(huo)者是機器用(yong)。但都需要理(li)解視(shi)頻圖像的(de)(de)(de)(de)(de)(de)內(nei)容,才能(neng)更好(hao)的(de)(de)(de)(de)(de)(de)決策。所(suo)以(yi),看視(shi)頻內(nei)容的(de)(de)(de)(de)(de)(de)時候(hou),有(you)時候(hou)是完成一(yi)(yi)種(zhong)心(xin)理(li)上(shang)的(de)(de)(de)(de)(de)(de)感應。比(bi)如:看懸疑、喜劇、恐怖(bu)等電(dian)影,有(you)開(kai)心(xin)、快樂,也有(you)悲傷。從人(ren)的(de)(de)(de)(de)(de)(de)角度(du),有(you)視(shi)網膜(mo),到中間(jian)的(de)(de)(de)(de)(de)(de) Nerve,再到大(da)腦(nao)(nao) brain,相對應的(de)(de)(de)(de)(de)(de)初(chu)級視(shi)覺(jue)底層(ceng)。這(zhe)也是信(xin)(xin)息(xi)的(de)(de)(de)(de)(de)(de)局部抽取(qu)、分析(xi)、感知、理(li)解。相對應的(de)(de)(de)(de)(de)(de),我們(men)稱為機器智(zhi)能(neng)的(de)(de)(de)(de)(de)(de)情況(kuang)下,就監控而(er)言,前端有(you)相機 Camera,連接上(shang)網絡,通(tong)過網絡會送(song)到類似于城(cheng)市(shi)大(da)腦(nao)(nao)這(zhe)樣(yang)大(da)型的(de)(de)(de)(de)(de)(de)計算(suan)中心(xin)進行(xing)一(yi)(yi)些決策。這(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)一(yi)(yi)個(ge)(ge)系統過程,就類似于我們(men)人(ren)的(de)(de)(de)(de)(de)(de)大(da)腦(nao)(nao)信(xin)(xin)息(xi)的(de)(de)(de)(de)(de)(de)提取(qu)、傳輸,再到后面(mian)的(de)(de)(de)(de)(de)(de)心(xin)理(li)決策,很直觀。所(suo)以(yi),我們(men)可以(yi)從人(ren)的(de)(de)(de)(de)(de)(de)這(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)一(yi)(yi)個(ge)(ge)理(li)解系統來(lai)(lai)(lai)啟發我們(men)能(neng)否通(tong)過這(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)方(fang)式來(lai)(lai)(lai)做(zuo)。同時,我們(men)也采(cai)納了一(yi)(yi)些其他的(de)(de)(de)(de)(de)(de)材(cai)料(liao),比(bi)如:國(guo)際(ji)上(shang)一(yi)(yi)些分支也在(zai)做(zuo)這(zhe)方(fang)面(mian)的(de)(de)(de)(de)(de)(de)研究。我們(men)希望(wang)新的(de)(de)(de)(de)(de)(de)知識來(lai)(lai)(lai)幫助我們(men)梳理(li)、啟發。在(zai)這(zhe)種(zhong)情況(kuang)下,我們(men)提出采(cai)用(yong)生物(wu)視(shi)覺(jue)或(huo)腦(nao)(nao)視(shi)覺(jue)來(lai)(lai)(lai)啟發做(zuo)這(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)一(yi)(yi)件事。

回到(dao)基本的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)信(xin)(xin)息(xi)(xi)流,視(shi)(shi)頻圖(tu)(tu)像(xiang)(xiang)從人眼感(gan)(gan)知到(dao)視(shi)(shi)網(wang)膜成(cheng)像(xiang)(xiang),通過(guo)這(zhe)(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de) pathway,到(dao)初(chu)級視(shi)(shi)網(wang)膜皮層(ceng)(ceng),也(ye)會到(dao)其他的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)皮層(ceng)(ceng),V2、V4、MT 等。這(zhe)(zhe)才是(shi)(shi)一(yi)個(ge)完整(zheng)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de) visual information flow,科學(xue)界(jie)也(ye)通過(guo)解剖分析(xi)這(zhe)(zhe)一(yi)系列的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)傳輸信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)過(guo)程。所以,我(wo)們(men)想通過(guo)腦視(shi)(shi)覺、神經科學(xue)來(lai)做(zuo)(zuo)想做(zuo)(zuo)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)一(yi)些事(shi)情。在歷史發行的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)很多文章(zhang)中,在六(liu)十(shi)年(nian)代,美國科學(xue)家提出,人眼視(shi)(shi)覺感(gan)(gan)知器(qi),感(gan)(gan)知世(shi)界(jie)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)時(shi)候處理大概(gai)是(shi)(shi) 100MB/s,然后(hou)通過(guo)視(shi)(shi)網(wang)膜上的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)細(xi)(xi)胞,進行分離后(hou),進入(ru)外(wai)側系地(di)層(ceng)(ceng),大概(gai)壓(ya)(ya)縮(suo) 100 倍(bei):1MB/s,然后(hou)一(yi)系列細(xi)(xi)胞,再到(dao) V1 初(chu)級視(shi)(shi)覺皮層(ceng)(ceng)時(shi),只有 40b/s。因(yin)為(wei)(wei)人眼關注(zhu)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)區域(yu),分辨率會很高(gao),不關注(zhu)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)分辨率會較低。把(ba)其放大 10 倍(bei)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)話(hua),現在最(zui)好的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)視(shi)(shi)頻標(biao)準 VVC,在廣(guang)播(bo)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)條件情況下(xia),也(ye)是(shi)(shi) 1000 倍(bei)左右。同(tong)時(shi),人眼對于(yu)圖(tu)(tu)像(xiang)(xiang)視(shi)(shi)頻是(shi)(shi)非(fei)局部的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)操作,因(yin)為(wei)(wei)人眼的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)掃視(shi)(shi)、轉動(dong),對于(yu)某些區域(yu)、顏色、形狀會特別的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)敏感(gan)(gan)。這(zhe)(zhe)就是(shi)(shi)注(zhu)意(yi)力(li)機(ji)制,德國的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)一(yi)個(ge)博士(shi)早(zao) 20 年(nian)開始(shi)做(zuo)(zuo),V1 所呈現出來(lai)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)跟(gen)這(zhe)(zhe)個(ge)注(zhu)意(yi)力(li)機(ji)制就非(fei)常相似,所以我(wo)們(men)加了這(zhe)(zhe)個(ge)模塊(kuai):nonlocal attention。后(hou)面的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)一(yi)些模塊(kuai),跟(gen) V1 之后(hou),傳輸到(dao)更(geng)深層(ceng)(ceng)次的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)語義,我(wo)們(men)設計(ji)成(cheng) hyper,主要是(shi)(shi)幫助信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)重(zhong)建(jian)與信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)提取(qu)。最(zui)后(hou)做(zuo)(zuo)成(cheng)簡(jian)單的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)端到(dao)端的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)對稱(cheng),通過(guo)對稱(cheng)來(lai)提取(qu)信(xin)(xin)息(xi)(xi)表針(zhen)。很有趣的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)是(shi)(shi),這(zhe)(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)信(xin)(xin)息(xi)(xi)表針(zhen),不管是(shi)(shi)圖(tu)(tu)像(xiang)(xiang)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)像(xiang)(xiang)素,或者是(shi)(shi)多幅圖(tu)(tu)像(xiang)(xiang)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)運動(dong)也(ye)好,還是(shi)(shi)有運動(dong)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)參差也(ye)好,都(dou)能很好的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)表達。所以我(wo)們(men)稱(cheng)為(wei)(wei):A Hypothetical Feedforward System with Feedback 這(zhe)(zhe)樣(yang)一(yi)個(ge) model,簡(jian)稱(cheng) HFF。然后(hou)這(zhe)(zhe)個(ge) HFF 對于(yu)像(xiang)(xiang)素都(dou)是(shi)(shi)一(yi)個(ge)完整(zheng)的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)表達,這(zhe)(zhe)個(ge) model 應用到(dao)視(shi)(shi)頻壓(ya)(ya)縮(suo)、圖(tu)(tu)像(xiang)(xiang)壓(ya)(ya)縮(suo),結果還是(shi)(shi)比較喜人的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)。最(zui)近的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)圖(tu)(tu)像(xiang)(xiang)壓(ya)(ya)縮(suo)已經超過(guo) VVC 的(de)(de)(de)(de)(de)(de)(de)(de)(de)(de)效果。

對(dui)于設(she)計中(zhong),也存在一(yi)(yi)定的(de)(de)挑戰,比如:視(shi)(shi)頻的(de)(de)復雜度(du)。之后(hou)提(ti)出了(le)一(yi)(yi)種新的(de)(de)方(fang)式(shi),基于腦視(shi)(shi)覺的(de)(de)方(fang)式(shi)與(yu)傳統的(de)(de)視(shi)(shi)頻壓(ya)(ya)(ya)縮結合(he)(he)起(qi)來,主(zhu)要是(shi) 2 個(ge)原因(yin),性能方(fang)面,現(xian)在圖(tu)像(xiang)(xiang)壓(ya)(ya)(ya)縮已經超過了(le)國際的(de)(de)標(biao)準(zhun),但視(shi)(shi)頻壓(ya)(ya)(ya)縮中(zhong)還是(shi)略低。第二(er)個(ge)就是(shi)現(xian)有(you)的(de)(de)設(she)備(bei)上(shang)已經有(you)一(yi)(yi)些的(de)(de)存在,所以最有(you)效的(de)(de)方(fang)法是(shi),能否在已有(you)的(de)(de)設(she)備(bei)通(tong)過一(yi)(yi)些簡(jian)單(dan)的(de)(de) net,這樣(yang)讓(rang)新的(de)(de)腦信息的(de)(de)啟發處理(li)實(shi)實(shi)在在的(de)(de)用起(qi)來,所以提(ti)出了(le)新的(de)(de)方(fang)案:Performance/Complexity。這主(zhu)要的(de)(de)概念是(shi),人的(de)(de)大(da)腦不會(hui)像(xiang)(xiang)解碼(ma)器一(yi)(yi)樣(yang),只是(shi)部分的(de)(de)解析、最后(hou)更多(duo)是(shi)融合(he)(he)的(de)(de)過程。同時,人的(de)(de)細胞對(dui)于不同的(de)(de)圖(tu)像(xiang)(xiang)特征(zheng)的(de)(de)敏(min)感程度(du)是(shi)不一(yi)(yi)樣(yang)的(de)(de)。

網絡自適應傳輸

首(shou)先(xian)(xian),通過的(de)(de)(de) BBR 去做碼率控制的(de)(de)(de)話,是(shi)比(bi)較有限的(de)(de)(de)。所以(yi),有一(yi)個(ge)(ge)思考:能(neng)不(bu)(bu)能(neng)把(ba)網(wang)絡(luo)的(de)(de)(de) trace、network 變化作為一(yi)種方式來做強(qiang)化學(xue)習(xi),從(cong)而推出基于強(qiang)化學(xue)習(xi)的(de)(de)(de)視(shi)頻(pin)網(wang)絡(luo)自適應。學(xue)習(xi)國際(ji)上比(bi)較先(xian)(xian)進(jin)(jin)的(de)(de)(de)經驗(yan),把(ba)這(zhe)個(ge)(ge)應用到(dao)實(shi)(shi)時(shi)系統中(zhong),產(chan)生了離線(xian)(xian) ARS 訓(xun)(xun)練算(suan)法。當然(ran),對比(bi)于當前先(xian)(xian)進(jin)(jin)算(suan)法 BBR、GCC, 提(ti)(ti)升(sheng)(sheng) 12%左右的(de)(de)(de) QoE 性(xing)能(neng)。但是(shi),這(zhe)個(ge)(ge)過程(cheng)(cheng)也不(bu)(bu)是(shi)完(wan)美(mei)的(de)(de)(de)演進(jin)(jin),存(cun)在(zai)(zai)(zai)(zai)一(yi)定的(de)(de)(de)缺陷。比(bi)如(ru):離線(xian)(xian)訓(xun)(xun)練的(de)(de)(de)過程(cheng)(cheng)中(zhong)存(cun)在(zai)(zai)(zai)(zai)樣(yang)(yang)本受限,與實(shi)(shi)際(ji)環(huan)(huan)境(jing)不(bu)(bu)相符。在(zai)(zai)(zai)(zai)收集很(hen)多的(de)(de)(de)網(wang)絡(luo)模塊(kuai),比(bi)如(ru):4G 的(de)(de)(de),那么對于 5G 的(de)(de)(de)網(wang)絡(luo)特(te)征(zheng)是(shi)否不(bu)(bu)一(yi)樣(yang)(yang)。所以(yi)需要在(zai)(zai)(zai)(zai)線(xian)(xian)學(xue)習(xi),在(zai)(zai)(zai)(zai)線(xian)(xian)學(xue)習(xi)就網(wang)絡(luo)狀況進(jin)(jin)行(xing)分類(lei)、視(shi)頻(pin)分類(lei)的(de)(de)(de)都需要進(jin)(jin)行(xing)處理。主要涉及到(dao)網(wang)絡(luo)狀況和視(shi)頻(pin)內容(rong)的(de)(de)(de)聚(ju)類(lei)、分類(lei)。這(zhe)樣(yang)(yang),總算(suan)給(gei)出一(yi)個(ge)(ge)較優的(de)(de)(de)性(xing)能(neng)。同(tong)(tong)(tong)時(shi),會對于每個(ge)(ge)用戶的(de)(de)(de)信息(xi)進(jin)(jin)行(xing)一(yi)個(ge)(ge)新模型的(de)(de)(de)提(ti)(ti)煉,當這(zhe)樣(yang)(yang)的(de)(de)(de)狀態與平均狀態的(de)(de)(de)區別太大時(shi),就會使用新模型,同(tong)(tong)(tong)時(shi),會自動(dong)部(bu)署訓(xun)(xun)練,形成一(yi)個(ge)(ge)模型滾動(dong)方案體系。根據最新的(de)(de)(de)演進(jin)(jin),那么對比(bi)于離線(xian)(xian)學(xue)習(xi)的(de)(de)(de)模型,在(zai)(zai)(zai)(zai)線(xian)(xian)學(xue)習(xi)的(de)(de)(de)性(xing)能(neng)明顯提(ti)(ti)升(sheng)(sheng) 8.1%的(de)(de)(de)歸(gui)一(yi)化 QoE。從(cong)離線(xian)(xian)的(de)(de)(de) OffLine ARS,到(dao) OnLine 的(de)(de)(de) ARS,在(zai)(zai)(zai)(zai)內容(rong)上提(ti)(ti)升(sheng)(sheng)的(de)(de)(de)性(xing)能(neng)還(huan)是(shi)不(bu)(bu)一(yi)樣(yang)(yang)的(de)(de)(de),但大部(bu)分都有較高的(de)(de)(de)提(ti)(ti)升(sheng)(sheng)。從(cong)離線(xian)(xian)學(xue)習(xi),由局部(bu)的(de)(de)(de)環(huan)(huan)境(jing)以(yi)及訓(xun)(xun)練的(de)(de)(de)資源受限,到(dao)在(zai)(zai)(zai)(zai)線(xian)(xian)學(xue)習(xi)時(shi),實(shi)(shi)時(shi)的(de)(de)(de)獲(huo)取(qu)用戶的(de)(de)(de)信息(xi)源以(yi)及環(huan)(huan)境(jing)因素(su)(su),可以(yi)很(hen)好的(de)(de)(de)為新模型訓(xun)(xun)練提(ti)(ti)供更多、更好的(de)(de)(de)保障,這(zhe)樣(yang)(yang)訓(xun)(xun)練出來的(de)(de)(de)模型,可以(yi)更好的(de)(de)(de)兼(jian)容(rong)實(shi)(shi)際(ji)情形下的(de)(de)(de)環(huan)(huan)境(jing)因素(su)(su)等變化,同(tong)(tong)(tong)時(shi),可以(yi)在(zai)(zai)(zai)(zai)新環(huan)(huan)境(jing)中(zhong),作為一(yi)些補充、完(wan)善來生成新的(de)(de)(de)模型,是(shi)有利于實(shi)(shi)時(shi)網(wang)絡(luo)模型訓(xun)(xun)練的(de)(de)(de)。

總結

弱(ruo)網(wang)(wang)(wang)環境的(de)(de)主要(yao)問(wen)(wen)題(ti)有(you)兩(liang)個方(fang)面(mian),一方(fang)面(mian)是(shi)(shi)帶寬極低,其(qi)(qi)(qi)實(shi)也(ye)不是(shi)(shi)很大(da)問(wen)(wen)題(ti),只(zhi)要(yao)網(wang)(wang)(wang)絡(luo)(luo)平穩。那(nei)么就(jiu)涉及(ji)到第(di)二個問(wen)(wen)題(ti),網(wang)(wang)(wang)絡(luo)(luo)抖(dou)(dou)動。其(qi)(qi)(qi)實(shi)弱(ruo)網(wang)(wang)(wang)不僅僅在應(ying)急救災(zai)、遠洋海事(shi)等,尤其(qi)(qi)(qi)現(xian)(xian)在 5G 上(shang)來后(hou),頻率變高,需要(yao)直線(xian)傳輸(shu),當遇到許(xu)多阻(zu)礙的(de)(de)時(shi)(shi)候會帶來網(wang)(wang)(wang)絡(luo)(luo)的(de)(de)變化比較大(da),這種也(ye)稱為弱(ruo)網(wang)(wang)(wang)。當然,有(you)時(shi)(shi)候,wifi 下也(ye)會存(cun)在弱(ruo)網(wang)(wang)(wang)的(de)(de)出現(xian)(xian)。面(mian)對帶寬低,主要(yao)是(shi)(shi)信息(xi)量(liang),提高壓(ya)(ya)縮。面(mian)對網(wang)(wang)(wang)絡(luo)(luo)抖(dou)(dou)動大(da),通(tong)過(guo)網(wang)(wang)(wang)絡(luo)(luo)控制、機器學(xue)習來學(xue)習網(wang)(wang)(wang)絡(luo)(luo)的(de)(de)狀態。目前(qian)我(wo)(wo)們(men)的(de)(de)研究(jiu)還是(shi)(shi)比較領先于(yu)國際(ji)的(de)(de),尤其(qi)(qi)(qi)是(shi)(shi)對于(yu)壓(ya)(ya)縮編(bian)碼。在現(xian)(xian)有(you)的(de)(de)模型算(suan)法中,我(wo)(wo)們(men)的(de)(de)性(xing)能有(you)很大(da)的(de)(de)優勢(shi)。

————————————————

版權(quan)(quan)聲(sheng)明:本文(wen)為CSDN博主「聲(sheng)網」的原創文(wen)章(zhang),遵循CC 4.0 BY-SA版權(quan)(quan)協議,轉載請附上原文(wen)出處(chu)鏈接及本聲(sheng)明。

原文鏈接://blog.csdn.net/agora_cloud/article/details/119722619

0條評論
0 / 1000
AE86上山了
55文章(zhang)數
18粉絲數
AE86上山了
55 文章 | 18 粉絲

【音視頻】弱網下實時視頻的極限通信

2022-06-27 06:48:58
285
0

弱網的場景

弱網(wang)(wang)與常規的(de)(de)(de)互(hu)聯網(wang)(wang)還是不一樣的(de)(de)(de),常規的(de)(de)(de)互(hu)聯網(wang)(wang)對(dui)于極限挑戰,已(yi)經(jing)是不錯(cuo)的(de)(de)(de)。無論(lun)是直播、點播,基(ji)礎設施、網(wang)(wang)絡設備以(yi)及(ji)壓縮處理技術等已(yi)經(jing)完全(quan)可以(yi)滿足高清(qing)、超高清(qing)、多(duo)視點等需(xu)(xu)求了(le)。但對(dui)于弱網(wang)(wang)來說,比(bi)如(ru):應(ying)急(ji)救災、遠洋海事、無人圖(tu)傳(chuan)、邊防(fang)監控(kong)等,這(zhe)(zhe)些場(chang)景往往需(xu)(xu)要實時的(de)(de)(de)通(tong)(tong)(tong)信(xin)(xin),但這(zhe)(zhe)些場(chang)景下,依賴(lai)基(ji)站(zhan)通(tong)(tong)(tong)信(xin)(xin)存(cun)在一定的(de)(de)(de)自然原(yuan)因可能(neng)會導致通(tong)(tong)(tong)訊(xun)受限,甚(shen)至(zhi)中(zhong)斷。比(bi)如(ru):大(da)規模(mo)泥石流、地震等自然災害。

極限通信架構

基于(yu)弱網(wang)實(shi)際(ji)的(de)(de)場景(jing),以及實(shi)際(ji)存在(zai)的(de)(de)問題,南大實(shi)驗室(shi)提出了一(yi)個(ge)極限通信的(de)(de)架構,主要(yao)體現在(zai)三個(ge)方面:

數據驅動

在線強化學習實現個性化

數據通信轉向人工智能

數據驅動

從數十年的研究(jiu)經(jing)驗來看,從最基本的工程設(she)計角(jiao)度出發,來走向數據驅動,當然,這一點也被證明是可(ke)行的:比(bi)如(ru):強(qiang)化學(xue)習等來應用(yong)到控(kong)制網絡帶寬(kuan),視頻編(bian)解碼器等參數,這些(xie)參數都(dou)是比(bi)較復雜的。

在線強化學習實現個性化

當(dang)然,希(xi)望從數(shu)據驅(qu)動(dong),可以(yi)再更進一步走向(xiang)自動(dong)化、智能化,因為你(ni)無(wu)法知道接觸的(de)(de)網絡的(de)(de)變化,無(wu)法預計是什么樣的(de)(de)分發存在。所(suo)以(yi)希(xi)望通(tong)過最新的(de)(de)在線學(xue)習的(de)(de)模型、策略(lve)等,實現(xian)端到(dao)端的(de)(de)視頻(pin)通(tong)信。

數據通信到人工智能

大部(bu)分(fen)的(de)(de)視頻通信,目前(qian)都(dou)是(shi)(shi)以(yi)數(shu)據通信的(de)(de)方(fang)式存在(zai),例如:交換機等不(bu)知道數(shu)據到底是(shi)(shi)視頻,還是(shi)(shi)圖(tu)像,還是(shi)(shi)其它(ta)什么(me)的(de)(de)。所以(yi)希(xi)望結合(he)視頻、圖(tu)像內容,其本身在(zai)用(yong)戶(hu)(hu)(hu)理(li)(li)解上,或者說(shuo)語義層面上,真正從數(shu)據層走(zou)向(xiang)人工智能(neng)。因為在(zai)用(yong)戶(hu)(hu)(hu)感知中(zhong),即使(shi)視頻丟(diu)(diu)失一幀,像素丟(diu)(diu)失,我(wo)們(men)都(dou)可(ke)以(yi)通過補償(chang)的(de)(de)辦法(fa)給取回來。在(zai)網(wang)絡(luo)最差的(de)(de)時候,我(wo)們(men)是(shi)(shi)否(fou)可(ke)以(yi)在(zai)網(wang)絡(luo)不(bu)能(neng)讀(du)取的(de)(de)時候,主(zhu)動丟(diu)(diu)包,可(ke)以(yi)借助一些(xie)終(zhong)(zhong)端設備來處理(li)(li)。例如:一些(xie)比較(jiao)流行(xing)的(de)(de)手(shou)機里包括(kuo)芯片,這些(xie)芯片計算(suan)能(neng)力很強(qiang),可(ke)以(yi)在(zai)網(wang)絡(luo)丟(diu)(diu)包時,終(zhong)(zhong)端給予(yu)補償(chang)。我(wo)們(men)前(qian)期在(zai)做一些(xie)測試:當把基于線性(xing)的(de)(de)模(mo)型(xing)推(tui)廣到數(shu)據驅動的(de)(de)話,能(neng)把用(yong)戶(hu)(hu)(hu)感知、視頻通信感知的(de)(de)性(xing)能(neng)提升百(bai)分(fen)之(zhi)十以(yi)上。同時,我(wo)們(men)把離線的(de)(de)模(mo)型(xing)變成在(zai)線的(de)(de)模(mo)型(xing),可(ke)以(yi)再(zai)次提升其性(xing)能(neng)。當然,如果(guo)在(zai)用(yong)戶(hu)(hu)(hu)感知的(de)(de)角(jiao)度主(zhu)動丟(diu)(diu)包的(de)(de)話,可(ke)以(yi)予(yu)以(yi)提升。面臨的(de)(de)困難是(shi)(shi):如何(he)把這些(xie)更好(hao)的(de)(de)部(bu)署到終(zhong)(zhong)端、網(wang)絡(luo)節點(dian)、服務器上。

智能視頻編碼

對于大數(shu)據量的(de)(de)視頻壓(ya)縮(suo)與編(bian)碼(ma),這是很有必要(yao)的(de)(de)。那么,如何把壓(ya)縮(suo)、編(bian)碼(ma)做到(dao)最好,這是 30 多年來(lai)人們的(de)(de)一個(ge)追求。當然,這些(xie)年來(lai),可以(yi)看到(dao)視頻壓(ya)縮(suo)還(huan)是有一定(ding)的(de)(de)進步。從 MPEG-1 到(dao) VVC、AVS3,有將近 16 倍的(de)(de)提升。

在最初,基于現有的(de)理(li)論,想通過人的(de)理(li)解(jie)系統,啟發一個新的(de)視(shi)頻編解(jie)碼系統。并且(qie)當(dang)時有相關的(de)一些理(li)論文章被提出。最后,考慮從生物(wu)視(shi)覺(jue)、腦(nao)視(shi)覺(jue)的(de)角度出發,來做這一塊的(de)工作(zuo)。

從工藝角度出發,隨著現在工藝追求的(de)(de)越來越量級化,5 納米(mi)、3 納米(mi),而(er)且設備功耗、算力等成(cheng)為最大的(de)(de)考慮。那么(me)從 2015 年,谷(gu)歌開始研(yan)發自己的(de)(de) GPU。后續(xu)的(de)(de)話,蘋果、華(hua)為等手機端也存在這種加速(su)設備的(de)(de)卡(ka)。從工業上是可以這樣做的(de)(de),但(dan)其帶來的(de)(de)犧牲(sheng)是比較(jiao)大的(de)(de)。

所以,現在(zai)研究(jiu)的(de)(de)(de)(de)(de)(de)(de)(de)是(shi)(shi),視(shi)頻圖(tu)像的(de)(de)(de)(de)(de)(de)(de)(de)內容,無非是(shi)(shi)人(ren)來(lai)看(kan),或者是(shi)(shi)機(ji)器用(yong)。但都需要理(li)解視(shi)頻圖(tu)像的(de)(de)(de)(de)(de)(de)(de)(de)內容,才能(neng)更好的(de)(de)(de)(de)(de)(de)(de)(de)決(jue)策。所以,看(kan)視(shi)頻內容的(de)(de)(de)(de)(de)(de)(de)(de)時(shi)候(hou),有(you)時(shi)候(hou)是(shi)(shi)完成一種心理(li)上(shang)的(de)(de)(de)(de)(de)(de)(de)(de)感應(ying)。比(bi)如(ru):看(kan)懸(xuan)疑(yi)、喜(xi)劇、恐怖等電(dian)影,有(you)開心、快(kuai)樂,也(ye)(ye)有(you)悲傷。從人(ren)的(de)(de)(de)(de)(de)(de)(de)(de)角度,有(you)視(shi)網(wang)膜,到中間的(de)(de)(de)(de)(de)(de)(de)(de) Nerve,再到大腦(nao) brain,相(xiang)對(dui)應(ying)的(de)(de)(de)(de)(de)(de)(de)(de)初(chu)級視(shi)覺底層。這也(ye)(ye)是(shi)(shi)信息(xi)的(de)(de)(de)(de)(de)(de)(de)(de)局部抽取、分析(xi)、感知(zhi)(zhi)、理(li)解。相(xiang)對(dui)應(ying)的(de)(de)(de)(de)(de)(de)(de)(de),我(wo)(wo)(wo)(wo)們(men)稱為機(ji)器智能(neng)的(de)(de)(de)(de)(de)(de)(de)(de)情況下,就監控而(er)言,前端有(you)相(xiang)機(ji) Camera,連接上(shang)網(wang)絡,通(tong)過(guo)(guo)網(wang)絡會(hui)送到類似(si)于城市(shi)大腦(nao)這樣(yang)(yang)大型(xing)的(de)(de)(de)(de)(de)(de)(de)(de)計算中心進行一些(xie)(xie)決(jue)策。這樣(yang)(yang)的(de)(de)(de)(de)(de)(de)(de)(de)一個系統過(guo)(guo)程(cheng),就類似(si)于我(wo)(wo)(wo)(wo)們(men)人(ren)的(de)(de)(de)(de)(de)(de)(de)(de)大腦(nao)信息(xi)的(de)(de)(de)(de)(de)(de)(de)(de)提(ti)取、傳輸,再到后面的(de)(de)(de)(de)(de)(de)(de)(de)心理(li)決(jue)策,很直觀。所以,我(wo)(wo)(wo)(wo)們(men)可(ke)以從人(ren)的(de)(de)(de)(de)(de)(de)(de)(de)這樣(yang)(yang)的(de)(de)(de)(de)(de)(de)(de)(de)一個理(li)解系統來(lai)啟發我(wo)(wo)(wo)(wo)們(men)能(neng)否(fou)通(tong)過(guo)(guo)這樣(yang)(yang)的(de)(de)(de)(de)(de)(de)(de)(de)方式來(lai)做。同(tong)時(shi),我(wo)(wo)(wo)(wo)們(men)也(ye)(ye)采(cai)(cai)納(na)了一些(xie)(xie)其他的(de)(de)(de)(de)(de)(de)(de)(de)材(cai)料,比(bi)如(ru):國際上(shang)一些(xie)(xie)分支也(ye)(ye)在(zai)做這方面的(de)(de)(de)(de)(de)(de)(de)(de)研究(jiu)。我(wo)(wo)(wo)(wo)們(men)希望新的(de)(de)(de)(de)(de)(de)(de)(de)知(zhi)(zhi)識來(lai)幫助我(wo)(wo)(wo)(wo)們(men)梳理(li)、啟發。在(zai)這種情況下,我(wo)(wo)(wo)(wo)們(men)提(ti)出采(cai)(cai)用(yong)生(sheng)物(wu)視(shi)覺或腦(nao)視(shi)覺來(lai)啟發做這樣(yang)(yang)的(de)(de)(de)(de)(de)(de)(de)(de)一件(jian)事。

回到(dao)(dao)(dao)(dao)基本的(de)(de)(de)(de)信(xin)(xin)息(xi)(xi)流,視(shi)頻(pin)(pin)圖像從人(ren)(ren)(ren)(ren)眼感(gan)知到(dao)(dao)(dao)(dao)視(shi)網(wang)(wang)膜(mo)成像,通過(guo)(guo)(guo)這樣(yang)的(de)(de)(de)(de) pathway,到(dao)(dao)(dao)(dao)初(chu)級(ji)視(shi)網(wang)(wang)膜(mo)皮(pi)(pi)層,也會(hui)到(dao)(dao)(dao)(dao)其(qi)他(ta)的(de)(de)(de)(de)皮(pi)(pi)層,V2、V4、MT 等(deng)。這才是(shi)(shi)(shi)一個(ge)(ge)(ge)完整的(de)(de)(de)(de) visual information flow,科(ke)學界(jie)也通過(guo)(guo)(guo)解剖分(fen)析這一系列(lie)的(de)(de)(de)(de)傳輸信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)過(guo)(guo)(guo)程。所(suo)以,我們(men)(men)想通過(guo)(guo)(guo)腦視(shi)覺、神經科(ke)學來做(zuo)想做(zuo)的(de)(de)(de)(de)一些(xie)事情。在(zai)(zai)歷史發行的(de)(de)(de)(de)很(hen)多(duo)(duo)文(wen)章(zhang)中,在(zai)(zai)六十年代,美國科(ke)學家提出,人(ren)(ren)(ren)(ren)眼視(shi)覺感(gan)知器,感(gan)知世界(jie)的(de)(de)(de)(de)時(shi)候處理大概是(shi)(shi)(shi) 100MB/s,然(ran)后通過(guo)(guo)(guo)視(shi)網(wang)(wang)膜(mo)上的(de)(de)(de)(de)細(xi)胞(bao),進行分(fen)離(li)后,進入外側系地層,大概壓(ya)縮 100 倍:1MB/s,然(ran)后一系列(lie)細(xi)胞(bao),再到(dao)(dao)(dao)(dao) V1 初(chu)級(ji)視(shi)覺皮(pi)(pi)層時(shi),只(zhi)有 40b/s。因為人(ren)(ren)(ren)(ren)眼關注的(de)(de)(de)(de)區(qu)域,分(fen)辨(bian)率(lv)會(hui)很(hen)高,不關注的(de)(de)(de)(de)分(fen)辨(bian)率(lv)會(hui)較低。把其(qi)放大 10 倍的(de)(de)(de)(de)話(hua),現在(zai)(zai)最好(hao)(hao)的(de)(de)(de)(de)視(shi)頻(pin)(pin)標準 VVC,在(zai)(zai)廣播的(de)(de)(de)(de)條件情況(kuang)下,也是(shi)(shi)(shi) 1000 倍左右。同(tong)時(shi),人(ren)(ren)(ren)(ren)眼對于圖像視(shi)頻(pin)(pin)是(shi)(shi)(shi)非(fei)局部的(de)(de)(de)(de)操作,因為人(ren)(ren)(ren)(ren)眼的(de)(de)(de)(de)掃視(shi)、轉動(dong),對于某(mou)些(xie)區(qu)域、顏(yan)色(se)、形狀會(hui)特別的(de)(de)(de)(de)敏(min)感(gan)。這就是(shi)(shi)(shi)注意(yi)力(li)機制(zhi),德國的(de)(de)(de)(de)一個(ge)(ge)(ge)博士(shi)早 20 年開始做(zuo),V1 所(suo)呈現出來的(de)(de)(de)(de)跟這個(ge)(ge)(ge)注意(yi)力(li)機制(zhi)就非(fei)常相(xiang)似,所(suo)以我們(men)(men)加了(le)這個(ge)(ge)(ge)模塊:nonlocal attention。后面的(de)(de)(de)(de)一些(xie)模塊,跟 V1 之后,傳輸到(dao)(dao)(dao)(dao)更深(shen)層次的(de)(de)(de)(de)語義,我們(men)(men)設計(ji)成 hyper,主要是(shi)(shi)(shi)幫助信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)重建(jian)與信(xin)(xin)息(xi)(xi)的(de)(de)(de)(de)提取。最后做(zuo)成簡單的(de)(de)(de)(de)端到(dao)(dao)(dao)(dao)端的(de)(de)(de)(de)對稱(cheng)(cheng),通過(guo)(guo)(guo)對稱(cheng)(cheng)來提取信(xin)(xin)息(xi)(xi)表(biao)針。很(hen)有趣的(de)(de)(de)(de)是(shi)(shi)(shi),這樣(yang)的(de)(de)(de)(de)信(xin)(xin)息(xi)(xi)表(biao)針,不管是(shi)(shi)(shi)圖像的(de)(de)(de)(de)像素,或者(zhe)是(shi)(shi)(shi)多(duo)(duo)幅圖像的(de)(de)(de)(de)運(yun)動(dong)也好(hao)(hao),還(huan)是(shi)(shi)(shi)有運(yun)動(dong)的(de)(de)(de)(de)參差也好(hao)(hao),都能很(hen)好(hao)(hao)的(de)(de)(de)(de)表(biao)達。所(suo)以我們(men)(men)稱(cheng)(cheng)為:A Hypothetical Feedforward System with Feedback 這樣(yang)一個(ge)(ge)(ge) model,簡稱(cheng)(cheng) HFF。然(ran)后這個(ge)(ge)(ge) HFF 對于像素都是(shi)(shi)(shi)一個(ge)(ge)(ge)完整的(de)(de)(de)(de)表(biao)達,這個(ge)(ge)(ge) model 應用到(dao)(dao)(dao)(dao)視(shi)頻(pin)(pin)壓(ya)縮、圖像壓(ya)縮,結(jie)果還(huan)是(shi)(shi)(shi)比較喜人(ren)(ren)(ren)(ren)的(de)(de)(de)(de)。最近的(de)(de)(de)(de)圖像壓(ya)縮已(yi)經超(chao)過(guo)(guo)(guo) VVC 的(de)(de)(de)(de)效(xiao)果。

對于(yu)設計中,也存在(zai)一(yi)定的(de)(de)(de)挑戰,比如:視(shi)(shi)頻(pin)(pin)的(de)(de)(de)復雜度。之后提出(chu)了一(yi)種新的(de)(de)(de)方式,基于(yu)腦視(shi)(shi)覺的(de)(de)(de)方式與傳統的(de)(de)(de)視(shi)(shi)頻(pin)(pin)壓(ya)縮(suo)(suo)結合(he)起來,主要是 2 個(ge)原(yuan)因,性(xing)能方面,現在(zai)圖(tu)像(xiang)(xiang)壓(ya)縮(suo)(suo)已(yi)經超過(guo)(guo)了國際(ji)的(de)(de)(de)標準(zhun),但(dan)視(shi)(shi)頻(pin)(pin)壓(ya)縮(suo)(suo)中還是略低(di)。第(di)二個(ge)就是現有的(de)(de)(de)設備(bei)上(shang)已(yi)經有一(yi)些的(de)(de)(de)存在(zai),所(suo)以最有效(xiao)的(de)(de)(de)方法是,能否在(zai)已(yi)有的(de)(de)(de)設備(bei)通過(guo)(guo)一(yi)些簡單的(de)(de)(de) net,這(zhe)樣讓新的(de)(de)(de)腦信息的(de)(de)(de)啟發處理實實在(zai)在(zai)的(de)(de)(de)用(yong)起來,所(suo)以提出(chu)了新的(de)(de)(de)方案:Performance/Complexity。這(zhe)主要的(de)(de)(de)概念是,人(ren)(ren)的(de)(de)(de)大(da)腦不會像(xiang)(xiang)解碼(ma)器一(yi)樣,只是部分(fen)的(de)(de)(de)解析、最后更多(duo)是融合(he)的(de)(de)(de)過(guo)(guo)程(cheng)。同(tong)時,人(ren)(ren)的(de)(de)(de)細胞對于(yu)不同(tong)的(de)(de)(de)圖(tu)像(xiang)(xiang)特征的(de)(de)(de)敏感程(cheng)度是不一(yi)樣的(de)(de)(de)。

網絡自適應傳輸

首先,通過的(de)(de)(de)(de)(de)(de)(de)(de)(de) BBR 去(qu)做碼(ma)率控制的(de)(de)(de)(de)(de)(de)(de)(de)(de)話,是比較(jiao)有(you)(you)限(xian)的(de)(de)(de)(de)(de)(de)(de)(de)(de)。所以(yi)(yi),有(you)(you)一(yi)個(ge)思考:能(neng)不(bu)能(neng)把網(wang)(wang)(wang)(wang)絡(luo)的(de)(de)(de)(de)(de)(de)(de)(de)(de) trace、network 變化(hua)作為一(yi)種方(fang)式來(lai)做強化(hua)學(xue)(xue)(xue)(xue)習(xi),從而推出(chu)基于強化(hua)學(xue)(xue)(xue)(xue)習(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)視頻網(wang)(wang)(wang)(wang)絡(luo)自(zi)適(shi)應。學(xue)(xue)(xue)(xue)習(xi)國際上(shang)比較(jiao)先進(jin)(jin)(jin)的(de)(de)(de)(de)(de)(de)(de)(de)(de)經驗,把這(zhe)個(ge)應用(yong)到(dao)(dao)實時(shi)系統中(zhong)(zhong)(zhong),產生了離線(xian)(xian) ARS 訓(xun)(xun)練(lian)算(suan)法(fa)(fa)。當(dang)然,對比于當(dang)前(qian)先進(jin)(jin)(jin)算(suan)法(fa)(fa) BBR、GCC, 提(ti)(ti)升(sheng)(sheng) 12%左右的(de)(de)(de)(de)(de)(de)(de)(de)(de) QoE 性(xing)能(neng)。但(dan)(dan)是,這(zhe)個(ge)過程(cheng)也(ye)不(bu)是完美的(de)(de)(de)(de)(de)(de)(de)(de)(de)演進(jin)(jin)(jin),存在(zai)一(yi)定的(de)(de)(de)(de)(de)(de)(de)(de)(de)缺陷。比如:離線(xian)(xian)訓(xun)(xun)練(lian)的(de)(de)(de)(de)(de)(de)(de)(de)(de)過程(cheng)中(zhong)(zhong)(zhong)存在(zai)樣(yang)本(ben)受限(xian),與(yu)實際環(huan)境(jing)(jing)不(bu)相符(fu)。在(zai)收集(ji)很(hen)多(duo)的(de)(de)(de)(de)(de)(de)(de)(de)(de)網(wang)(wang)(wang)(wang)絡(luo)模(mo)塊,比如:4G 的(de)(de)(de)(de)(de)(de)(de)(de)(de),那么對于 5G 的(de)(de)(de)(de)(de)(de)(de)(de)(de)網(wang)(wang)(wang)(wang)絡(luo)特(te)征是否(fou)不(bu)一(yi)樣(yang)。所以(yi)(yi)需要在(zai)線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi),在(zai)線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi)就網(wang)(wang)(wang)(wang)絡(luo)狀況(kuang)(kuang)進(jin)(jin)(jin)行(xing)分(fen)類、視頻分(fen)類的(de)(de)(de)(de)(de)(de)(de)(de)(de)都需要進(jin)(jin)(jin)行(xing)處理。主要涉及到(dao)(dao)網(wang)(wang)(wang)(wang)絡(luo)狀況(kuang)(kuang)和視頻內(nei)容的(de)(de)(de)(de)(de)(de)(de)(de)(de)聚類、分(fen)類。這(zhe)樣(yang),總算(suan)給出(chu)一(yi)個(ge)較(jiao)優的(de)(de)(de)(de)(de)(de)(de)(de)(de)性(xing)能(neng)。同時(shi),會對于每個(ge)用(yong)戶的(de)(de)(de)(de)(de)(de)(de)(de)(de)信息進(jin)(jin)(jin)行(xing)一(yi)個(ge)新模(mo)型(xing)(xing)的(de)(de)(de)(de)(de)(de)(de)(de)(de)提(ti)(ti)煉(lian),當(dang)這(zhe)樣(yang)的(de)(de)(de)(de)(de)(de)(de)(de)(de)狀態與(yu)平均狀態的(de)(de)(de)(de)(de)(de)(de)(de)(de)區別太大(da)時(shi),就會使(shi)用(yong)新模(mo)型(xing)(xing),同時(shi),會自(zi)動(dong)部署訓(xun)(xun)練(lian),形成一(yi)個(ge)模(mo)型(xing)(xing)滾動(dong)方(fang)案體系。根據最新的(de)(de)(de)(de)(de)(de)(de)(de)(de)演進(jin)(jin)(jin),那么對比于離線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)模(mo)型(xing)(xing),在(zai)線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)性(xing)能(neng)明顯提(ti)(ti)升(sheng)(sheng) 8.1%的(de)(de)(de)(de)(de)(de)(de)(de)(de)歸一(yi)化(hua) QoE。從離線(xian)(xian)的(de)(de)(de)(de)(de)(de)(de)(de)(de) OffLine ARS,到(dao)(dao) OnLine 的(de)(de)(de)(de)(de)(de)(de)(de)(de) ARS,在(zai)內(nei)容上(shang)提(ti)(ti)升(sheng)(sheng)的(de)(de)(de)(de)(de)(de)(de)(de)(de)性(xing)能(neng)還(huan)是不(bu)一(yi)樣(yang)的(de)(de)(de)(de)(de)(de)(de)(de)(de),但(dan)(dan)大(da)部分(fen)都有(you)(you)較(jiao)高(gao)的(de)(de)(de)(de)(de)(de)(de)(de)(de)提(ti)(ti)升(sheng)(sheng)。從離線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi),由局部的(de)(de)(de)(de)(de)(de)(de)(de)(de)環(huan)境(jing)(jing)以(yi)(yi)及訓(xun)(xun)練(lian)的(de)(de)(de)(de)(de)(de)(de)(de)(de)資源(yuan)受限(xian),到(dao)(dao)在(zai)線(xian)(xian)學(xue)(xue)(xue)(xue)習(xi)時(shi),實時(shi)的(de)(de)(de)(de)(de)(de)(de)(de)(de)獲(huo)取用(yong)戶的(de)(de)(de)(de)(de)(de)(de)(de)(de)信息源(yuan)以(yi)(yi)及環(huan)境(jing)(jing)因素,可以(yi)(yi)很(hen)好的(de)(de)(de)(de)(de)(de)(de)(de)(de)為新模(mo)型(xing)(xing)訓(xun)(xun)練(lian)提(ti)(ti)供更多(duo)、更好的(de)(de)(de)(de)(de)(de)(de)(de)(de)保障,這(zhe)樣(yang)訓(xun)(xun)練(lian)出(chu)來(lai)的(de)(de)(de)(de)(de)(de)(de)(de)(de)模(mo)型(xing)(xing),可以(yi)(yi)更好的(de)(de)(de)(de)(de)(de)(de)(de)(de)兼容實際情形下的(de)(de)(de)(de)(de)(de)(de)(de)(de)環(huan)境(jing)(jing)因素等變化(hua),同時(shi),可以(yi)(yi)在(zai)新環(huan)境(jing)(jing)中(zhong)(zhong)(zhong),作為一(yi)些補充、完善來(lai)生成新的(de)(de)(de)(de)(de)(de)(de)(de)(de)模(mo)型(xing)(xing),是有(you)(you)利于實時(shi)網(wang)(wang)(wang)(wang)絡(luo)模(mo)型(xing)(xing)訓(xun)(xun)練(lian)的(de)(de)(de)(de)(de)(de)(de)(de)(de)。

總結

弱(ruo)網環(huan)境的(de)(de)主要問(wen)題(ti)有兩個方(fang)面(mian),一方(fang)面(mian)是(shi)帶寬極低(di),其(qi)實也不是(shi)很(hen)大(da)(da)問(wen)題(ti),只要網絡(luo)平穩。那么就涉及到(dao)第二(er)個問(wen)題(ti),網絡(luo)抖動(dong)。其(qi)實弱(ruo)網不僅僅在(zai)(zai)應急救災、遠洋海(hai)事等,尤其(qi)現在(zai)(zai) 5G 上來后,頻(pin)率變高,需要直線傳輸,當(dang)遇到(dao)許多(duo)阻(zu)礙的(de)(de)時候(hou)(hou)會帶來網絡(luo)的(de)(de)變化(hua)比較大(da)(da),這種也稱為弱(ruo)網。當(dang)然,有時候(hou)(hou),wifi 下也會存在(zai)(zai)弱(ruo)網的(de)(de)出現。面(mian)對(dui)帶寬低(di),主要是(shi)信息量,提高壓縮。面(mian)對(dui)網絡(luo)抖動(dong)大(da)(da),通過網絡(luo)控制、機器學習(xi)來學習(xi)網絡(luo)的(de)(de)狀態(tai)。目前我們的(de)(de)研究還是(shi)比較領先(xian)于(yu)國際的(de)(de),尤其(qi)是(shi)對(dui)于(yu)壓縮編(bian)碼。在(zai)(zai)現有的(de)(de)模(mo)型(xing)算法中,我們的(de)(de)性能(neng)有很(hen)大(da)(da)的(de)(de)優(you)勢。

————————————————

版權聲(sheng)(sheng)明(ming):本文為(wei)CSDN博(bo)主「聲(sheng)(sheng)網」的原創(chuang)文章,遵(zun)循CC 4.0 BY-SA版權協(xie)議,轉載請附(fu)上原文出(chu)處(chu)鏈接及本聲(sheng)(sheng)明(ming)。

原文鏈(lian)接://blog.csdn.net/agora_cloud/article/details/119722619

文章來自個人專欄
文章(zhang) | 訂閱
0條評論
0 / 1000
請輸入你的評論
0
0