資源描述:
《低時延網(wǎng)盤同步系統(tǒng)的設(shè)計與實現(xiàn).pdf》由會員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫。
1、小型微型計算機(jī)系統(tǒng)2014年7月第7期JournalofChineseComputerSystemsVOl_35No.72014低時延網(wǎng)盤同步系統(tǒng)的設(shè)計與實現(xiàn)周景才,張滬寅(武漢大學(xué)計算機(jī)學(xué)院,武漢400047)E—mail:68209669@qq.tom摘要:隨著云存儲技術(shù)的迅速發(fā)展,越來越多的用戶選擇用網(wǎng)盤來存儲個人信息.但受ADSL技術(shù)的限制,網(wǎng)絡(luò)上傳速度往往要遠(yuǎn)低于下載的速度,嚴(yán)重制約了網(wǎng)盤同步文件到服務(wù)器端的性能,影響網(wǎng)盤用戶的體驗.針對該問題,提出了低時延網(wǎng)盤同步系統(tǒng)(L2NDUS).該系統(tǒng)自動將網(wǎng)盤服務(wù)器端的數(shù)據(jù)切割成一定大小的數(shù)據(jù)塊,并通過SHA.1算法為
2、每塊數(shù)據(jù)計算指紋.在客戶端同步文件到服務(wù)器之前,系統(tǒng)先比對本地文件的數(shù)據(jù)塊指紋是否已經(jīng)在服務(wù)器端的指紋庫中存在,如果存在則不上傳該數(shù)據(jù)塊,從而達(dá)到降低系統(tǒng)同步時延的目標(biāo).測試實驗表明,隨著本地同步次數(shù)的增加,系統(tǒng)同步時延顯著下降.特別是在移動設(shè)備的通訊錄同步應(yīng)用中,與傳統(tǒng)系統(tǒng)相比L2NDUS系統(tǒng)可以算短8O%的時延.關(guān)鍵詞:云存儲;網(wǎng)盤;文件自動同步;數(shù)據(jù)指紋;重刪中圖分類號:TP393文獻(xiàn)標(biāo)識碼:A文章編號:1000—1220(2014】07.1515-03DesignandImplementationofLowLatencyNet-diskUploadingSyste
3、mZHOUJing—cai,ZHANGHu‘yin(SchoolofComputer,WuhanUniversity。Wuhan400047,China)Abstract:Withthequicklydevelopmentofcloudstoragetechnology,moreandmorepeopleusenet—disktOstorepersonalinforma-tion.ButwiththelimitingofADSLtechnology,ouruploadingspeedofnetworkislowerthandownloadingspeedactuallya
4、nditmakethelatencyofuploadingfileofnet-diskbecomeverylong.Forsolvingthisproblem。wedesignanlowlatencynet·diskupload—ingsystem.Thissystemwillautomaticallycutthedataintofix—sizechunksandgetitfingerprintbySHA-1.Beforefilesbetransmit—tedtoserver,clientprogramwillidentifytheexisteddataanddonttr
5、ansmitthosedataforshortedtheuploadinglatency.Theexperi—meritresultshowthatthelatencydropdramaticallywitllthetimesaddedofuploading.Inmobilesystem。L2NDUSCangetabetterimproving。itCancutdownmorethan80%latencythentraditionalsystem.Keywords:cloudstorage;net-disk;fileuploadingautomatically;dataf
6、ingerprint;datadeduplication1引言歸檔存儲系統(tǒng)中的重復(fù)數(shù)據(jù)比例更是高達(dá)80%~90%,而且隨著時間的推移重復(fù)比例不斷提升.文獻(xiàn)[3—12]也從多個角隨著云存儲的迅速發(fā)展,面向大眾的網(wǎng)盤產(chǎn)品也越來越度論述了文件系統(tǒng)中存在大量重復(fù)數(shù)據(jù)這一事實,并試圖通豐富如:DropbOX、GoogleDrive、SkyDrive、阿里云、盛大云等.過不同的方法去消除重復(fù)數(shù)據(jù)的存儲.實驗結(jié)果表明通過一也吸引了越來越多的用戶選擇用網(wǎng)盤來存儲個人信息.網(wǎng)盤定的技術(shù)手段消除重復(fù)數(shù)據(jù)的存儲可以減少存儲陣列的容量客戶端則是用來協(xié)助用戶上傳、下載和同步本地文件到服務(wù)需求.但是
7、,現(xiàn)有的重復(fù)數(shù)據(jù)刪除技術(shù)卻無法直接應(yīng)用在網(wǎng)盤器端的專業(yè)工具.當(dāng)客戶需要同步本地文件到服務(wù)器端時,客中.如文獻(xiàn)[6-12]中所描述的各類重復(fù)數(shù)據(jù)刪除系統(tǒng)架構(gòu)一戶端會自動地將整個本地文件通過標(biāo)準(zhǔn)接口協(xié)議上傳到服務(wù)樣,現(xiàn)有的重刪系統(tǒng)都是在一個封閉的、非移動的系統(tǒng)內(nèi)實器.而在現(xiàn)實場景中,需要同步到服務(wù)器端的文件經(jīng)常與服務(wù)現(xiàn).因此,客戶端和服務(wù)器端都是固定不變的,不需要考慮隱器端已經(jīng)存在的文件只存在部分差異,如果整文件同步上傳私問題,客戶端也可以直接獲取指紋庫中的指紋數(shù)據(jù).但在云將造成大量帶寬浪費(fèi).特別是在當(dāng)前ADSL技術(shù)中,上傳帶寬存