資源描述:
《一種面向糾刪碼技術(shù)的云存儲(chǔ)可靠性機(jī)制-論文.pdf》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫(kù)。
1、第31卷第2期計(jì)算機(jī)應(yīng)用與軟件Vo1.31No.22014年2月ComputerApplicationsandSoftwareFeb.2014一種面向糾刪碼技術(shù)的云存儲(chǔ)可靠性機(jī)制杜蕓蕓(武漢體育學(xué)院體育工程與信息技術(shù)系湖北武漢430079)摘要在云存儲(chǔ)中,數(shù)據(jù)可以分為三種類型:讀頻繁、寫頻繁以及冷數(shù)據(jù)。對(duì)不同類型的數(shù)據(jù)設(shè)置不同的編碼機(jī)制:對(duì)讀頻繁數(shù)據(jù)采用多副本技術(shù),頻繁寫的數(shù)據(jù)采用單文件編碼方案,冷數(shù)據(jù)采用跨文件編碼方案。在云存儲(chǔ)系統(tǒng)中提出了一種新的糾刪碼技術(shù)的可靠性機(jī)制一魔方碼,該編碼易于實(shí)現(xiàn),具備高的容錯(cuò)性并且相比多副本機(jī)制可以減少
2、資源的消耗。以HDFS上的一個(gè)RAID包為基礎(chǔ),實(shí)現(xiàn)魔’方碼的原型,并添加BlaumRoth、RDP以對(duì)比測(cè)試。雖然各種編碼各有優(yōu)缺點(diǎn),通過(guò)單機(jī)和集群測(cè)試RAID一5、Blanm.Roth、RDP和魔方碼的編譯碼速度,魔方碼譯碼速度比現(xiàn)有最優(yōu)RAID-6編碼RDP碼提高了一個(gè)數(shù)量級(jí)。同時(shí),針對(duì)大規(guī)模分布武系統(tǒng)提出了一種三維糾刪碼,可以容任意7個(gè)錯(cuò)誤??傊?,測(cè)試結(jié)果顯示魔方碼相比三份副本技術(shù),在減少一半資源消耗的同時(shí)可以保證高的可用性和可靠性。關(guān)鍵詞云存儲(chǔ)系統(tǒng)可靠性糾錯(cuò)碼魔方碼中圖分類號(hào)TP391.9文獻(xiàn)標(biāo)識(shí)碼ADOI:10.3969/j
3、.issn.1000—386x.2014.02.083ACLOUDSTORAGERELIABILITYMECHANISMFORERASURECoDINGTECHNIQUEDuYunyun(DepartmentofSportsEngineeringandInformation,WuhanInstituteofPh~walEducation,Wuhan430079,Hubei,China)AbstractIncloudstorage,dataaredividedintothreetypes:theheavy—read,theheavy—wr
4、iteandthecold.Fordataindifferenttypes,diferentcodingmechanismisconfigured,namely,themulti—replicationforheavy-read,thesingle—filecodingforheavy—write,andthecross—filecodingforcolddata.Wepresentincloudstoragesystemanewreliabilitymechanism——theCubiccode,asitiscalled,forera
5、surecodingtechnology.Suchcodeiseasytoimplement,hashighfaulttolerance,andcancutdowntheresourcesconsumptioncomparingwiththemuhi-replicationmechanism.WeimplementtheprototypeofCubiccodebytakingaRAIDpacketonHDFSasthebasis,andaddBlaumRothandRDPforcontrastivetest.Althougheachco
6、dehasitsownprosandcons,bystand—aloneandclustertestingtheencodinganddecodingspeedsofRAID'5,ClanmRoth,RDPandCubiccode,thelastisfasterbyoneorderofmagnitudeindecodingspeedthanthatofthecurrentlybestRDPcodeofRAID-6coding.Meanwhile,wealsopresenta3Derasurecodingforlarge·scaledis
7、tributionsystem,itcantolerateany7faults.Insummary,thetestresultsshowthattheCubiccodecanguaranteehighavailabilityandreliabilitywhilereducinghalfresourcescon—sumptioncomparedwiththree—waymulti—replicationtechnology.Keywords·CloudstoragesystemReliabilityErasurecodeCubiccode
8、EMC的云存儲(chǔ)基礎(chǔ)架構(gòu)解決方案Atmos則是一個(gè)軟硬件0引言結(jié)合套件,它具有自動(dòng)架構(gòu)、自主修復(fù)和海量數(shù)據(jù)存儲(chǔ)功能,存儲(chǔ)容量可以擴(kuò)展到PB級(jí),支持?jǐn)?shù)十億的文件和對(duì)象,并提供全云存儲(chǔ)服務(wù)的發(fā)展如火如荼,像著名的