java字符集編碼亂碼詳解.doc

《java字符集編碼亂碼詳解.doc》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫。

1、一．編碼與亂碼(01)---編碼基礎(chǔ)Unicode中文“藝”字：827A二進(jìn)制的“藝”字編碼：1000001001111010UTF-8的中文編碼規(guī)則：1110xxxx10xxxxxx10xxxxxxUTF-8的“藝”字編碼：1110【1000】10【0010】【01】10【11】【1010】UTF-8的轉(zhuǎn)碼過程解析：8對應(yīng)的1000被填入第一字節(jié)剩余的4位。2對應(yīng)的0010被填入第2字節(jié)剩余的前4位。7對應(yīng)的0111被拆開，前2位01被填入第2字節(jié)的后兩位，后2位1被填入第3字節(jié)的前2位。A對應(yīng)的1010被填入第3字節(jié)的后4位。UTF-8的最終編碼結(jié)果：---對應(yīng)E8；---對應(yīng)8

2、9；---對應(yīng)BA。所以最終的UTF-8編碼就是%E8%89%BAUnicode到UTF-8的轉(zhuǎn)換：Unicode的16進(jìn)制編碼<-->對應(yīng)的2進(jìn)制編碼<-->UTF-8規(guī)范的2進(jìn)制編碼<-->UTF-8規(guī)范的16進(jìn)制編碼也就是說假如在Java的底層JVM，由于采用的是Unicode編碼字符集，對“藝”字的編碼是827A。那么在網(wǎng)絡(luò)傳輸?shù)倪^程中，我們當(dāng)然不能直接傳輸827A這個(gè)字符過去代表藝”這個(gè)漢字，而必須要轉(zhuǎn)換成0，1這樣的字節(jié)流，才能在網(wǎng)絡(luò)中傳輸。所以說UTF-8是一種為了方便網(wǎng)路傳輸，節(jié)省傳輸數(shù)量，而對Unicode的字符集的字符編號進(jìn)行轉(zhuǎn)換，從定長的2個(gè)字節(jié)(16進(jìn)制)轉(zhuǎn)換

3、成1~3個(gè)的變長字節(jié)(2進(jìn)制)表示的轉(zhuǎn)換格式。由于Unicode采用的是2個(gè)字節(jié)的編碼方式，而UTF-8轉(zhuǎn)換后可能是1~3個(gè)字節(jié)，所以同一個(gè)漢字，在Unicode中的編碼和經(jīng)UTF-8轉(zhuǎn)換后的編碼值肯定是不同的。就好像藝字的Unicode編碼是827A，經(jīng)轉(zhuǎn)換后的3個(gè)字節(jié)是E889BA。所以說對于英文字符來說，采用UTF-8對Unicode編碼轉(zhuǎn)換后節(jié)省了一倍的傳輸成本(由定長的2個(gè)字節(jié)變長1個(gè)字節(jié))，但對于原本雙字節(jié)的東亞字符來說，反而增加了成本，是原來的1.5倍。小結(jié)：①ASCII、GB2312、GBK、GB18030、Big5、Unicode都是字符集的名稱。它們定義了采用1~

4、2個(gè)字節(jié)的編碼規(guī)范，為每個(gè)字符賦予了一個(gè)獨(dú)一無二的編號。這個(gè)編號就是我們所說的“字符編碼”。②Unicode字符集定義的字符編碼并不適合直接通過網(wǎng)絡(luò)傳輸表達(dá)，因?yàn)樗鼈儽仨氜D(zhuǎn)換成像0101這樣的二進(jìn)制字節(jié)流傳輸。所以就出現(xiàn)了不同的轉(zhuǎn)換規(guī)范實(shí)現(xiàn)方式：UTF-8，TF-16等。這些不同的轉(zhuǎn)換規(guī)范轉(zhuǎn)換后的編碼值和Unicode是不同的。對于UTF-8來說，它采用變長字節(jié)表示所有Unicode字符，對于英文來說和ASCII兼容，對于東亞字符來說，是原來傳輸成本的1.5倍。所以采用UTF-8編碼轉(zhuǎn)換方式雖然有利于統(tǒng)一，但增加了中文等雙字節(jié)字符的傳輸成本。UTF-8采用首字節(jié)的高位"1"的個(gè)數(shù)表示

5、字符的編碼長度。例如在Unicode的編碼規(guī)范中：漢字的表示區(qū)間為U-至U-0000FFFF對應(yīng)的UTF-8的轉(zhuǎn)換規(guī)則為：1110xxxx10xxxxxx10xxxxxx首字節(jié)3個(gè)1代表這個(gè)字符的編碼長度為3個(gè)字節(jié)。如果是2個(gè)1則表示2個(gè)字節(jié)③在底層的平臺(tái)中如JVM，采用的是Unicode字符集，當(dāng)要把這些字符通過網(wǎng)絡(luò)傳輸時(shí)，可以選擇通過UTF-8或其他(例如GB2312)編碼轉(zhuǎn)換方式對要傳輸?shù)淖址幋a進(jìn)行轉(zhuǎn)換。如果目的端也是采用Unicode字符集，那么UTF-8轉(zhuǎn)換后的編碼可以被正常識(shí)別并解碼成最終對應(yīng)的Unicode字符集編號。如果是非Unicode字符集平臺(tái)則可能出現(xiàn)亂碼(U

6、TF-8中漢字的3個(gè)連續(xù)字節(jié)被解析成GB2312的2個(gè)連續(xù)字節(jié)，出現(xiàn)丟失)。所以推薦在傳輸?shù)膬啥瞬捎肬nicode字符集編碼，在傳輸方式上采用UTF-8轉(zhuǎn)換方式。javac命令是以系統(tǒng)默認(rèn)編碼讀入源文件，然后按Unicode進(jìn)行編碼的。(備注：每個(gè)文件都有自己的編碼，javac命令按照默認(rèn)的文件編碼讀入，但是在將.java文件轉(zhuǎn)換成.class的過程中，javac會(huì)將所有的字符轉(zhuǎn)化成unicode的格式保存。)在運(yùn)行時(shí)JVM也是采用unicode編碼的，并且默認(rèn)輸入和輸出使用的都是操作系統(tǒng)的默認(rèn)編碼。也就是說在newString(bytes[,encode])中，系統(tǒng)認(rèn)為輸入的byt

7、es是編碼為encode的字節(jié)流(如果不指定encode，那么就是默認(rèn)使用系統(tǒng)的編碼方式)，換句話說，如果按encode來翻譯bytes才能得到正確的原始字符，這個(gè)字符最后要在java中保存，它還是要從這個(gè)encode轉(zhuǎn)換成Unicode的。也就是說，假如我們需要從磁盤文件、數(shù)據(jù)庫記錄、網(wǎng)絡(luò)傳輸一些字符，保存到Java的變量中，要經(jīng)歷由bytes-->encode字符-->Unicode字符的轉(zhuǎn)換(例如newString(bytes,encode))；而要