資源描述:
《python中文亂碼問題深入分析》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、python中文亂碼問題深入分析一直以來,python屮的中文編碼就是一個(gè)極為頭人的問題,經(jīng)常拋出編碼轉(zhuǎn)換的異常,python中的str和Unicode到底足一個(gè)什么爾西呢?在本文中,以’吩’來解釋作示例解釋所有的問題,“哈”的各利1編碼如卜:1.UNICODE(UTE8-16),C854;2.UTF-8,E59388;3.GBK,B9FE。一、python中的str和Unicode一直以來,python中的中文編碼就是一個(gè)極為失大的問題,經(jīng)常拋出編碼轉(zhuǎn)換的界常,python中的str和Unicode到底是?一個(gè)什么東西呢?在python中提到Unicod
2、e,—?般指的是Unicode對(duì)象,例如’哈哈’的Unicode對(duì)象為u’u54c8u54c8’而str,是一個(gè)字7Vf數(shù)組,這個(gè)字節(jié)數(shù)組表示的是對(duì)Unicode對(duì)象編碼(可以是utf-8、gbk、cp936、GB2312)p的存儲(chǔ)的格式。這里它僅僅是一個(gè)字節(jié)流,沒冇其它的含義,如果你想使這個(gè)字節(jié)流敁示的內(nèi)容有意義,就必須用正確的編碼格式,解碼兄示。例如:?>SU=u、嗜嗜,>>>s_utf8=su.encodeutf-8f>?>s_utf8Jxe5x93x88xe5x93x88J>>>prints_utf8銷堝樨>>>s_gbk=su.e
3、ncodegbkJ>?>s_gbk'xb9xfexb9xfeJ>>>prints_gbk哈哈>>>printsu哈哈個(gè)字節(jié)數(shù)組,存放的就是’xe5x93x88xe5x93x88’,但是這僅僅是一個(gè)字節(jié)數(shù)組,如果你想將它通過print語化輸出成哈哈,那你就失望了,為什么呢?因?yàn)閜rint語句它的實(shí)現(xiàn)足將要輸出的內(nèi)界傳送/操作系統(tǒng),操作系統(tǒng)會(huì)根據(jù)系統(tǒng)的編碼對(duì)輸入的字節(jié)流進(jìn)行編碼,這就解釋了為什么utf-8格式的字符屯“哈哈”,輸出的是“鍋堝褲”,因?yàn)椤痻e5x93x88xe5V93x88’HjGB2312去解釋,其顯示的出來就是“
4、鍋堝樨”。這里再強(qiáng)調(diào)-下,str記錄的是字節(jié)數(shù)纟II,只是某種編碼的存儲(chǔ)格式,至于輸出到文件或是打印ili來是什么格式,完傘取決于其解碼的編碼將它解碼成什么樣子。這垠再對(duì)print進(jìn)行一/、(補(bǔ)充說明:當(dāng)將一個(gè)Unicode對(duì)象傳給print時(shí),在內(nèi)部會(huì)將該unicode對(duì)象進(jìn)行-?次轉(zhuǎn)換,轉(zhuǎn)換成本地的默汄編碼(這僅是個(gè)人猜測(cè))二、str和Unicode對(duì)象的轉(zhuǎn)換str和Unicode對(duì)象的轉(zhuǎn)換,通過encode和decode實(shí)現(xiàn),具體使用如下:>>>print鍋禍Ws.decode.encodeutf-8J>將GBK’哈哈’轉(zhuǎn)換成Unico
5、de,然后冉轉(zhuǎn)換成UTE8三、SetdefaultencodingTypeMhelp’"copyright",’’credits’’or"license"formoreinformation.?>s=,哈哈、〉>〉s.encodeTraceback",line1,in〈module〉IJnicodeDecodeError:JasciiJcodeccanJtdecodebyte0xb9inposition0:ordinalnotinrange<128〉>>>importsy
6、s〉>〉reload〈noduleJsysJ〈built-in〉〉>>>sys.setdefaultencoding>>s-encodeutf-8,>Jxe5x93x88xe5x93x88J?>如上圖的演示代碼所示:當(dāng)把s(gbk字符串)直接編碼成utf-8的吋候,將拋出異常,但足通過調(diào)川如下代碼:importsysreload(sys)sys.setdefaultencodingCgbk')后就可以轉(zhuǎn)換成功,為什么呢?在python中str和Unicode在編碼和解碼過程中,如果將一個(gè)str直接編碼成W—種編碼,會(huì)
7、先把str解碼成imicode,采用的編碼為默認(rèn)編碼,一般默認(rèn)編碼是anscii,所以在上面示例代碼中笫一次轉(zhuǎn)換的時(shí)候會(huì)出錯(cuò),當(dāng)設(shè)定當(dāng)前默認(rèn)編碼為’gbk’后,就不會(huì)出錯(cuò)了。至于代10&(1(373)是因?yàn)椋?1:110112.5初始化后會(huì)刪除sys.setdefaultencoding這個(gè)方法,我們需耍重新載入。四、操作不同文件的編碼格式的文件建立一個(gè)文件test,txt,文件格式用ANSI,內(nèi)容為:abc中文用python來讀取#coding=gbkprintopen(〃Test.txt〃).read()結(jié)果:abc中文把文件格式改成口T8:結(jié)果:ab
8、c涓構(gòu)顯然,這垠需耍解碼:#coding=gbkimportcod