python 編碼方式總結(python內部使用unicode編碼):
>>> t='北京'
>>> t
'\xe5\x8c\x97\xe4\xba\xac'
1)urllib.quote(t) 將t轉換為16進位編碼
'%E5%8C%97%E4%BA%AC'
urllib.unquote('%E5%8C%97%E4%BA%AC') 將16進位編碼轉換為內部編碼
'\xe5\x8c\x97\xe4\xba\xac'
2)decode的作用是將其他編碼的字串轉換成unicode編碼
>>> s= t.decode('utf-8')
>>> s
u'\u5317\u4eac'
>>> w=t.encode('utf-8')
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe5 in position 0: ordinal not in range(128)
>>> w=s.encode('utf-8')
>>> w
'\xe5\x8c\x97\xe4\xba\xac'
>>> q=s.encode('gb2312')
>>> q
'\xb1\xb1\xbe\xa9'
首先要搞清楚,字串在Python內部的表示是unicode編碼.
因此,在做編碼轉換時,通常需要以unicode作為中間編碼,即先將其他編碼的字串解碼(decode)成unicode,再從unicode編碼(encode)成另一種編碼。
decode的作用是將其他編碼的字串轉換成unicode編碼,
如str1.decode('gb2312'),表示將gb2312編碼的字串轉換成unicode編碼。
encode的作用是將unicode編碼轉換成其他編碼的字串,
如str2.encode('gb2312'),表示將unicode編碼的字串轉換成gb2312編碼。
在某些IDE中,字串的輸出總是出現亂碼,甚至錯誤,其實是由於IDE的結果輸出控制台自身不能顯示字串的編碼,而不是程式本身的問題。
如在UliPad中運行如下代碼:
s=u"中文"
print s
會提示:
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。
這是因為UliPad在英文WindowsXP上的控制台資訊輸出視窗是按照ascii編碼輸出的(英文系統的預設編碼是ascii),而上面代碼中的字串是Unicode編碼的,所以輸出時產生了錯誤。
將最後一句改為:print s.encode('gb2312') 則能正確輸出“中文”兩個字。
若最後一句改為:print s.encode('utf8') 則輸出:\xe4\xb8\xad\xe6\x96\x87,
這是控制台資訊輸出視窗按照ascii編碼輸出utf8編碼的字串的結果。
另外,代碼中字串的預設編碼與代碼檔案本身的編碼一致,
如: s='中文' 如果是在utf8的檔案中,該字串就是utf8編碼,如果是在gb2312的檔案中,則其編碼為gb2312。這種情況下,要進行編碼轉換,都需要先用decode方法將其轉換成unicode編碼,再使用encode方法將其轉換成其他編碼。
通常,在沒有指定特定的編碼方式時,都是使用的系統預設編碼建立的代碼檔案,在這篇文章中可以看到如何獲得系統的預設編碼。
如果字串是這樣定義: s=u'中文' 則該字串的編碼就被指定為unicode了,即python的內部編碼,而與代碼檔案本身的編碼無關。
因此,對於這種情況做編碼轉換,只需要直接使用encode方法將其轉換成指定編碼即可。
如果一個字串已經是unicode了,再進行解碼則將出錯,
因此通常要對其編碼方式是否為unicode進行判斷: