python中爬取网页是总是遇到中文编码问题总结如下;
1.如何判断一段文字(网页)的编码格式
2.中文编码的种类和区别
3.转换时注意事项.
1.如何判断一段文字(网页)的编码格式
1.1 直接查看网页源码显示(有时不太准确)
打开对应网页直接查看页面源文件,在html的head头部, charset属性
<meta http-equiv="content-type" content="text/html;charset=utf-8">
1.2 使用 chatdet 模块(python第三方模块)
import chardet
f = open('file','r')
fencoding=chardet.detect(f.read())
print fencing
>>>fencoding输出格式 {'confidence': 0.96630842899499614, 'encoding': 'GB2312'}
2. 中文编码的种类和区别
汉字编码中现在主要用到的有三类，包括GBK，GB2312和Big5。
1、GB2312又称国标码，由国家标准总局发布，1981年5月1日实施，通行于大陆。新加坡等地也使用此编码。它是一个简化字的编码规范，当然也包括其他的符号、字母、日文假名等，共7445个图形字符，其中汉字占6763个。我们平时说6768个汉字，实际上里边有5个编码为空白，所以总共有6763个汉字。
GB2312规定“对任意一个图形字符都采用两个字节表示，每个字节均采用七位编码表示”，习惯上称第一个字节为“高字节”，第二个字节为“低字节”。GB2312中汉字的编码范围为，第一字节0xB0-0xF7(对应十进制为176-247)，第二个字节0xA0-0xFE（对应十进制为160-254）。
GB2312将代码表分为94个区，对应第一字节（0xa1-0xfe）；每个区94个位（0xa1-0xfe），对应第二字节，两个字节的值分别为区号值和位号值加32（2OH），因此也称为区位码。01-09区为符号、数字区，16-87区为汉字区（0xb0-0xf7），10-15区、88-94区是有待进一步标准化的空白区。
2、Big5又称大五码，主要为香港与台湾使用，即是一个繁体字编码。每个汉字由两个字节构成，第一个字节的范围从0X81－0XFE（即129-255），共126种。第二个字节的范围不连续，分别为0X40－0X7E（即64-126），0XA1－0XFE（即161-254），共157种。
3、GBK是GB2312的扩展，是向上兼容的，因此GB2312中的汉字的编码与GBK中汉字的相同。另外，GBK中还包含繁体字的编码，它与Big5编码之间的关系我还没有弄明白，好像是不一致的。GBK中每个汉字仍然包含两个字节，第一个字节的范围是0x81-0xFE（即129-254），第二个字节的范围是0x40-0xFE（即64-254）。GBK中有码位23940个，包含汉字21003个。
3.转换时注意事项.
3.1.在爬取网页过程中出现通过方法1.2中输出的是gb2312,然而,仍是乱码,当使用gbk进行解码时编码正确,(网页中编码仅供参考)
参考
http://www.360doc.com/content/14/1113/11/203028_424768594.shtml
