反爬原理
利用字体文件,对显示的字体进行修改,使得页面中为标准字体而html代码中的字体为乱码形态。
破解原理
找到字体文件,找到字体文件中,每个字对应的字典,然后对HTML代码中的乱码进行替换。
目标网站
https://book.qidian.com/info/1021578238@Anzw
爬取思路
1、找到目标网站的请求方式
2、确定爬取文件
3、找到加密字体
4、爬取数据
爬取步骤
1、通过f12开发者工具找到请求页面,查看页面信息,确定请求为GET请求
2、找到要爬取的数据,发现是一堆乱码,无法正确读出数字
3、根据span标签的class属性到css中找到定义的css,从中可以找到字体文件名
4、按CTRL + shift +f 进行全局搜索文件名(本次文件名为ttDVCePS)文件名可能随时变动的
5、点击搜索到的结果可以进入到html详情页面
6、在详情页中再次搜索文件名,找到文件位置,向后在次找到(.ttf)字体文件的文件的url,下载字体文件。字体加密所对用的字典都在这个文件中。
7、python 可以利用TTFont打开字体文件,然后对字体文件进行操作,操作如下:
7.1、安装TTFont
pip install fontTools
7.2 导入TTFont模块
from fontTools.ttLib import TTFont
7.3 把 .ttf文件修改格式保存为xml文件
TTFont('文件名')用来打开.ttf文件,其中saveXML()用来保存为xml格式的文件
a = TTFont('RyCKowTQ.ttf')
a.saveXML('a.xml')
8、打开.xml文件,(浏览器、sublime、pycharm都可以打开)找到文字,id为正常文字,name为加密后的值,选一个name在文件中进行搜索
9、搜索到网页中显示的字体,code就是网页中对应的值。所有对应都在<cmap></cmap>中
10、利用Python提取cmap中对应的字典
aa['cmap'].getBestCmap()
11、根据得到的字典对页面加密字体进行替换
12、注意。如果页面字体文件每次请求都不一样。需要在请求页面时采用session进行请求,在用session对字体文件进行下载。下载的文件可以不用保存到本地,使用io.BytesIO保存到内存中即可。
如果字体文件不变,则可以把字体字典直接保存下来。
#coding:utf-8
import sys
import requests,io
from fontTools.ttLib import TTFont
seeion = requests.session()
url = 'https://qidian.gtimg.com/qd_anti_spider/CultUYUT.ttf'
a = seeion.get(url)
aa = TTFont(io.BytesIO(a.content))
a = TTFont('RyCKowTQ.ttf')
a.saveXML('a.xml')
bb = aa['cmap'].getBestCmap()
print(bb)