前言
上篇写了12306登录,隔了快一个月了,才准备动手写下单篇,真的要非常感谢博客园的 Asimple朋友,如果不是看到你的留言,我几乎都忘了要写下篇了,这一点在简书上就不好,都没人看/(ㄒoㄒ)/~~,刚开始写博客,真的需要大家的鼓励,看的人多了自然有动力写更多的,所以这一篇要给那些看过我上篇的同学们,尤其是这位Asimple同学,就是为你而写,没错就是这个原因。因为你让我知道了有人在看,而且用心的在看。发了这么多感慨,其实我不是这么爱感慨的人(✿◡‿◡),直入主题吧。
还得说一下这次我用的是Firefox浏览器,在上篇中说了Chrome浏览器的一个问题,在抓取的请求过多的情况下,前面的请求就可能看不到请求信息,最后搞得我不得不搞了个虚拟机,装了xp,用Fiddler去查看请求信息,后来就换了Firefox,最新版的Firefox没有Firebug可用,但是自带的开发者工具足够用了。当然Chrome我也没卸载,因为Chrome上有个很赞的功能,在元素界面查找元素的时候可以用css和xpath,可不是右键copy里面的css和xpath哦
卧了一个槽,忽略我上面说的吧,要写博客了,有一个请求Firefox竟然不给显示了,还是虚拟机吧
后记
后记为什么要加载前言后面,而不是在文章最后,我怕你不看。在这次分析中我基本没有添加什么代码,因为基本上每一个请求就是定义一个字典、一个url,然后发送请求,获取数据,然后继续下一个。另一方面就是我并没有做代码优化和整理。我们都应该知道对于没有反爬措施的网站,基本上看两个小时的爬虫教程就能写的出来,对于有反爬的网站,最难得地方是分析阶段,而不是发送请求。最后一点就是做这个也是一时兴起,积累一下经验,最主要是开始写一写博客。同时给像我一样初学爬虫的朋友一个例子、一个思路。
查票
车票预订界面的url:https://kyfw.12306.cn/otn/leftTicket/init,选好票以后点击查询
多了一下两个请求,第一个请求我没用,没有任何影响,我们就不用去管它,直接看第二个请求
https://kyfw.12306.cn/otn/leftTicket/query?leftTicketDTO.train_date=2017-12-25&leftTicketDTO.from_station=BJP&leftTicketDTO.to_station=SHH&purpose_codes=ADULT
看到了车次G101,8、9是开车时间和到达时间,10是历时,商务座特等座9张余票,32行显示9,一等二等座都是有票,对应30、31,就不能具体确定了,暂时先不管,至少我们确定了这个请求是查询出我们需要的车票信息了,那么再看一下请求参数,第一个是时间很容易理解,第四个好像是票的类型,成人票,翻译一下单词就知道了,反正每次都一样,不用管了,中间两个出发站、目的地,不过这些字母是啥意思,应该是站名对应的编码,在这个请求之前肯定是有对应关系的,
https://kyfw.12306.cn/otn/resources/js/framework/station_name.js?station_version=1.9034
一个js的请求@bjb|北京北|VAP|beijingbei|bjb|0,拆分以后可以看到站名和编号
建议看完所有的分析在看代码
def query_ticket_info(date, info):
js_info = json.loads(info)
if js_info.get("status") != True:
print("查询余票失败")
return
result = js_info.get("data").get("result")
for i in result:
lst = i.split('|')
if lst[11] != "Y": #主要是判断是否开票了,见下图情况
continue
item = {
"预定号":lst[0], #预定号
"train_no":lst[2],
"车次":lst[3], #车次
"始发站":get_station_name_from_code(lst[4]), #始发站
"终点站":get_station_name_from_code(lst[5]), #终点站
"起始站":get_station_name_from_code(lst[6]), #起始站
"目标站":get_station_name_from_code(lst[7]), #目标站
"出发时间":"{} {}".format(date, lst[8]), #出发时间
"到达时间":get_end_time(date, lst[8], lst[9], lst[10]), #到达时间
"历时":lst[10], #历时
"train_location":lst[15],
"高级动卧":lst[21], #高级动卧
"软卧":lst[23], #软卧
"软座":lst[24], #软座
"特等座":lst[25], #特等座
"无座":lst[26], #无座
"硬卧":lst[28], #硬卧
"硬座":lst[29], #硬座
"二等座":lst[30], #二等座
"一等座":lst[31], #一等座
"商务座":lst[32], #商务座
"动卧":lst[33], #动卧
}
yield item
这个函数需要解释一下,主要是这些站点信息是怎么找到的,说一下思路
-
当我们打开车票预订界面的时候,是这样的,下面是空的
-
点击查询后
- 由此我们知道车票信息是通过js动态添加的(maybe),那么我们就查找动态创建出来的元素,随便在上面找一个元素特征,比如我找这个
-
通过分析js
然后把大部分我们需要的参数都对应出来,这样就看到像我上面写的函数那样,取出我们需要的信息
-
其实有一种更简单的方式,就是你查询了余票信息以后,会看到余票几张几张,然后去对应的信息参数中去找,比如
我们就知道了32对应的是商务座特等,多查询一些站点就会把所有对应索引都找出来
预订
点击预订后看一下请求,记住我上一遍说过的,一般是看xhr和document请求,
https://kyfw.12306.cn/otn/login/checkUser
重头戏来了https://kyfw.12306.cn/otn/leftTicket/submitOrderRequest
train_date:订哪一天的票,back_train_date:今天的时间,还有出发站和目的地。
已经转战头条了,不在这个平台写了,TT号:Python集结号