Python爬虫抓取百度慧眼迁徙大数据(一)

引言


百度慧眼迁徙3.0上线,在选择某一城市的“迁出目的地”或“迁入来源地”后,即可查看该城市迁出、迁入人口的迁徙来源与迁徙时间趋势。对城市大数据研究有所帮助。本文采取Python爬虫抓取百度慧眼数据。


image

准备工作


工具:Chrome

1.百度打开http://qianxi.baidu.com/

2.查找数据源。

使用开发者工具(F12),打开Network,搜索关键字json。

image

右侧preview预览,打开data内的list,即可看到json格式的数据。

image

3.数据解析

查找json信息后,发现cityrank.jsonp、provincerank.jsonp和historycurve.jsonp都是可以利用的数据。cityrank是精确到市级的数据来源,provincerank是精确到省级的数据来源,historcurve是表示该地历史数据。本文对cityrank.jsonp、provincerank.jsonp进行了爬取。

4.Url解析

右键,open in tab查看地址栏地址。 example:http://huiyan.baidu.com/migration/cityrank.jsonp?dt=province&id=330000&type=move_in&callback=jsonp_1581412681419_9173670
这里可以看到参数有dt,id,type,callback等。经过测试,dt为选取的地点的行政级别。id为选取的地点的行政编码,是百度内部自己的编码。type有move_in和move_out两种参数,对应迁入和迁出。callback对应的是时间戳,时间精度非常大,后文默认分钟级别。

5.百度城市编码

在上一步内,最难填写的是城市代码,一开始猜测与邮政编码有关,后对其进行验证,发现并不完全相同。在浏览了百度地图开放平台之后,查找到了这么一份行政区划乡镇清单201910.xlsx,与省份、城市id完全吻合。并通过在线的excel转json工具,转换为json格式,保存为文件,方便读取。


爬取工作

因为涉及了Excel格式的写入,所以使用前pip install xlwr。


源代码


import requests

import json

import time

import xlwt

def CityName2Code(dt,cityName):

    """城市名/省名转换为编码

    Arguments:

        dt {str} -- [description]

        cityName {str} -- [description]

    """    

    cityCode=''

    searchKey=''

    codeKey=''

    #城市编码的相对路径

    cityCodePath ='migration/CityCode.json'

    #打开文件,文件编码格式为UTF-8

    data = open((cityCodePath), encoding='utf-8')

    result = json.load(data)

    if dt=='province':

        searchKey='省名称'

        codeKey='省代码'

    elif dt =='city':

        searchKey='地级市名称'

        codeKey='地级市代码'

    for rowNum in range(len(result)):

        if result[rowNum][searchKey]==cityName:

            cityCode = result[rowNum][codeKey]

    return cityCode

def UrlFormat(rankMethod,dt,name,migrationType,date):

    """字符串定义,默认时间为00:00:00,精确到分钟级别

    Arguments:

        rankMethod {str} -- city||province 获得数据的行政级别

        dt {str} -- city||province 中心地行政级别

        name {str} -- example:'温州市||浙江省' 作为中心地的地名

        migrationType {str} -- in||out

        date {str} -- example:20200202

    """    

    list_date = list(date)

    list_date.insert(4,'-')    

    list_date.insert(7,'-')

    formatDate = ''.join(list_date)

    formatDate= formatDate+" 00:00:00"

    #转换成时间数组

    timeArray = time.strptime(formatDate, "%Y-%m-%d %H:%M:%S")

    #转换成时间戳

    timeUnix = time.mktime(timeArray)

    ID = CityName2Code(dt,name)

    url='http://huiyan.baidu.com/migration/{0}rank.jsonp?dt={1}&id={2}&type=move_{3}&date={4}&callback' \

    '=jsonp_{5}000_0000000'.format(rankMethod,dt,ID,migrationType,date,int(timeUnix))

    return url

#返回数据处理

def JsonTextConvert(text):

    """Text2Json

    Arguments:

        text {str} -- webContent

    Returns:

        str -- jsonText

    """    

    text = text.encode('utf-8').decode('unicode_escape')

    head, sep, tail = text.partition('(')

    tail=tail.replace(")","")

    return tail

def GetData(rankMethod,dt,name,migrationType,date,isExcel):

    """

    Arguments:

        rankMethod {str} -- city||province 获得数据的行政级别

        dt {str} -- city||province 中心地行政级别

        name {str} -- example:'温州市||浙江省' 作为中心地的地名

        migrationType {str} -- in||out

        date {str} -- example:20200202

        isExcel {bool} -- true转出为excel格式

    """    

    r = requests.get(url=UrlFormat(rankMethod,dt,name,migrationType,date))

    text = r.text

    rawData=json.loads(JsonTextConvert(text))

    data= rawData['data']

    list = data['list']

    nameKey = ''

    if rankMethod=='province':

        nameKey = 'province_name'

    else:

        nameKey = 'city_name'

    if isExcel == True:

        #输出excel格式数据

        workbook = xlwt.Workbook(encoding='utf-8') #创建workbook 对象

        worksheet = workbook.add_sheet('sheet1',cell_overwrite_ok=True) #创建工作表sheet

        table_head = [nameKey,'value']#表头

        index = 1 

        for i in range(len(table_head)):

            worksheet.write(0,i,table_head[i])

        for l in list:

            worksheet.write(index,0,l[nameKey])

            worksheet.write(index,1,l['value'])

            index=index+1

        filename = name+date+'.xls'

        workbook.save('migration/'+filename) #保存表

    else:

        #打印数据

        for l in list:

            print(l[nameKey],':',l['value'])

def main():

    #第一个参数填‘city‘或’province’,为获取数据的行政级别,分别为市级或省级

    #第二个参数填‘city‘或’province’,为中心地的行政级别

    #第三个参数填‘中心地名’,例如‘浙江省’或‘杭州市’

    #第四个参数填时间,例如‘20200210’,默认每天的零点

     #第四个参数填True或False,True则输出Excel(文件路径注意),否则打印出来

    GetData('city','province','浙江省','in','20200210',True)

if __name__ == '__main__':

    main()

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,133评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,682评论 3 390
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,784评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,508评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,603评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,607评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,604评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,359评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,805评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,121评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,280评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,959评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,588评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,206评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,442评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,193评论 2 367
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,144评论 2 352

推荐阅读更多精彩内容