常见网站的多页情况
一、 翻页规律为1、2、3、4等递增变化时,翻页规律为每页增加1,则其多页采集时,以10页为目标,采集规则为{{1-10;1}}
二、 翻页规律为奇数/偶数变化时,即每页网址页码为:1、3、5、7等奇数页码或者0、2、4、6、8等偶数页码时,其翻页规律为每页增加2的翻页规律.
以10页为采集目标,奇数页码规则为{{1-19;2}} 同理,当目标网站翻页规则为偶数页码时,多页采集规则为{{0-18;2}}
三、 翻页规律为一定数字/步长的,每页网站页码的变化为一个固定数字,即每增加一页,页码增加一个固定数字N。
以淘宝网-手机搜索结果的页码变化为例:淘宝网的页码变化规律为每增加一页,增加48.则采集淘宝前10页的数据时翻页规律为{{0-432;48}}
举例说明
一、翻页规律为1、2、3、4等递增变化时,翻页规律为每页增加1,则其多页采集时,以N页为目标,采集规则为{{1-N;1}}
以链家网-二手房网页多页翻页规则为例:
第一页:https://bj.lianjia.com/ershoufang/pg1/
第二页:https://bj.lianjia.com/ershoufang/pg2/
第三页:https://bj.lianjia.com/ershoufang/pg3/
以10页为采集目标,其多页采集设置为:https://bj.lianjia.com/ershoufang/pg{{1-10;1}}/
二、翻页规律为奇数/偶数变化时,即每页网址页码为:1、3、5、7等奇数页码或者0、2、4、6、8等偶数页码时,其翻页规律为每页增加2的翻页规律.
奇数页码翻页规则为2N-1,N=目标页码
以京东为例:
第一页 (2N-1);N=1时,第一页的页码为2*1-1=1
https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=1&s=1&click=0
第二页 N=2时,page2= 2*2-1=3
https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=3&s=60&click=0
第三页 N=3时,page3=2*3-1=5:
https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=5&s=114&click=0
则以10页为采集目标,京东多页采集规则设置为{{1-19;2}} 在造数多页采集时应该设置的网址链接为:
https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page={{1-19;2}}&s=114&click=0
同理,当目标网站翻页规则为偶数页码时,翻页规则为2(N-1),N=网页页码
多页采集规则为:{{0-2(N-1);2}},N=网页页码
三、翻页规律为一定数字/步长的,即每页网站页码的变化为一个固定数字。
以淘宝网-手机搜索结果的页码变化为例:
淘宝网的页码变化规律为每增加一页,页码数字增加48
第一页 页码=0:
实际第一页的隐藏页码链接为页码=48*(1-1)=0
第二页 页码=48*(2-1)=48
第三页页码=48*(3-1)=96
第四页页码=48*(4-1)=144
第10页页码=48(10-1)=432
第N页页码=48(N-1)
则前10页的多页采集规则为:{{0-432;48}} 在造数多页采集时应该设置的网址链接为:
更多示例
1、京东搜索手机时多页设置
网址是:
http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=3
http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=5
http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=7
那么京东的翻页规则就是:
http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page={{1-19;2}}
2、百度造数时的多页设置
网址是:
https://www.baidu.com/s?wd=造数&pn=10
https://www.baidu.com/s?wd=造数&pn=20
https://www.baidu.com/s?wd=造数&pn=30
那么百度的翻页规则就是:
https://www.baidu.com/s?wd=造数&pn={{0-90;10}}
3、拉勾搜索JAVA时多页设置
网址是:
https://www.lagou.com/zhaopin/Java/2/
https://www.lagou.com/zhaopin/Java/3/
https://www.lagou.com/zhaopin/Java/4/
那么拉勾的翻页规则就是:
https://www.lagou.com/zhaopin/Java/{{1-10}}/
4、大众点评搜索火锅时多页设置
网址是:
http://www.dianping.com/search/category/16/10/g110p2
http://www.dianping.com/search/category/16/10/g110p3
http://www.dianping.com/search/category/16/10/g110p4
那么大众点评的翻页规则就是:
http://www.dianping.com/search/category/16/10/g110p{{1-10}}
5、知乎精华问题的多页设置
网址是:
https://www.zhihu.com/topic/19551147/top-answers?page=2
https://www.zhihu.com/topic/19551147/top-answers?page=3
https://www.zhihu.com/topic/19551147/top-answers?page=4
那么知乎的翻页规则就是:
https://www.zhihu.com/topic/19551147/top-answers?page={{1-10}}
6、亚马逊搜索手机时多页设置
网址是:
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=2&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=3&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=4&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
那么亚马逊的翻页规则就是:
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page={{1-10}}&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
7、阿里巴巴物流多页设置
网址是:
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=¬First=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642795306&sizePerPage=&pageIndex=2&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=¬First=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=3&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=¬First=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=4&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
那么阿里巴巴物流的翻页规则就是:
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=¬First=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex={{1-10}}&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
8、豆瓣电影雷神3影评的多页设置
网址是:
https://movie.douban.com/subject/25821634/comments?start=20&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=40&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=60&limit=20&sort=new_score&status=P&percent_type=
那么豆瓣电影的翻页规则就是:
https://movie.douban.com/subject/25821634/comments?start={{0-180;20}}&limit=20&sort=new_score&status=P&percent_type=
9、淘宝搜索零食的多页设置
网址是:
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=44
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=88
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=132
那么淘宝的翻页规则就是:
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s={{0-396;44}}
10、V2EX程序员类别的多页设置
网址是:
https://www.v2ex.com/go/programmer?p=2
https://www.v2ex.com/go/programmer?p=3
https://www.v2ex.com/go/programmer?p=4
那么V2EX的翻页规则就是:
https://www.v2ex.com/go/programmer?p={{1-10}}
11、胡歌所有微博多页设置
网址是:
https://weibo.cn/hu_ge?page=2
https://weibo.cn/hu_ge?page=3
https://weibo.cn/hu_ge?page=4
那么微博的翻页规则就是:
https://weibo.cn/hu_ge?page={{1-10}}
12、北京链家二手房多页设置
网址是:
https://bj.lianjia.com/ershoufang/pg2
https://bj.lianjia.com/ershoufang/pg3
https://bj.lianjia.com/ershoufang/pg4
那么链家的翻页规则就是:
https://bj.lianjia.com/ershoufang/pg{{1-10}}