#!/usr/bin/env python
#-*- coding: utf-8 -*-
import requests
from bs4 import BeautifulSoup
# 性别不同,标签的class属性内容不同,通过这个差异区分房东性别
def get_lorder_sex(class_name):
if class_name == ['member_boy_ico']:
return '男'
elif class_name == ['member_girl_ico']:
return '女'
def get_links(url):
wb_data = requests.get(url)
# 开始解析网页数据
soup = BeautifulSoup(wb_data.text, 'lxml')
# 鼠标放到图片上,右键,审查元素,找到链接的css selector
links = soup.select("#page_list > ul > li > a")
# 由于链接有好多个,soup.select返回的是列表,需要用for一个个取出来
for link in links:
# 由于链接地址在标签的href属性里面,所以要用get获取
href = link.get("href")
# 把得到的详情页链接,传给函数,这个函数可以得到详细数据
get_detail_info(href)
def get_detail_info(url):
wb_data = requests.get(url) # 开始解析详情页数据
soup = BeautifulSoup(wb_data.text, 'lxml')
# 获取名称
titles = soup.select("body > div.wrap.clearfix.con_bg > div.con_l > div.pho_info > h4 > em")
# 获取地址
addresss = soup.select("body > div.wrap.clearfix.con_bg > div.con_l > div.pho_info > p > span.pr5")
# 获取价格
prices = soup.select("#pricePart > div.day_l > span")
# 获取图片
images = soup.select("#curBigImage")
# 获取房东头像
avartars = soup.select("#floatRightBox > div.js_box.clearfix > div.member_pic > a > img")
# 获取房东姓名
names = soup.select("#floatRightBox > div.js_box.clearfix > div.w_240 > h6 > a")
# 获取房东性别
sexs = soup.select("#floatRightBox > div.js_box.clearfix > div.w_240 > h6 > span")
for title, address, price, image, avartar, name, sex
in zip(titles, addresss, prices, images, avartars, names, sexs):
# 从标签里面提取内容
data = {
"title": title.get_text(),
"address": address.get_text(),
"price": price.get_text(),
"image": image.get("src"),
"avartar": avartar.get("src"),
"name": name.get_text(),
"sex": get_lorder_sex(sex.get("class"))
}
print(data)
# 生成10个列表页面地址
urls = ["http://bj.xiaozhu.com/search-duanzufang-p{}-0/"
.format(number) for number in range(1, 10)]
# 从链接列表中,用for一个个取出来
for single_url in urls:
# 把得到的列表页面链接,传给函数,这个函数可以得到详情页链接 get_links(single_url)
爬取租房网页数据
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 本文在有些需要解释说明的地方引用了知乎文章屌丝想买房……和Scrapy入门教程 本篇教程中将按照下列五步实现标题所...
- 今天是3.29号。 今天下午去面试搜芽公司的运营助理,问的问题没有很深入,提到说如果为达到某个目标,若一个路径走不...