python.requests实战58写字楼

1.先看效果


image.png

2.思路
反爬虫,武装user-agent

3.上源代码






import re
import requests 
from bs4 import BeautifulSoup
class Guiyang(object):

    def __init__(self):
        self.page = range(1,10)
        self.url = 'http://gy.58.com/zhaozu/?PGTID=0d00000d-0000-0ee8-d8e7-f5dce12e009e&ClickID={}'.format(self.page)
        self.headers = {
                    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36'
                    ,'Host':'gy.58.com'
                    ,'Upgrade-Insecure-Requests':'1'
                        }


        self.link_url = self.get_data()

    def get_data(self):

        data = {
        'PGTID':'0d00000d-0000-0ee8-d8e7-f5dce12e009e'
        ,'ClickID':'2'
        }

        r = requests.get(url=self.url,headers=self.headers,data=data).text



        s = BeautifulSoup(r,'lxml').find('a',class_='on').get_text()
        #print(s)
        soup = BeautifulSoup(r,'lxml').find('ul',class_='house-list-wrap').find_all('li')


        for items in soup:
            link_url = items.find('a')['href']  #每个url的链接
            #get_link = requests.get(item_link_url,headers=headers).text
            name = items.find('span',attrs={'class':'title_des'}).get_text()
            location =items.find('p',class_='baseinfo').get_text().replace('\n','')
            #pricea = items.find('p',class_='sum').get_text().replace('\n','')+str('>每平米')+'\n\n'
            try:
                pricetoday = items.find('p',class_='unit').get_text().replace(' ','').replace('\n','').replace('\r','')
                print('{},{},{}'.format(pricetoday,location,name))


            except:
                pass




c = Guiyang()
c.get_data()

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 174,003评论 25 709
  • 今年夏天,儿子依然送了一本书给我作为生日礼物。 这已经是惯例了,从他略懂事起,他便将他的爱书嗜好也付诸于身边的人。...
    光阴悠然阅读 830评论 15 16
  • 依窗小绿沏红茶,相对唱平沙。 悠思一点灵犀在,又何念,百里天涯。 愿共春风如沐,玉真却叹疵瑕。 会当柳色日夕佳,无...
    陶然忘机阅读 211评论 0 1
  • 我想我永远不会忘记他们心仪高中打电话给他们家长时我的心情 我更不会忘记,当我看见他们成绩都那么高时候的心情
    橘敏儿阅读 239评论 0 0
  • 从北京峰会回来一直被一股股感动和正能量滋养着。身上太多的“按钮”被打开了:感动的、坚持的、兴奋的等等,让我体验到生...
    祥祥布鲁斯阅读 267评论 2 0