第一个爬虫

这是我的第一个python爬虫,抓取了好奇心主页实时滚动的五篇文章中的背景图。
import urllib.request
import os

def url_open(url):
   req=urllib.request.Request(url)
   req.add_header('User-Agent','Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.13 Safari/537.36')
   response=urllib.request.urlopen(req)

   return(response)
   
def download_hqx(folder='article_jpg',pages=10):
   os.mkdir(folder)
   os.chdir(folder)

   url='http://www.qdaily.com'
   response=url_open(url)
   html=response.read().decode('utf-8')

   for i in range(5):
       a=html.find('pc:click:banner'+str(i)+'" href="')+24
       b=html.find('"',a)
       xu=html[a:b]

       nurl=url+xu
       nresponse=url_open(nurl)
       nhtml=nresponse.read().decode('utf-8')

       na=nhtml.find('full-banner-bd imgcover"><img src="')+35
       nb=nhtml.find('.jpg',na)+4

       jpgurl=nhtml[na:nb]

       if len(jpgurl)>100:
           nb=nhtml.find('.jpeg',na)+5
           jpgurl=nhtml[na:nb]

       filename=jpgurl.split('/')[-1]

       print(jpgurl)

       with open(filename, 'wb') as f:
           img=url_open(jpgurl).read()
           f.write(img)
       
if __name__=='__main__':
  html=download_hqx()
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 177,266评论 25 709
  • #第一个爬虫 --- 今天写了第一个爬虫,几点困难: 1. 开发环境设置: py3.5 vs py2.7,anac...
    林六如阅读 3,437评论 0 0
  • 1.定义Item Item 是保存爬取到的数据的容器;其使用方法和 python 字典类似。 您可以通过创建一个 ...
    SingleDiego阅读 4,567评论 0 1
  • 今天是感恩节,距离预产期整整一个月了,心中不免有些惶恐,知道自己产前胡思乱想。准备的待产东西都准备的差不多了。一个...
    一起聚聚啊阅读 3,414评论 0 0
  • 前面文章提到一个React工程中包含很多Component,可以通过向组件中传递参数,及props,使得组件更灵活...
    SamDing阅读 3,720评论 0 0

友情链接更多精彩内容