Python爬虫基础4-豆瓣top100

看了下,很多人都有写如何爬豆瓣,遂当做一个学习课题,写出来看看啊。本文主要分一下几个部分:

分析豆瓣top页面,构建程序结构
依次写出代码
整理代码

分析豆瓣top页面,构建程序结构

1.首先打开网页http://movie.douban.com/top250?start,也就是top页面
然后试着点击到top100的页面,注意带top100的链接依次为

http://movie.douban.com/top250?start=0
http://movie.douban.com/top250?start=25
http://movie.douban.com/top250?start=50
http://movie.douban.com/top250?start=75

2.然后通过查看源码,发现电影名的代码如下:

<span class="title">肖申克的救赎</span>
<span class="title">&nbsp;/&nbsp;The Shawshank Redemption</span>

如图,因为有一些英文名等描述,通过正则抓取有些干扰,可能还需要后续过滤。

根据以上信息,此程序主要分以下3个步骤:

构建url地址池
抓取top100电影名称
依次打印输出

依次写出代码

1.构建url地址池。代码如下:

import urllib2
import re
# ----------确定url地址池------------
pre_url = 'http://movie.douban.com/top250?start='
top_urls = []
# 因为top100,每页25部电影,故为4页,从零开始
for num in range(4):
    top_urls.append(pre_url + str(num * 25))

2.抓取top100电影名称

# ------------抓取top100电影名称----------
top_content = []
top_tag = re.compile(r'<span class="title">(.+?)</span>')
for url in top_urls:
    content = urllib2.urlopen(url).read()
    pre_content = re.findall(top_tag, content)
    # 过滤不符合条件的list,得到最后的top100的list
    for item in pre_content:
        if item.find('&nbsp') == -1:
            top_content.append(item)

3.打印输出

top_num = 1
for item in top_content:
    print 'Top' + str(top_num) + '   ' + item
    top_num += 1

整理代码

我还是python新手,还没有太多的pythonic思想,也没有代码优化技巧,只能说是整理。
其次,个人习惯,在简单的代码里面我还是喜欢少用函数,尽量不隐藏代码的逻辑。
以下代码请参考,并欢迎提意见,希望得到大家的意见,谢谢!
整理后的代码如下:

# coding=utf-8
'''
本代码为自动抓取豆瓣top100电影代码
@pre_url  url地址前缀,在这里为http://movie.douban.com/top250?start=
@top_urls url地址池
@top_tag  为抓取电影名正则表达式
'''

import urllib2
import re

pre_url = 'http://movie.douban.com/top250?start='
top_urls = []
top_tag = re.compile(r'<span class="title">(.+?)</span>')
top_content = []
top_num = 1

# ----------确定url地址池------------
# 因为top100,每页25部电影,故为4页,从零开始
for num in range(4):
    top_urls.append(pre_url + str(num * 25))


# ------------抓取top100电影名称,并打印输出----------
top_tag = re.compile(r'<span class="title">(.+?)</span>')
for url in top_urls:
    content = urllib2.urlopen(url).read()
    pre_content = re.findall(top_tag, content)
    # 过滤并打印输出
    for item in pre_content:
        if item.find('&nbsp') == -1:
            print 'Top' + str(top_num) + '   ' + item
            top_num += 1
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 173,641评论 25 708
  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,779评论 18 399
  • 有生之年遇到无数为我的成长添砖加瓦的贵人,他们是父母,老师,学长。 在我很小的时候,父母就耳提面命:要做一个正直的...
    快雪時清阅读 182评论 0 1
  • 原曲:《只想爱你》杨丞琳 填翻:瞿三/connie 夜空的星星点缀难得的宁静 躺在草丛里偷偷的看着满心欢喜的你 跳...
    connic_lu阅读 264评论 0 0
  • 今天有时间阅读了一部分战友的文章。受益颇深。我们的12班真是个优秀的集体,身为一员真的很幸运。战友们的进步...
    践行哲阅读 324评论 0 0