scrapy-redis

settings配置redis:

SCHEDULER = "scrapy_redis.scheduler.Scheduler"
SCHEDULER_PERSIST = True
SCHEDULER_QUEUE_CLASS = 'scrapy_redis.queue.SpiderPriorityQueue'
DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter"
REDIS_HOST = '127.0.0.1'
REDIS_PORT = 6379

爬虫修改:

class NovelSpider(RedisSpider):
    name = 'novel2'
    redis_key = 'novel2:start_urls'
    start_urls = ['http://www.daomubiji.com/']
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Pluviophile丶阅读 225评论 0 0
  • 分类:计算机、交互设计 豆瓣评分:★★★★☆ 我的评分:★★★★☆ 《简约至上》这本书的副标题是「交互式设计四策略...
    WenryXu阅读 466评论 0 0
  • 致善品合固道哑,遍执类下丽概拿。 常者既晦求本体,斯身难静托外搭。 失宽委潜姑率(shuài)命,规套循作(zuō...
    SS柴阅读 140评论 0 0
  • 所谓父母子女一场, 始终意味着离别, 虽然你们的情缘已经注定, 可更多的是目送她的背影, 直到看不见…… 从小就总...
    骄阳去那阅读 359评论 0 0