Scrapy模块功能记录

一下模块负责各功能：

connection redis 连接的文件
defaults 默认设置文件
dupefilter 用来过滤 替换srapy默认的去重器
picklecompat 用来做序列化的
piplines 将item保存到redis中
queue 实现了三种队列 做requests队列 先进先出队列 优先级队列 先进后出队列 对应scrapy的队列
scheduler URL调度器
spiders 读取start_urls 是通过redis读取的 所以这边也不一样
utils 做py3兼容

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容