scrapy开始项目

开始一个项目

scrapy startproject douban

生成一个爬虫文件

scrapy genspider doubantest douban.com

新建一个启动文件main.py

from scrapy.cmdline import execute
execute("scrapy crawl doubantest".split())

最后的目录结构

scrapy项目目录结构

启动爬虫

# IDE里面运行main.py,或者
python main.py
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 176,506评论 25 709
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 136,174评论 19 139
  • 今天是2017年1月1日,昨晚和朋友吃着火锅喝着小酒等着零点的到来,当窗外的烟花突然响起时我并没有像前几天那么兴奋...
    我叫垚垚我姓王阅读 1,819评论 0 1
  • 写几首诗然后老去 *诗琦 一切都是瞬息 茫茫无际的天宇 千百万颗星球中的这一颗 像一艘不朽的巨轮 承载过无数万年的...
    地球村人阅读 3,647评论 0 0
  • 现在7月底 而我正在写6月23号日报。 同样周一,我好像不再像以往那么不开心了。 我们有很多很多等着995结束以后...
    Ermao阅读 1,243评论 0 1

友情链接更多精彩内容