Scrapy commands

.extract() - list of items
.extract_first() - the string converted from unicode ('u')
response.urljoin(relative url) - make absolute url
scrapy.htttp.request or selector.follow - simulate clicking onto next page, follow allows relative path

xpath

  • contains
xpath('//*[contains(@class, "star-rating")]/@class')
  • following-sibling::
xpath(''//*[@id="product_description"]/following-sibling::p/text()'')
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容