items

Item

爬取的主要目标就是从非结构性的数据源提取结构性数据,例如网页。scrapy提供Item类来满足这样的需求。

Item对象是种简单的容器,保存了爬取到的数据。提供了类似于字典的API以及用于声明可用字段的简单语法。

声明Item
Item使用简单的class定义语法以及Field对象来声明。

例:

import scrapy

class Product(scrapy.Item):
    name = scrapy.Field()
    price = scrapy.Field()
    stock = scrapy.Field()
    last_updated = scrapy.Field(serializer=str)

Item字段(Item Fields)

Field对象指明了每个字段的元数据(metadata)。例如下面例子中last_updated中指明了该字段的序列化函数。

可以为每个字段指明任何类型的元数据。Field对象对接受的值没有任何限制。也正是因为这个原因,文档也无法提供所有可用的元数据的键(key)参考列表。Field对象中保存的每个键可以由多个组件使用,并且只用这些组件知道这个键的存在,可以根据自己的需求,定义使用其他的Field键。设置Field对象的主要目的就是在一个地方定义好所有的元数据。一般来说,那些依赖某个字段的组件肯定使用了特定的键(key)。

需要注意的是,用来声明item的Field对象并没有被赋值class属性。不过可以通过Item.fields属性进行访问。

以上就是所有您需要知道的如何声明item的内容了。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容