当Item 在Spider中被收集之后，就会被传递到Item Pipeline中进行处理
每个item pipeline组件是实现了简单的方法的python类，负责接收到item并通过它执行一些行为，同时也决定此Item是否继续通过pipeline,或者被丢弃而不再进行处理
item pipeline的主要作用：
1. 清理html数据
2. 验证爬取的数据
3. 去重并丢弃
4. 将爬取的结果保存到数据库中或文件中
process_item(self,item,spider)
每个item piple组件是一个独立的pyhton类，必须实现以process_item(self,item,spider)方法
每个item pipeline组件都需要调用该方法，这个方法必须返回一个具有数据的dict,或者item对象，或者抛出DropItem异常，被丢弃的item将不会被之后的pipeline组件所处理c
open_spider(self,spider)
表示当spider被开启的时候调用这个方法
close_spider(self,spider)
当spider被关闭的时候这个方法被调用
from_crawler(cls,crawler)
可以用于获取settings配置文件中的信息，需要注意的这个是一个类方法
将item写入到MongoDB，同时这里演示了from_crawler的用法
import pymongo
class MongoPipeline(object):
collection_name ='scrapy_items'
def __init__(self, mongo_uri, mongo_db):
self.mongo_uri = mongo_uri
self.mongo_db = mongo_db
#需要在setting中配置
#MONGO_URI="127.0.0.1:27017"
#MONGO_DATABASE="spider"
@classmethod
def from_crawler(cls, crawler):
return cls(
mongo_uri=crawler.settings.get('MONGO_URI'),
mongo_db=crawler.settings.get('MONGO_DATABASE','items')
)
def open_spider(self, spider):
self.client = pymongo.MongoClient(self.mongo_uri)
self.db =self.client[self.mongo_db]
def close_spider(self, spider):
self.client.close()
def process_item(self, item, spider):
self.db[self.collection_name].insert(dict(item))
return item
这个例子是将item写入到json文件中
import json
class JsonWriterPipeline(object):
def __init__(self):
self.file =open('items.jl','wb')
def process_item(self, item, spider):
line = json.dumps(dict(item)) +"\n"
self.file.write(line)
return item
