Python亚马逊图书爬虫

encoding=utf8

import requests
import time
from requests.exceptions import RequestException
import urllib
from pyquery import PyQuery as pq
import json
import re
from bs4 import BeautifulSoup
from config import *
def get_detail():
times=int(time.time())
datas = {
'ref_':'dp_apl_pc_loaddesc',
'asin':'B00JZ96ZI8',
'cacheTime':times,
'merchantId':'A1AJ19PSB66TGU',
'deviceType':'web'
}
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36'
}
url='https://www.amazon.cn/gp/product-description/ajaxGetProuductDescription.html?'+urllib.urlencode(datas)
#必须要加请求头
response = requests.get(url, headers=headers)
try:
if response.status_code == 200:
return response.text
except RequestException:
print u'请求索引页出错'
#return None
def parse_detail(html):
#生成BeautifulSoup对象并使用lxml解析
soup = BeautifulSoup(html, 'lxml')
#获取目录
directory = soup.select('#s_content_4 > p')[0]
#获取编辑推荐
article = soup.select('#s_content_0 > p')[0]
article=str(article).replace('亚马逊编辑推荐:','')
print article
def main():
html=get_detail()
parse_detail(html)
if name == 'main':
main()

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 1 前言 作为一名合格的数据分析师,其完整的技术知识体系必须贯穿数据获取、数据存储、数据提取、数据分析、数据挖掘、...
    whenif阅读 18,196评论 45 523
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,461评论 19 139
  • 声明:本文讲解的实战内容,均仅用于学习交流,请勿用于任何商业用途! 一、前言 强烈建议:请在电脑的陪同下,阅读本文...
    Bruce_Szh阅读 14,381评论 6 28
  • 昨天看了中国版深夜食堂泡面三姐妹的故事。 故事讲的是有这么一个食堂,它只是在深夜10点到凌晨7点开放,它每天的菜单...
    我爱满满的微笑阅读 3,177评论 0 0
  • 容器(集合框架)--承载其他对象的对象 list容器 自动装箱与自动拆箱 简易贪食蛇小游戏
    yangyangyjj阅读 903评论 0 0