盗字笔记(9)

实例1:京东商品页面爬取:

首先,随便找一个京东的商品,复制该商品的URL地址:

https://item.jd.com/11011549561.html?jd_pop=18147c5d-a57f-4785-ae83-e3f530b6a598&abt=0

然后,利用requests获取商品信息

京东商品页面爬取

>>>import requests  #引入requests

>>>r = requests.get("url")  #()括号里是url地址

>>>r.status_code #状态码是200,表示成功获得了商品的信息

>>>r.encoding # 'gdk' 说明从HTTP的头部分获得了编码的信息,说明京东的网站提供了页面信息的相关编码

>>>r.text[:1000] #返回的内容是否正确,我们看到了商品的信息

实例2:亚马逊商品页面的爬取:亚马逊网页不能直接爬取,需要键子对

亚马逊网页爬取

笔记:

1.怎么处理问题

>>>import requests

>>>r = requests.get("https://www.amazon.cn/b/ref=sa_menu_digita_l3_b2110348051/459-4739484-2903211?ie=UTF8&node=2110348051") #随便一个商品的url信息

>>>r.status_code

503  #状态码是503说明访问出现了错误(那么它出现了什么错误呢?我们查看它的编码)

>>>r.encoding

'ISO-8859-1'

>>>r.encoding = r.apparent_encoding #(把编码改成我们可以阅读的编码)

>>>r.text  #(我们看一下返回的文本)

出现“意外错误”“API信息”

(网站对网络爬虫限制:

1,robots协议:告知爬虫,哪些可以哪些不行

2,隐性的:通过判断对网站的头查看,是不是由于爬虫引起的下面看看是啥引起的:

>>>r.request.headers #头部内容

查看到了原因

(python-requests,我们的Python诚实的告诉了亚马逊的服务器,这次访问时由一个服务器是由一个Python的requests库的程序产生的,那么我可以更改头部信息模拟信息,向亚马逊发出请求)

>>>kv = {'user-agent' : 'Mozilla/5.0'} #这样的一个键子对的信息是,我们重新定义了:user-agent的内容,使它 = ' Mozilla/5.0'。牛逼的'Mozilla/5.0'是一个很标准的浏览器的身份标识的字段。

>>>url = "https://www.amazon.cn/摄影-摄像/dp/B01N76G2JT/ref=lp_2110348051_1_1?s=photo&ie=UTF8&qid=1500646823&sr=1-1" #(我们找到我们之前的url链接)

>>>r = requests.get(url ,hesders = kv) #(修改headers字段的user-agent做相关修改)

>>>r.status_code

200    #我们获得了这个页面(下面我们验证一下)

>>>r.request.headers  #(user-agent 已经变成了Mozilla/5.0了)

user-agent:Mozilla/5.0

>>>r.text [:1000]

2,总结,访问亚马逊的全部代码(与访问京东的不同),如下:

访问亚马逊对的代码

笔记:

对一些网页保护比较好的,我们可以通过伪装获取信息。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,470评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,393评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,577评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,176评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,189评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,155评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,041评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,903评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,319评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,539评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,703评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,417评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,013评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,664评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,818评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,711评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,601评论 2 353

推荐阅读更多精彩内容

  • https://nodejs.org/api/documentation.html 工具模块 Assert 测试 ...
    KeKeMars阅读 6,327评论 0 6
  • 一、基础知识篇:Http Header之User-AgentUser Agent中文名为用户代理,是Http协议中...
    iPhone阅读 15,708评论 0 13
  • 现在的我:很幸福的在追逐自己的梦想,不管前路如何,先走着 我们曾经如此渴望生命的波澜,到最后才发现:人生最曼妙的风...
    饕餮思文阅读 582评论 0 2
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,651评论 18 139
  • 以用户为中心 掌门是连接
    愛的源头阅读 109评论 0 0