2020-07-09→Python爬虫课第一节_爬虫概念

一、通讯协议

1.1 端口

  • 我们想要进⾏数据通讯分⼏步?
    1、找到对⽅ip
    2、数据要发送到对⽅指定的应⽤程序上。为了标识这些应⽤程序,所以给这些
    ⽹络应⽤程序都⽤数字进⾏了标识。为了⽅便称呼这个数字,叫做 端⼝。这⾥
    的端⼝ 我们⼀般都叫做 '逻辑端⼝'
    3、定义通讯规则。这个通讯规则我们⼀般称之为协议

1.2 通讯协议

  • 国际组织定义了通⽤的通信协议 TCP/IP协议。
  • 所谓协议就是指计算机通信⽹络中两台计算机之间进⾏通信所必须共同遵守的规定或规则。
  • HTTP⼜叫做超⽂本传输协议(是⼀种通信协议),HTTP 它的端⼝是:80

二、网络模型

image.png

image.png

2.1 HTTPS是什么

  • https=http+ssl,顾名思义,https是在http的基础上加上了SSL保护壳,信息的加密过程就是在SSL中完成的。
  • https,是以安全为⽬标的HTTP通道,简单讲是HTTP的安全版。即HTTP下加⼊SSL层,HTTPS的安全基础是SSL。

2.2 SSL怎么理解

  • SSL也是⼀个协议主要⽤于web的安全传输协议。


    image.png

2.3 Http请求与响应

  • HTTP通信由两部分组成:客户端请求消息与服务器响应消息。
    image.png

    1、当⽤户在浏览器的地址栏中输⼊⼀个URL并按回⻋键之后,浏览器会向HTTP服务器发送HTTP请求。HTTP请求主要分为“Get”和“Post”两种⽅法。
    2、当我们在浏览器输⼊URL http://www.baidu.com 的时候,浏览器发送⼀个Request请求去获取 http://www.baidu.com 的html⽂件,服务器把Response⽂件对象发送回给浏览器。
    3、浏览器分析Response中的 HTML,发现其中引⽤了很多其他⽂件,⽐如Images⽂件,CSS⽂件,JS⽂件。浏览器会⾃动再次发送Request去获取图⽚,CSS⽂件,或者JS⽂件。
    4、当所有的⽂件都下载成功后,⽹⻚会根据HTML语法结构,完整的显示出来了。

2.4 客户端的Http请求

  • URL只是标识资源的位置,⽽HTTP是⽤来提交和获取资源。客户端发送⼀个HTTP请求到服务器的请求消息,包括以下格式:
    请求⾏、请求头部、空⾏、请求数据四个部分组成,下图给出了请求报⽂的⼀般格式。
    image.png

    典型的HTTP请求示例:
    1 GET / HTTP/1.1
    2 Host: www.baidu.com
    3 Connection: keep-alive
    4 Cache-Control: max-age=0
    5 Upgrade-Insecure-Requests: 1
    6 User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/53
    7.36 (KHTML, like Gecko) Chrome/77.0.3865.75 Safari/537.36
    7 Sec-Fetch-Mode: navigate
    8 Sec-Fetch-User: ?1
    9 Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/
    webp,image/apng,/;q=0.8,application/signed-exchange;v=b3
    10 Sec-Fetch-Site: same-origin
    11 Referer: https://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&rsv_idx=1&tn=
    baidu&wd=Python%20%20%E6%89%8B%E5%8A%A8%E5%9B%9E%E6%94%B6%E5%9E%83%E
    5%9C%BE&oq=Python%2520%25E6%2594%25B6%25E5%2588%25B0%25E5%259B%259E%
    25E6%2594%25B6%25E5%259E%2583%25E5%259C%25BE&rsv_pq=f5baabda0010c033
    &rsv_t=1323wLC5312ORKIcfWo4JroXu16WSW5HqZ183yRWRnjWHaeeseiUUPIDun4&r
    qlang=cn&rsv_enter=1&rsv_dl=tb&inputT=2315&rsv_sug3=48&rsv_sug2=0&rs
    v_sug4=2736
    12 Accept-Encoding: gzip, deflate, br
    13 Accept-Language: zh-CN,zh;q=0.9
    14 Cookie: BIDUPSID=4049831E3DB8DE890DFFCA6103FF02C1;

请求⽅法

  • 根据HTTP标准,HTTP请求可以使⽤多种请求⽅法。
    HTTP 0.9:只有基本的⽂本 GET 功能。
    HTTP 1.0:完善的请求/响应模型,并将协议补充完整,定义了三种请求⽅法:
    GET, POST 和 HEAD⽅法。
    HTTP 1.1:在 1.0 基础上进⾏更新,新增了五种请求⽅法:
    OPTIONS, PUT,DELETE, TRACE 和 CONNECT ⽅法。
    HTTP 2.0(未普及):请求/响应⾸部的定义基本没有改变,只是所有⾸部键
    必须全部⼩写,⽽且请求⾏要独⽴为 :method、:scheme、:host、:path这些
    键值对。
image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
禁止转载,如需转载请通过简信或评论联系作者。
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,012评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,628评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,653评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,485评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,574评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,590评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,596评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,340评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,794评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,102评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,276评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,940评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,583评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,201评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,441评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,173评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,136评论 2 352