01网络爬虫概述及str与bytes转换

网络爬虫:就是模拟客户端发送网络请求,接收请求相应,一种按照一定的规则,自动地抓取互联网信息的程序。

网页的三大特征:

网页都有自己的URL(Uniform Resource Locator,统一资源定位符)来进行定位,每个网页都有一个位移的URL。

网页都用HTML(超文本标记语言)来描述页面信息。

网页都用http/https(超文本传输协议)协议来传输数据。

爬虫的设计思路:

1、首先设定需要爬取的网页的URL地址;

2、通过HTTP协议来获取响应的HTTP页面;

3、提取HTML页面的信息:

a、如果有用的数据,那就保存起来;

b、如果是需要继续爬取的链接,重新指定第二步。

python3环境下str与bytes类型数据的转换:

bytes:二进制

互联网上数据都是以二进制的方式传输的

str:unicode的呈现形式


注意点:encode方法与decode方法需要解码方法一致,默认为utf-8如:a.encode('utf8'),另外还有gbk。如使用a.encode('utf8'),则,a.decode('utf8'),这两个方法的参数必须对应一致。

Unicode UTF8 ASCII的补充

字符(Character)是各种文字和符号的总称,包括各国家文字、标点符号、图形符号、数字等

字符集(Character set)是多个字符的集合

字符集包括:ASCII字符集、GB2312字符集、GB18030字符集、Unicode字符集等

ASCII编码是1个字节,而Unicode编码通常是2个字节。

UTF-8是Unicode的实现方式之一,UTF-8是它是一种变长的编码方式,可以是1,2,3个字节

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 可以看我的博客 lmwen.top 或者订阅我的公众号 简介有稍微接触python的人就会知道,python中...
    ayuLiao阅读 3,267评论 1 5
  • 字符集和编码简介 在编程中常常可以见到各种字符集和编码,包括ASCII,MBCS,Unicode等字符集。确切的说...
    兰山小亭阅读 8,791评论 0 13
  • 编码问题一直困扰着开发人员,尤其在 Java 中更加明显,因为 Java 是跨平台语言,不同平台之间编码之间的切换...
    x360阅读 2,529评论 1 20
  • 希望我三十岁时还未丧失对生活的希望 四十岁时还喜欢吃甜点 五十岁时还能穿旗袍 六十岁时还有个老头带我去看海 啊 还...
    软腻天使阅读 272评论 0 0
  • 我想我今天应该是开挂了,一天画了三幅。这幅猫咪是晚上一边跟着网上免费课程,一边对着照片画的,第一次画长毛的~自我感...
    小鱼妖阅读 617评论 7 10