目录
1.读写文件
2.时间设置
3.正则表达式
4.计算机通信
5.爬虫
1.读写文件
python可以把数据储存在文件中,通过f = open(文件名, 方式)来打开文件对象读取数据。打开文件的常用方式有“r”:读取已存在的文件,“w”:新建文件并写入,“a”:如果文件存在,那么写入到文件的结尾。如果文件不存在,则新建文件并写入。打开文件后就可以通过函数读取或者写入文件了,有关函数如下
上下文管理器(context manager)用于规定某个对象的使用范围。一旦进入或者离开该使用范围,则会有特殊操作被调用,如在不需要文件的时候自动关闭文件。
上面讲到文本可以通过写入到文件而保存到电脑磁盘中,python中的对象同样可以这样做,不过需要利用pickle包。通过pickle包储存对象分两步走,第一是序列化对象(dumps函数),即将对象在内存中的数据抓取出来转换成一个有序文本,第二是将文本写入文件储存,代码如下
对象保存在文件中后,当需要用到它时就可以通过pickle包的load()函数来将文本转换成对象了。
2.时间设置
python的time包可以帮助我们进行各种时间的管理,如
time包还定义了struct_time对象。该对象将挂钟时间转换为年、月、日、时、分、秒等,存储在该对象的各个属性中,比如tm_year、tm_mon、tm_mday……下面几种方法可以将挂钟时间转换为struct_time对象:
python的datetime包是基于time包的一个高级包,datetime模块下有两个类:datetime.date类和datetime.time类,可以分别管理日期和时间。也可以直接用datetime.datetime类同时管理日期和时间。方法如下
利用datetime包的timedelta函数还可以进行时间间隔的运算
datatime包中的strptime函数可以将字符串中的时间信息转换成datetime类的对象,比如
相反,可以同strftime函数将datetime对象转换为特定格式的字符串,
可以看到,使得转换一一对应的关键就是%引领的符号,除了上面的符号外还有
3.正则表达式
正则表达式(Regular Expression)的主要功能是从字符串(string)中通过特定的模式,搜索希望找到的内容,需要通过re包来实现,先看一段代码
re.search()有两个参数,第一个参数是给出了搜索范围0-9,第二个参数是表示给出的字符串中有哪些字符串在搜索范围内出现的,如果有就赋值给m。m.group()表示查看搜索到的结果,没有结果会返回None。
除了re.search()外,re.match()也可以进行搜索,不同的是后者必须是字符串的第一个字符开始就相符才能正常进行,否则返回None。
搜素到的字符串可以用sub()函数进行替换,形如str = re.sub(pattern, replacement, string),replacement就是替换用的的字符串。常用的方法还有
关于正则表达式,常用的语法有下面这些
举个例子,第一个,[0-9]{3,5}表示出现在[0-9]内的字符重复(连续)出现了3-5次,正例“9678”(4次),反例“12”(2次)、“1234567”(7次)。第二个,a?b表示ab中的a可以出现可以不出现,正例“b”(不出现)、“ab”(出现),反例“cb”(并不是ab形式)。第三个,a+b表示a可以重复1次或以上,正例“aaaaab”(a重复了5次再跟b),反例“b”(不是ab形式,没有a了)。
还有一些与位置相关的符号
正则表达式的群,上面已经提到过可以用group(0)来查看提取的字符串,其实这就表示查看所有的提取结果。如果我们把提取到的结果分成几个部分,就成了几个群,以用于进一步提取字符串,如
群还可以被命名
4.计算机通信
计算机之间的通信有一套多层次的协议体系,HTTP(the Hypertext Transfer Protocol)就是最常见的一种,即超文本传输协议。HTTP协议能实现文件,特别是超文本文件的传输。HTTP的工作步骤分为两步:请求(request)、回复(response)。计算机发出请求时会遵照下面格式
·GET:用于说明想要服务器执行的操作。
·/index.html: 资源的路径,这里指向服务器上的index.html文件。
·HTTP/1.1协议的版本,HTTP第一个广泛使用的版本是1.0,当前版本为1.1。
·Host: www.example.com:Host后面是要访问的服务器地址。
服务器在接收到请求之后,会根据程序,生成对应于该请求的回复,比如:
·HTTP/1.1:协议版本
·200:状态码(status code)
·OK:状态描述(其它描述有302:重新定向。404:无法找到)
·Content-type: text/plain:主体所包含的资源类型为普通文本(其它类型有text/html:HTML文 本、image/jpeg:jpeg图片、image/gif:gif图片
·Content-length:12:主体本分的长度为12字节
·Hello World!:回复的主体部分
Python标准库中的http.client包可用于发出HTTP请求,
5.爬虫
网络爬虫应用很广,它可以自动浏览网页,从网页上抓取我们想要的信息。许多研究互联网行为的学者也会用爬虫抓取网络信息,用来进一步分析人们使用互联网的行为。我们现在可以利用前面所学的知识做一个简单的程序,实现提取博客最近文章的发表日期和阅读量。
第一步:访问博客首页,作者的博客地址是www.cnblogs.com/vamei,主机是www.cnblogs.com,资源位置是/vamei。这个页面是一个超文本文件,所以我们用 HTTPS协议访问:
第二步:通过正则表达式提取有用信息(日期、时间和阅读量):
结果为: