PyQuery库也是一个非常强大又灵活的网页解析库,如果你有前端开发经验的,都应该接触过jQuery,那么PyQuery就是你非常绝佳的选择,PyQuery 是 Python 仿照 jQuery 的严格实现。语法与 jQuery 几乎完全相同,所以不用再去费心去记一些奇怪的方法了。本文只介绍一些常用方法,更多请参照:
官网地址:http://pyquery.readthedocs.io/en/latest/
jQuery参考文档: http://jquery.cuishifeng.cn/
样例html:
html = '''<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>古明地觉</title>
</head>
<body>
<p id="bili"><a href="http://www.bilibili.com">想进入基佬的大门吗?还等什么,快点击吧</a></p>
<p class="s1">my name is satori</p>
<div>
<p class="s1">古明地恋</p>
</div>
<table >
<tbody>
<tr>
<td>姓名:</td>
<td><input type="text" name="name"></td>
</tr>
<tr class="tr">
<td>密码:</td>
<td><input type="password" name="password"></td>
</tr>
<tr>
<td></td>
<td><input type="submit" value="提交"></td>
</tr>
</tbody>
</table>
<a href="http://www.baidu.com" target="_blank">百度</a>
<a href="http://www.yahoo.com">雅虎</a>
</body>
</html>
一 pyquery可接收对象
1 html字符串
from pyquery import PyQuery as pq
doc = pq(html) #字符串的初始化
print(doc('head')
2 html文件
from pyquery import PyQuery as pq
doc = pq(filename='index.html') #接收html文件
print(doc('head')
3 一个网址
from pyquery import PyQuery as pq
doc = pq('https://www.baidu.com') #接受一个网址,自动下载,生成pq对象
print(doc('head')
二 使用选择器
- 标签选择器
print(doc('head')) 打印出来的仍然是一个PyQuery类型
print(str(doc('head'))) 打印出来是一个字符串
print(doc('doc').html()) 或者调用html方法,但是此时获取到的内容不包含head标签,也是一个str类型
如果有很多标签,比如a标签,在调用html方法的时候,只会打印第一个a标签里面的内容
获取文本
print(doc('head').text())
- css选择器
print(doc('table tbody .tr td')) 获取table下的class=tr的标签下的所有td标签
print(doc('table tbody .tr td').eq(0)) 获取第一个(就算索引越界,也不会报错,而是打印空行)
# 常用方法
doc(".color"):获取class=color的标签
doc("#color"):获取id=color的标签
doc("*"):获取所有的标签
doc("p"):获取所有的p标签
doc("div,p"):获取所有的div标签和p标签
doc("div p"):获取所有div标签内部的p标签
doc("[target]"):选择带有target属性的所有元素
doc("[target=_blank]"):选择带有target=_blank的所有元素
三 find()和 filter()
find 和filder区别:
filter() :是过滤所有符合条件的标签
find(): 在符合条件的标签内部找
例子:
p("p").filter(".fuck")表示的是有很多的p标签,我在选出的这么多p标签中,找到class=fuck的p标签
p("p").find(".fuck")表示的是有很多的p标签,我在选出的这么多p标签中,找到其内部满足class=fuck的其他标签
四 节点查找
tbody= doc('tbody')
print(tbody.find('tr')) find()的查找范围是节点的所有子孙节点
print(tbody.children('tr')) 只查找子节点
print(tbody.parent('tr')) 查找父节点
print(tbody.parents('tr')) 查找祖先节点
print(tbody.siblings('tr')) 查找兄弟节点
五 遍历
pyquery的选择结果可能是多个节点,也可能是单个节点,类型都是PyQuery类型,并没有返回像Beautiful Soup那样的列表,通过items函数来生成遍历列表。
trs= doc('tr').items()
for tr in trs:
print(tr.find('td'))
六 获取信息
- 获取属性attr
a = doc('._target')
print(a.attr('href')) 注意如果选中的有多个a标签,这时候调用attr()方法只会返回第一个a的属性值,次是就只能通过遍历a.items()来获取对应的属性值了
- 获取文本text
p = doc('#bili')
p.text() 选取p标签内部的所有纯文本
p.html() 选取p标签内部包含html的文本
这个地方值得注意,如果得到的结果是多个节点,并且想要获取每个节点的内部HTML文本,则需要遍历每个节点。而text()方法不需要遍历就可以获取,它将所有节点取文本之后合并成一个字符串。
七 节点操作
p = doc('#bili')
p.addClass('active') 为p节点添加class 的active属性
p.removeClass('active') 删除p节点class 的active属性
p.remove() 删除p节点
除了操作class这个属性外,也可以用attr()方法对属性进行操作。此外,还可以用text()和html()方法来改变节点内部的内容
html = '''
<ul class="list">
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
</ul>
'''
from pyquery import PyQuery as pq
doc = pq(html)
li = doc('.item-0.active')
print(li)
li.attr('name', 'link') 第一个参数为属性名,第二个参数为属性值
li.text('changed item') 直接传入修改后的text内容
li.html('<span>changed item</span>') 直接传入修改后的html内容
总结:
如果attr()方法只传入第一个参数的属性名,则是获取这个属性值;如果传入第二个参数,可以用来修改属性值。text()和html()方法如果不传参数,则是获取节点内纯文本和HTML文本;如果传入参数,则进行赋值。
此外,还有很多节点操作,参照官方文档:http://pyquery.readthedocs.io/en/latest/api.html
八 伪类选择器
CSS选择器之所以强大,还有一个很重要的原因,那就是它支持多种多样的伪类选择器,例如选择第一个节点、最后一个节点、奇偶数节点、包含某一文本的节点等
html = '''
<div class="wrap">
<div id="container">
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
</ul>
</div>
</div>
'''
from pyquery import PyQuery as pq
doc = pq(html)
li = doc('li:first-child') # 选择第一个节点
li = doc('li:last-child') # 选择最后一个节点
li = doc('li:nth-child(2)') # 选择第二个节点
li = doc('li:gt(2)') # 第三个li之后的li节点
li = doc('li:nth-child(2n)') # 偶数位置的li节点