xpath语法

安装

pip install lxml

表达式	描述
nodename	选取此节点的所有子节点。
/	从根节点选取。
//	从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
.	选取当前节点。
..	选取当前节点的父节点。
@	选取属性。

谓语

路径表达式	结果
/bookstore/book[1]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3]	选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]	选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang=’eng’]	选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00]	选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title	选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。

选取未知节点

通配符	描述
*	匹配任何元素节点。
@*	匹配任何属性节点。
node()	匹配任何类型的节点。

例子：

路径表达式	结果
/bookstore/*	选取 bookstore 元素的所有子元素。
//*	选取文档中的所有元素。
//title[@*]	选取所有带有属性的 title 元素。
选取若干路径	通过在路径表达式中使用“\|”运算符，您可以选取若干个路径。
//book/title	//book/price 选取 book 元素的所有 title 和 price 元素。
//title	//price 选取文档中的所有 title 和 price 元素。
/bookstore/book/title	//price 选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。

轴

轴可定义相对于当前节点的节点集。

轴名称	结果
ancestor	选取当前节点的所有先辈（父、祖父等）。
ancestor-or-self	选取当前节点的所有先辈（父、祖父等）以及当前节点本身。
attribute	选取当前节点的所有属性。
child	选取当前节点的所有子元素。
descendant	选取当前节点的所有后代元素（子、孙等）。
descendant-or-self	选取当前节点的所有后代元素（子、孙等）以及当前节点本身。
following	选取文档中当前节点的结束标签之后的所有节点。
namespace	选取当前节点的所有命名空间节点。
parent	选取当前节点的父节点。
preceding	选取文档中当前节点的开始标签之前的所有节点。
preceding-sibling	选取当前节点之前的所有同级节点。
self	选取当前节点。

步的语法：
轴名称::节点测试[谓语]

例子：

例子	结果
child::book	选取所有属于当前节点的子元素的 book 节点。
attribute::lang	选取当前节点的 lang 属性。
child::*	选取当前节点的所有子元素。
attribute::*	选取当前节点的所有属性。
child::text()	选取当前节点的所有文本子节点。
child::node()	选取当前节点的所有子节点。
descendant::book	选取当前节点的所有 book 后代。
ancestor::book	选择当前节点的所有 book 先辈。
ancestor-or-self::book	选取当前节点的所有 book 先辈以及当前节点（如果此节点是 book 节点）
child::*/child::price	选取当前节点的所有 price 孙节点。

函数

1. starts-with函数

获取以xxx开头的元素
例子：xpath(‘//div[stars-with(@class,”test”)]’)

2 contains函数

获取包含xxx的元素
例子：xpath(‘//div[contains(@id,”test”)]’)

3 and

与的关系
例子：xpath(‘//div[contains(@id,”test”) and contains(@id,”title”)]’)

4 text()函数

例子1：xpath(‘//div[contains(text(),”test”)]’)
例子2：xpath(‘//div[@id=”“test]/text()’)

bs4

安装

pip install beautifulsoup4

一、标签选择器

通过soup.标签名就可以获得这个标签的内容

print(soup.title)

获取p标签

print(soup.p)

获取第一个p标签的文本内容

print(soup.p.string)

嵌套选择

获取head标签下的title标签的文本内容

print(soup.head.title.string)

节点选择

p标签的子节点

contents返回的是列表

print(soup.p.contents)

chilren 返回的是迭代对象

le=soup.p.children
for i in le:
    print(i)

父节点

print(soup.a.parent)

获取所有超链接

for link in soup.find_all('a'):
    print(link.get('href'))

获取标签文本内容

print(soup.get_text())

二、标准选择器

find_all(name,attrs,text)

可以根据标签名，属性，文本内容查找文档

find()：返回匹配结果的一个元素

from bs4 import BeautifulSoup
soup= BeautifulSoup(html,'lxml')

(1)name 的用法

print(soup.find_all('ul'))

结果返回的一个列表的方式

print(soup.find_all('ul')[0])

查找所有ul标签下的li标签

for ul in soup.find_all('ul'):
    print(ul.find_all('li'))

(2) attrs的用法

print(soup.find_all(attrs={'id':'list-1'}))

找class属性值是panel-heading的对应标签

print(soup.find_all(attrs={'class':'panel-heading'}))

（3）text

print(soup.find_all(text='Foo'))

三、css选择器

select()
1.表示class ,#表示id
2.其他属性比如：[name=Tom]
3.标签1，标签2 找到所有的标签1和标签2
4.标签1 标签2 找到标签1内部的标签2

获取属性class值是panel的标签下的class属性值是panel-body的标签

print(soup.select('.panel .panel-body'))

获取ul标签下的所有li标签

print(soup.select('ul li'))

获取id属性为list-2的标签内部的class属性值是element的标签

print(soup.select('#list-2 .element'))

获取文本内容
get_text()可以获取文本内容

for li in soup.select('li'):
    print(li.get_text())

Python 爬虫 - Xpath、bs4