爬虫:Selenium使用

*   selenium:web自动化测试工具,selenium可以直接运行在浏览器上

*   但是并不自带浏览器,需要有浏览器驱动,selenium可以根据我们的代码指令

*   让浏览器自动加载 页面,这时我们得到的页面源码是经过浏览器加载渲染的

*   然后我们就可以在页面源码中寻找节点(动态加载的页面,模拟登陆)

*   Selenium 库里有个叫 WebDriver 的 API。WebDriver 有点儿像可以加载网站的浏览器,但是它也可以像 BeautifulSoup 或者其他 Selector 对象一样用来查找页面元素,与页面上的元素进行交互 (发送文本、点击等),以及执行其他动作来运行网络爬虫。

*   注意: 我们使用的有界面浏览器,它虽然方便我们观察,但是在实际运用中是非常消耗性能的 我们也可以使用Chrome的无界面浏览器,除了没有浏览器界面以外,其它的相关操作都与有界面浏览器相同

*   下载驱动要对应你的浏览器版本
    **谷歌驱动(chromedriver)下载地址**: [http://chromedriver.storage.googleapis.com/index.html](http://chromedriver.storage.googleapis.com/index.html)
    **火狐驱动下载路径(GeckoDriver)**:[https://github.com/mozilla/geckodriver/releases](https://github.com/mozilla/geckodriver/releases)

*   使用前需要导入

> from selenium import webdriver

### 使用谷歌浏览器驱动

driver = webdriver.Chrome(executable_path=''浏览器驱动路径地址")

### 使用火狐浏览器驱动

driver = webdriver.Firefox(executable_path=''浏览器驱动路径地址")

#### 如果要设置无头

*   火狐

> opt = webdriver.FirefoxOptions()
> opt.set_headless()
> driver = webdriver.Firefox(options=opt, executable_path=''浏览器驱动路径地址")

*   谷歌

> opt = webdriver.ChromeOptions()
> opt.set_headless()
> driver = webdriver.Chrome(options=opt, executable_path=''浏览器驱动路径地址")

### 设置超时时间

driver.set_page_load_timeout(10)

### 加载页面

driver.get('[http://www.baidu.com/'](http://www.baidu.com/'))

### 在加载页面的时候,我们可以导入容错模块,可避免其他因素导致程序崩溃

> from selenium.common import exception
> try:
> driver.get('[https://www.baidu.com/'](https://www.baidu.com/'))
> except exceptions.TimeoutException as err:
> print(err,'请求超时')

# 获取页面源码:获得浏览器渲染后的页面源码

> page_html = driver.page_source

### 获取到cookie信息:

*   获取所有cookie

> cookies = driver.get_cookies()

*   获得某一个cookie值

> get_cookie('BD_UPN')
> cookies_dict ={cookie['name']:cookie['value'] for cookie in cookies}

### 删除cookie

> driver.delete_cookie('BD_UPN')

### 删除所有cookie

> driver.delete_all_cookies()

### 添加cookie

> driver.add_cookie()

### 节点操作和定位

driver.find_element_by_xpath() :根据XPAth路径定位(单个)
driver.find_elements_by_xpath():所有的
driver.find_element_by_css_selector()
driver.find_element_by_link_text():根据标签的文本内容(完整)定位
driver.find_element_by_partial_link_text():更具标签文本内容局部定位
driver.find_element_by_class_name():根据class属性
driver.find_element_by_id():根据id属性寻找节点


### 找到节点,并且输入内容

> driver.find_element_by_id('kw').send_keys('隔壁老王')

### 清空输入框

> driver.find_element_by_id('kw').clear()

### 要想调用键盘按键操作需要引入keys包

> from selenium.webdriver.common.keys import Keys

##### 模拟回车键

> driver.find_element_by_id('su').send_keys(Keys.RETURN)

### 找到按钮模拟点击

> driver.find_element_by_id('su').click()

### 保存屏幕截图

> driver.save_screenshot('baidu.png')

### 后退

> driver.back()

### 前进

> driver.forward()

### 设置页面等待

*   因为selenium加载页面和浏览器一样都需要时间

# 特别是动态页面,如果在页面未加载出来之前,寻找节点会报异常(no such -lements)

*   所以需要设置页面等待

1.  time.sleep(3)
2.  设置隐士等待:特定的时间,如果没有出现我们寻找的节点。隐士等待将会等待一会儿继续查找

> driver.implicitly_wait(10)

3.  设置显示等待

*   指定一个最长等待时间,直到某一条件成立继续执行,- 如果在指定时间内没有满足条件(没有找到节点),这时候就会抛出异常

from selenium.webdriver.common.by import By # 导入By,根据某个条件查找节点
from selenium.webdriver.support.ui import WebDriverWait # 设置等待时间
from selenium.webdriver.support import expected_conditions # 设置等待条件

a_element = WebDriverWait(driver,10).until(
expected_conditions.presence_of_element_located((By.CLASS_NAME,'n'))
) # 设置最长等待时间,知道满足某一条件
print(a_element.text)


### 获取节点的文本和属性:

*   通过get_attribute('href')获取标签属性
*   text获取某节点下的文本内容

try:
href = driver.find_element_by_xpath('//h3[@class="t"]/a').get_attribute('href')
print(href)
# 获取标签的文本
title = driver.find_element_by_xpath('//h3[@class="t"]/a').text
print(title)
except exceptions.NoSuchElementException as err:
print('没有找到节点')


### 执行js语句

*   隐藏图片

imgs = driver.find_elements_by_xpath('//img')
for img in imgs:
driver.execute_script('$(arguments[0]).fadeOut()')


*   向下滚动到页面底部

> driver.execute_script('window.scrollTo(0,document.body.scrollHeight)')

*   弹出弹窗

> driver.execute_script('alert("This is a alert")')

*   切换浏览器窗口,从0开始,0代表第一个 [第几个窗口]

> driver.switch_to.window(driver.window_handles[1])

*   如果在点击某个按钮时出现被遮盖的问题,可以进行以下操作:

> mulu = driver.find_element_by_xpath('//a[@id="j_catalogPage"]')
> js = "arguments[0].click();"
> driver.execute_script(js,mulu)

### 关闭当前所在的窗口

> driver.close()

### 退出浏览器

> driver.quit()



©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容