一、安装 selenium
pip install selenium
二、下载chromedriver
根据chrome(Version 76.0.3809.132 (Official Build) (64-bit))的版本选择对应的chromedriver版本到淘宝镜像下载
下载后，将安装包加入到环境变量。以mac系统为例，将chromedriver移至/usr/bin目录下即可
sudo mv ~/Downloads/chromedriver /usr/bin
验证安装
~ chromedriver
Starting ChromeDriver 76.0.3809.12 (220b19a666554bdcac56dff9ffd44c300842c933-refs/branch-heads/3809@{#83}) on port 9515
Only local connections are allowed.
Please protect ports used by ChromeDriver and related test frameworks to prevent access by malicious code.
测试能否调用chrome
~ python3.7
Python 3.7.3 (default, Mar 27 2019, 09:23:15)
[Clang 10.0.1 (clang-1001.0.46.3)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> from selenium import webdriver
>>> browser = webdriver.Chrome()
>>>
成功.png
三、Pycharm 测试案例
自动打开百度首页并休眠几秒钟后自动关闭
from selenium import webdriver
import time
driver = webdriver.Chrome() # 创建实例
driver.get("http://www.baidu.com") # 请求百度首页
time.sleep(6) # 睡眠六秒
driver.quit() # 退出浏览器
image.png
操作代码如下(注：操作的组件即属性的话在源码中查看)：
from selenium import webdriver
import time
# driver = webdriver.Chrome() # 创建实例
# driver.get("http://www.baidu.com") # 请求百度首页
# time.sleep(6) # 睡眠六秒
# driver.quit() # 退出浏览器
# browser = webdriver.Chrome()
# browser.get("https://3416230579.github.io/page/index.html")
# 操作一
#elemt = browser.find_element_by_id("element_id") #根据 id 获取对象
# elemt = browser.find_element_by_name("element_id") #根据 name 获取对象
# print(elemt.tag_name) #返回标签名
# print(elemt.text) #返回标签的值
# elemt.send_keys("哈哈哈")#给标签输入值
# 操作二
# elemt = browser.find_element_by_link_text("find_element_by_link_text")
# print(elemt.tag_name) #返回标签名
# print(elemt.text) #返回标签的值
# elemt.click()#点击
# 操作三
# 利用 css选择器 获取 class='highlight' 标签对象并自动填值
# elemt = browser.find_element_by_css_selector(".highlight")
# elemt.send_keys("啦啦啦")
# # 利用 xpath 获取 id='xpathname' 标签对象并自动填值
# elemt = browser.find_element_by_xpath(r'//*[@id="xpathname"]')
# elemt.send_keys("我的 xpath")
# 操作四
# 获取跳转后页面的源码
# time.sleep(2)
# elemt = browser.find_element_by_link_text("find_element_by_link_text")
# elemt.click()
# browser.switch_to_window(browser.window_handles[1])
# print(browser.page_source)
# 操作五
# 操作弹出框
# time.sleep(2)
# elem = browser.find_element_by_tag_name("button")
# elem.click()
# time.sleep(2)
# browser.switch_to_alert().accept() # 切换到弹出框操作
# 操作六
# 跳转和回退操作
# time.sleep(2)
# elem = browser.find_element_by_link_text("forward_back")
# elem.click() # 点击跳转
# time.sleep(1)
# browser.back() # 点击回退
# time.sleep(2)
# browser.forward() # 调到上一次点击
# time.sleep(1)
# browser.back() # 回退
# 操作七
# Cookies 的操作
# browser = webdriver.Chrome()
# browser.get("https://www.baidu.com")
# print(browser.get_cookies()) # 输出全部的 cookie 的信息
# 添加一个 cookie
# browser.add_cookie({"name":"luchangyin", "domian":"www.baidu.com","value":"肥牛冲天"})
# print(browser.get_cookies())
# browser.delete_all_cookies() # 全部删除
# print(browser.get_cookies())
# 操作八
# 自动打开百度并根据关键字搜索相关的内容
from selenium.webdriver.common.keys import Keys
browser = webdriver.Chrome()
browser.get("https://www.baidu.com")
elem = browser.find_element_by_id("kw")
elem.send_keys("python爬虫") # 输入
time.sleep(2) # 休眠
elem.send_keys(Keys.RETURN) # 回车
time.sleep(3)
browser.quit() # 关闭
四、实战 - 登录知乎并爬取信息
1）先看观察登录界面的标签规律：
image.png
2）导入我们所需要的所有包：
from selenium import webdriver
import time
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.common.exceptions import TimeoutException, NoSuchElementException
3)根据效果图编写登录代码：
# 声明浏览器对象
browser = webdriver.Chrome()
browser.get("https://www.zhihu.com/signin")
def login_zhihu(browser):
try:
#获取登录用户名
elem = browser.find_element_by_name("username")
elem.clear() # 清空
elem.send_keys("用户名") # 自动填值
elem.send_keys(Keys.RETURN)#回车
time.sleep(3)
#获取登录密码
elem = browser.find_element_by_name("password")
elem.clear()
elem.send_keys("密码")
elem.send_keys(Keys.RETURN)#回车
time.sleep(2)
print("开始登陆...")
#Button SignFlow-submitButton Button--primary Button--blue
elem = browser.find_element_by_css_selector(".Button.SignFlow-submitButton.Button--primary.Button--blue")
#elem = browser.find_element_by_xpath(r'//button[@class="Button SignFlow-submitButton Button--primary Button--blue"]')
elem.click()
print("开始休眠...")
#显示等待 选择“首页”选项
element = WebDriverWait(browser, 15).until(EC.title_contains(u'首页'))
print("已选择...")
except TimeoutException:
print("Time Out")
except NoSuchElementException:
print("No Element")
4)观察登陆后的页面：
5)获取代码如下:
# url 去重
urls = set()
def get_information(browser):
print("开始获取信息。。。")
elems = browser.find_elements_by_css_selector(".ContentItem-title")
for elem in elems:
link_elem = elem.find_element_by_tag_name("a")
if link_elem.text in urls:
pass
else:
print(link_elem.text) # 标题
print(link_elem.get_attribute("href")) # 链接
urls.add(link_elem.get_attribute("href"))
6）将进度条自动下拉到最底部实现 js 的加载：
# 滚动加载
def scroll_load(browser):
#利用 execute_script() 方法将进度条下拉到最底部
browser.execute_script("window.scrollTo(0, document.body.scrollHeight);")
browser.implicitly_wait(2) # 隐式等待
7）编写主函数并调用：
# 主主函数
def main():
login_zhihu(browser) # 登录函数
for i in range(3): #滚动三次
get_information(browser) # 获取标题与链接
scroll_load(browser) # 滚动
time.sleep(1) # 休眠
# 函数入口调用
if __name__ == '__main__':
main()
input("按任意键退出-> ")
browser.quit()
运行结果如下：
8）当使用有界面爬取少量页面信息的方式还好，但是爬取很多页面的话那可就不好了-太多弹出窗口页面，值得注意的是： 从 Chrome 59 开始已经开始支持 Headless 模式，即无界面模式，这样爬取的时候就无需弹出浏览器界面了，接下来我们简单的去使用以下：
chrome_options = webdriver.ChromeOptions() # 获取 ChromeOptions 对象
chrome_options.add_argument('--headless') # 添加 headless 参数
browser = webdriver.Chrome(chrome_options=chrome_options) # 初始化 Chrome 对象
browser.get(r"http://www.baidu.com/")
# 截屏
browser.get_screenshot_as_file("C:\\Users\\Administrator\\Desktop\\aaa\\daima\\lcy.jpg")
html = browser.page_source # 这里是源码，接下来就可以使用 正则 或者 xpath 表达式解析了
print("成功提取源码-> ", html)
转载： https://www.jianshu.com/p/39716ea15d99
转载： https://www.jianshu.com/p/a1a64f649472
