本主题实现请求一个首页,并爬取首页中jpg,png图像的程序。本主题使用的技术:
- requests请求页面内容的模块
- 正则表达式
- os目录操作
- cv2中图像解码与保存操作API
一、代码
import re
import requests
import os
import cv2
import numpy as np
url = 'http://www.huanqiu.com'
session = requests.Session()
response = session.get(url)
content = response.content.decode('UTF-8')
regex = r'src="(\b.*?\.jpg\b|\b.*?\.png\b|)"'
result = re.findall(regex, content, re.M) # 多行模式
# 文件名正则表达式
img_regex = r'.+/(.+)$'
save_path = 'images'
if not os.path.exists(save_path):
os.makedirs(save_path)
for img in result:
img_content = session.get(img)
# print(img_content.content)
# 解析出文件名
result = re.findall(img_regex, img, re.M)
buffer = cv2.imdecode(np.frombuffer(img_content.content, np.uint8), 1)
# 注意不能写gif文件
print(os.path.join(save_path,result[0]))
cv2.imwrite(os.path.join(save_path,result[0]), buffer) # 保存
print('---over---')
二、执行效果
环球网下载后的图片