新手学做python爬虫

本人是个爬虫小萌新,看了网上教程学着做了一些,如果有什么问题请大佬们反馈,谢谢。

以下是用lxml来爬取的。

`from lxml import etree

def getHTMLText(url):

kv = {

‘cookie’: ‘ssids=1581214855718752; sfroms=JIAOYIMALL001; historyScanGame=%5B%225667%22%2Cnull%5D; session=1581214855718753-7; showFixGuideDialog=true’

, ‘user-agent’: ‘Mozilla/5.0’}

r = requests.get(url, headers=kv)

r.raise_for_status()

r.encoding = ‘utf-8’

return r.text

def shixian(url):

htmls = etree.HTML(url)

mc = htmls.xpath(

‘//div[@class=”wrap”]/div[@class=”mod-con sel-content “]/div[@class=”bd”]/ul[@class=”list-con specialList”]/li[@name=”goodsItem”]/span[@class=”name”]/span[@class=”is-account”]/a/text()’)

price = htmls.xpath(

‘//div[@class=”wrap”]/div[@class=”mod-con sel-content “]/div[@class=”bd”]/ul[@class=”list-con specialList”]/li[@name=”goodsItem”]/span[@class=”price”]’)

count = 0

tplt = “{:4}\t{:12}\t{:20}”

print(tplt.format(“序号”, “价格”, “商品”))

for i in range(len(mc)):

count = count + 1

print(tplt.format(count, price[i].text, mc[i], chr(12288)))

if name == ‘main‘:

url=’https://www.fgba.net/forum-53-1.html

lists=[]

url=url+’-n’+’1’+’.html’

html=getHTMLText(url)

shixian(html)`

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容