scrapy 常用自定义函数一

import hashlib,re,time
from urllib import parse

#根据特定字符串生成MD5

def md5_num(value):
      s = hashlib.md5()
      s.update(value.encode('utf-8'))
      return s.hexdigest()

#网址解码
def url_decode(url):
      new_url = parse.unquote(url)
      format_str = re.match('(^http.*?\.html).*?',new_url,re.S)
      return format_str[0]
#时间戳转化为固定格式时间
def time_now(timer):
      return time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(timer))

#提取详情页URL的数字ID
def id_number(url):
      number = re.search('.*?(?P<number>\d+).*?',url)
      return number.group('number')
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。