pythonx3-正则表达式

正则表达式

作者:詹亮

  1. 简介

    正则表达式本身是一种小型的、高度专业化的编程语言,而在python中,
    通过内嵌集成re模块,程序媛们可以直接调用来实现正则匹配。
    正则表达式模式被编译成一系列的字节码,然后由用C编写的匹配引擎执行。

  2. 语法规则

    1. 普通字符和11个元字符:

      普通字符 匹配自身 abc abc
      . 匹配任意除换行符"\n"外的字符(在DOTALL模式中也能匹配换行符 a.c abc
      |转义字符,使后一个字符改变原来的意思 a.c;a\c a.c;a\c
      * 匹配前一个字符0或多次 abc* ab;abccc
      + 匹配前一个字符1次或无限次 abc+ abc;abccc
      ? 匹配一个字符0次或1次 abc? ab;abc
      ^ 匹配字符串开头。在多行模式中匹配每一行的开头 ^abc abc
      $ 匹配字符串末尾,在多行模式中匹配每一行的末尾 abc$ abc
      | 或。匹配 左右表达式任意一个,从左到右匹配,如果 没有包括在()中,则它的范围是整个正则表达式 abc defabcdef
      {} {m}匹配前一个字符m次,{m,n}匹配前一个字符m至n次,若省略n,则匹配m至无限次 ab{1,2}c abc abbc
      [] 字符集。对应的位置可以是字符集中任意字符。字符集中的字符可以逐个列出,也可以给出范围,如[abc]或[a-c]。[^abc]表示取反,即非abc。所有特殊字符在字符集中都失去其原有的特殊含义。用\反斜杠转义恢复特殊字符的特殊含义。 a[bcd]e abe ace ade
      () 被括起来的表达式将作为分组,从表达式左边开始没遇到一个分组的左括号“(”,编号+1.分组表达式作为一个整体,可以后接数量词。表达式中的 仅在该组中有效。 (abc){2}a(123 456)c abcabc a456c

      这里需要强调一下反斜杠\的作用:

      • 反斜杠后边跟元字符去除特殊功能;(即将特殊字符转义成普通字符)
      • 反斜杠后边跟普通字符实现特殊功能;(即预定义字符)
      • 引用序号对应的字组所匹配的字符串。
          a=re.search(r'(tina)(fei)haha\2','tinafeihahafei tinafeihahatina').group()
          print(a)
          结果:
          tinafeihahafei
      
    2. 预定义字符集(可以写在字符集[...]中)

      • \d 数字:[0-9]

      • \D 非数字:[^\d]

      • \s 匹配任何空白字符:[<空格>\t\r\n\f\v]

      • \S 非空白字符:[^\s]

      • \w 匹配包括下划线在内的任何字字符:[A-Za-z0-9_]

      • \W 匹配非字母字符,即匹配特殊字符

      • \A 仅匹配字符串开头,同^ \Aabc

      • \Z 仅匹配字符串结尾,同$

      • \b 匹配\w和\W之间,即匹配单词边界匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er\b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。 \babc\b
        a\b!bc 空格abc空格
        a!bc

      • \B [^\b]

          import re
          w = re.findall(r'\bzhan','zhan liang')
          print(w)
          s = re.findall(r'\btina','tiana tinaaaa')
          print(s)
          v = re.findall(r'\btina','tian#tinaaaa')
          print(v)
          a = re.findall(r'\btina\b','tian#tina@aaa')
          print(a)
      
    3. 特殊分组用法:

      (?P<name>) 分组,除了原有的编号外再指定一个额外的别名 (?P<id>abc){2} abcabc
      (?P=name) 引用别名为<name>的分组匹配到字符串 (?P<id>\d)abc(?P=id) 1abc15abc5
      \<number> 引用编号为<number>的分组匹配到字符串 (\d)abc\1 1abc15abc5
      1. (?P<tag>abc)就是把abc这个匹配项取个别名,这样后面用到abc的时候就用tag来代替了,比如

        import re
        
        str2='<li>aaa</li><li>bbb</li><li>ccc</li><a>eeee</a>'
        
        # 找出格式为<xxx>..</xxx>的元素,因为我们把\w+取名为dd,那么意味着后面的结束标签中的内容也必须和dd变量的内容一模一样
        reg2=re.compile(r'\<(?P<dd>\w+)\>(\w+)\</(?P=dd)\>')
        
        print(reg2.findall(str2))
        
        #找出单词格式为AABB 的词语
        
        str1='aabb is a word,and ccdd is a word too'
        
        # reg1=re.compile(r'(?P<tt>\w)(?P=tt)(?P<ee>\w)(?P=ee)')
        reg1=re.compile(r'((?P<tt>\w)(?P=tt)(?P<ee>\w)(?P=ee))')
        
        print(reg1.findall(str1))
        
        #\1 \2表示的是位置,类似于‘hello {0},i am {1}’.format(n,m)
        reg3=re.compile(r'(\w)\1(\w)\2')
        
        print(reg3.findall(str1))
        
  1. re模块中常用功能函数

    1. compile()

      编译正则表达式模式,返回一个对象的模式。(可以把那些常用的正则表达式编译成正则表达式对象,
      这样可以提高一点效率。)

          regex01=re.compile(r'^李\w{1,2}$')
          # regex01=re.compile(r'李\w{1,2}')
          #如果不加上开始和结束标志,其实就是匹配部分数据,下面的字符串就会匹配'李小飞'
      
          str01='李小飞龙'
      
          res01=regex01.findall(str01)
          print(res01)
      
    2. match()

      决定re是否在字符串刚开始的位置匹配。//注:这个方法并不是完全匹配。
      当pattern结束时若string还有剩余字符,
      仍然视为成功。想要完全匹配,可以在表达式末尾加上边界匹配符'$'

          #匹配模式
          #如果单纯是测定字符串是否匹配正则表达式的规则,则不需要用到"()"
          #如果没有匹配结果为none
          m = re.match(r'^\d{3}-\d{3,8}$', '010-12345')
          #分组 一定要用到分组符号"()"
      
          m = re.match(r'^(\d{3})-(\d{3,8})$', '010-12345')
          print(m.group(0))
          print(m.group(1))
          print(m.group(2))
          print(m.groups())
          #提取时间
      
          t = '19:05:30'
          rt = re.match(r'^(0[0-9]|1[0-9]|2[0-3]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])$', t)
          print(rt.groups())
      

      没有()就是匹配模式,匹配模式就是从开始第一个字符进行匹配,如果匹配成功,那么后面的内容就不会匹配。有了()就是分组查找模式,有了分组就是把匹配到的内容分组存放

    3. search()

      格式:

      re.search(pattern, string, flags=0)
      
      re.search函数会在字符串内查找模式匹配,只要找到第一个匹配然后返回,如果字符串没有匹配,则返回None。
      
      print(re.search('\dcom','www.4comrunoob.5com').group())
      执行结果如下:
      4com
      
      

      没有()就是查找模式,查找模式就是在当前字符串中查找符合规则的子串,如果找到则停止找找。有了()就是分组查找模式,有了分组就是把匹配到的内容分组存放

    4. findall()

      re.findall遍历匹配,可以获取字符串中所有匹配的字符串,返回一个列表。

      格式:

           re.findall(pattern, string, flags=0)
      
          p = re.compile(r'\d+')
          print(p.findall('o1n2m3k4'))
          执行结果如下:
          ['1', '2', '3', '4']
          复制代码
          import re
          tt = "Tina is a good girl, she is cool, clever, and so on..."
          rr = re.compile(r'\w*oo\w*')
          print(rr.findall(tt))
          print(re.findall(r'(\w)*oo(\w)',tt))#()表示子表达式
          执行结果如下:
          ['good', 'cool']
          [('g', 'd'), ('c', 'l')]
      

      简单爬虫

          regex=re.compile(r'<li>(.+?)</li>')
          str01='
                  <html lang="en">
                  <head>
                      <meta charset="UTF-8">
                      <title>Title</title>
                  </head>
                  <body>
                      <li>001</li>
                      <li>002</li>
                      <li>003</li>
                      <li>004</li>
                  </body>
                  </html>
              '
      
              # str01=re.sub(r"\r|\n", "",str01)
              # print(str01)
              res01=regex.findall(str01)
              
              #不区分大小写
              regex=re.compile(r'<li id=(.+)>(\w+)</li>',flags=re.IGNORECASE)
              print(res01)
      
    5. split()

      按照能够匹配的子串将string分割后返回列表。

      可以使用re.split来分割字符串,如:re.split(r'\s+', text);将字符串按空格分割成一个单词列表。

      格式:

      re.split(pattern, string[, maxsplit])
      
      maxsplit用于指定最大分割次数,不指定将全部分割。
      
      print(re.split('\d+','one1two2three3four4five5'))
      执行结果如下:
      ['one', 'two', 'three', 'four', 'five', '']
      
      
    6. sub()

      使用re替换string中每一个匹配的子串后返回替换后的字符串。

      格式:

       re.sub(pattern, repl, string, count)
       
       复制代码
       import re
       text = "JGood is a handsome boy, he is cool, clever, and so on..."
       print(re.sub(r'\s+', '-', text))
       执行结果如下:
       JGood-is-a-handsome-boy,-he-is-cool,-clever,-and-so-on...
       其中第二个函数是替换后的字符串;本例中为'-'
       
       第四个参数指替换个数。默认为0,表示每个匹配项都替换。
      

      re.sub还允许使用函数对匹配项的替换进行复杂的处理。

      如:re.sub(r'\s', lambda m: '[' + m.group(0) + ']', text, 0);将字符串中的空格' '替换为'[ ]'。

       import re
       text = "JGood is a handsome boy, he is cool, clever, and so on..."
       print(re.sub(r'\s+', lambda m:'['+m.group(0)+']', text,0))
       执行结果如下:
       JGood[ ]is[ ]a[ ]handsome[ ]boy,[ ]he[ ]is[ ]cool,[ ]clever,[ ]and[ ]so[ ]on...
      

一些注意点

  1. re.match与re.search与re.findall的区别:

    re.match只匹配字符串的开始,如果字符串开始不符合正则表达式,
    则匹配失败,函数返回None;而re.search匹配整个字符串,直到找到一个匹配。

        a=re.search('[\d]',"abc33").group()
        print(a)
        p=re.match('[\d]',"abc33")
        print(p)
        b=re.findall('[\d]',"abc33")
        print(b)
        执行结果:
        3
        None
        ['3', '3']
  1. 贪婪匹配与非贪婪匹配

    1. 贪婪模式:在整个表达式匹配成功的前提下,尽可能多的匹配 ( * );
     2. 非贪婪模式:在整个表达式匹配成功的前提下,尽可能少的匹配 ( ? );

   *?  ,+?     ,??  ,{m,n}?
   
   前面的*,+,?等都是贪婪匹配,也就是尽可能匹配,后面加?号使其变成惰性匹配
        

   
        
        ```
        str4='ababbbbbab'

        #reg4=re.compile(r'ab+?')
        reg4=re.compile(r'ab+')

        print(reg4.findall(str4))
        ```
        
        
        ```
            aa<div>test1</div>bb<div>test2</div>cc

            使用贪婪的数量词的正则表达式:<div>.*</div>

            匹配结果:<div>test1</div>bb<div>test2</div>
            使用非贪婪的数量词的正则表达式:<div>.*?</div>

            匹配结果:<div>test1</div>

        ```
        demo1

            a = re.findall(r"a(\d+?)",'a23b')
            print(a)
            b = re.findall(r"a(\d+)",'a23b')
            print(b)
            执行结果:
            ['2']
            ['23']
            
            a = re.match('<(.*)>','<H1>title<H1>').group()
            print(a)
            b = re.match('<(.*?)>','<H1>title<H1>').group()
            print(b)
            执行结果:
            <H1>title<H1>
            <H1>

        demo2

            a = re.findall(r"a(\d+)b",'a3333b')
            print(a)
            b = re.findall(r"a(\d+?)b",'a3333b')
            print(b)
            执行结果如下:
            ['3333']
            ['3333']
            #######################
            这里需要注意的是如果前后均有限定条件的时候,就不存在什么贪婪模式了,非匹配模式失效。

爬虫页面解析

  1. 正则表达式解析

    1. 实际上爬虫一共就四个主要步骤:

      1. 明确目标 (要知道你准备在哪个范围或者网站去搜索)
      2. 爬 (将所有的网站的内容全部爬下来)
      3. 取 (去掉对我们没用处的数据)
      4. 处理数据(按照我们想要的方式存储和使用)
    2. 匹配中文

      在某些情况下,我们想匹配文本中的汉字,有一点需要注意的是,中文的 unicode 编 码范围 主要在 [u4e00-u9fa5],这里说主要是因为这个范围并不完整,比如没有包 括全角(中文)标点,不过,在大部分情况下,应该是够用的。

      假设现在想把字符串 title = u'你好,hello,世界' 中的中文提取出来,可以这 么做:

       import re
      
       title = u'你好,hello,世界'
       pattern = re.compile(ur'[\u4e00-\u9fa5]+')
       result = pattern.findall(title)
       
       print(result)
      

      注意到,我们在正则表达式前面加上了两个前缀 ur,其中 r 表示使用原始字符串,u 表示是 unicode 字符串。但是在python3中默认编码为unicode所以u必须省略。

      执行结果:

       ['你好', '世界']
      

      如果爬取的网页中有中文,可能会出现乱码。原因是网页的编码格式可能是GBK,我们可以这样

       gbk_html = html.decode('gbk').encode('utf-8')                 
      
  2. 案例一:解析淘宝数据

     import re
     li=[]
     with open('taopage0.html','r+') as fp:
         data=fp.read()
     
         plt = re.findall(r'\"view_price\"\: \"[\d\.]*\"', data)
     
         # 在爬取下来的网页中查找物品
         tlt = re.findall(r'\"raw_title\"\: \".*?\"', data)
     
         loc=re.findall(r'\"item_loc\"\: \".*?\"', data)
         
         for i in range(len(plt)):
             price = eval(plt[i].split(':')[1])
             title = eval(tlt[i].split(':')[1])
             location = eval(loc[i].split(':')[1])
     
             li.append([price,title,location])
     
     
     print(li)
    
  3. 案例二:解析猎聘网

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,240评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,328评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,182评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,121评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,135评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,093评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,013评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,854评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,295评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,513评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,678评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,398评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,989评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,636评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,801评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,657评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,558评论 2 352

推荐阅读更多精彩内容

  • 搞懂Python 正则表达式用法 Python 正则表达式 正则表达式是一个特殊的字符序列,它能帮助你方便的检查一...
    厦热阅读 1,580评论 0 2
  • 一、正则表达式语法 正则表达式是用匹配或者描述字符串的工具。 用处:a.判断字符串是否满足某个条件---判断输入的...
    大漠判官1阅读 354评论 0 1
  • from re import fullmatch, search,findall 正则表达式就是用来检测字符串是否...
    文_36e3阅读 388评论 0 0
  • 物联网技术, 自动化营销, 和 CRM , 的结合, 为我们 提供了, 一个, 提高, 客户体验的, 黄金机会。 ...
    凌云日记阅读 89评论 0 0
  • 虽然你的缺点像星星一样多,优点像太阳一样少,但我还是喜欢你,因为太阳一出来,星星就消失了。
    呆呆_35b9阅读 109评论 0 0