文本处理工具及正则表达式

  • more:分页查看文件
  • less:分页控制显示文件
  • head 查看文件的前几行
-n 3   显示前三行
-3  显示前三行
-c  指定显示的字节数
    一个汉字占用三个字节
  • tail 查看显示文件的后几行
-n 3  显示后几行
-c    显示最后的指定字节数 
-f      跟踪显示更新
  • cut [0ption] [file]
-d: 指明分隔符,默认为tab
-f:指明第几列
    #:第#个字段
    #,#[,#]:离散的多个字段,如1,3,6
    #-#:连续的多个字段,如1-5
    混合使用:1-4,7    1到4列和第7列
-c:按字符切割
--output-delimiter=STRING:指定输出分隔符
  • paste

合并两个文件同行号的列到一行
paste [option] [file]

-d 分隔符:指定分隔符,默认用tab
-s:所有的行合并到一行显示

paste f1 f2
paste -s f1 f2


  • wc

计数单词总数、行总数、字节总数和字符总数
可以对文件或STDIN 中的数据运行

wc story.txt
39 237 1901 story.txt
行数 字数 字符数

使用 -l 来只计数行数
使用 -w 来只计数单词总数
使用 -c 来只计数字节总数
使用 -m 来只计数字符总 数

  • sort 文本排序

把整理过的文本显示在STDOUT ,不改变原始文件

sort [options] file(s)

常用选项
    -r 倒序(由上至下)排列
    -n 执行按数字大小排列
    -f 选项忽略(fold )字符串中的字符大小写
    -u (独特,unique )删除输出中的重复行
    -t c: 指定c为字段分割符
    -k X:指定的c字符分割的X列排序
  • unip:从输入中删除前后相接的重复的行
uniq [OPTION]... [FILE]...
    -c:  显示每行重复出现的次数
    -d:  仅显示重复过的行
    -u:  仅显示不曾重复的行
        连续且完全相同方为重复
常和sort  命令一起配合使用:
    sort userlist.txt | uniq -c
  • diff:比较两个文件

比较两个文件之间的区别

diff foo.conf-broken foo.conf-works
    5c5
    < use_widgets = no
    ---
    > use_widgets = yes
    注明第5行有区别


diff 命令的输出被保存在一种叫做“补丁”的文件中
使用 -u 选项来输出“统一的(unified )”diff 格式文件,最适用于补丁文件。
image
image

  • patch 复制在其它文件中进行的改变(要谨慎使用)

适用 -b 选项来自动备份改变了的文件

 diff -u foo.conf-broken foo.conf-works > foo.patch
patch -b foo.conf-broken foo.patch
  • grep :文本过滤( 模式:pattern) 工具

grep, egrep, fgrep (不 支持正则表达式 搜索)

  • sed :stream editor ,文本编辑工具
  • awk :Linux 上的实现gawk,文本报告生成器

grep:

作用:文本搜索工具,根据用户指定的“模式”对目标文本逐行进行匹配检查;打印匹配到的行
模式:由正则表达式字符及文本字符所编写的过滤条件

grep root /etc/passwd
grep "$USER" /etc/passwd
grep '$USER' /etc/passwd
grep `whoami` /etc/passwd

选项:

--color=auto:  对匹配到的文本着色显示
 -v:  显示不被pattern 匹配到的行
-i:忽略字符大小写
-n:显示匹配的行号
-c:  统计匹配的行数
-o:  仅显示匹配到的字符串
-q:  静默模式,不输出任何信息
-A #: after,后#行 行
-B #: before,前#行 行
-C #:context,前后各#行
-e :实现多个选项间的逻辑or 关系
    grep –e ‘cat ’ -e ‘dog’ file
-w :匹配 整个单词
-E :使用ERE
-F :相当于fgrep

正则表达式

REGEXP :由一类特殊字符及文本字符所编写的模式,其中有些字符(元字符)不表示字符字面意义,而表示控制或通配的功能
程序支持: :grep,sed,awk,vim, less,nginx,varnish等

分两类:

基本正则表达式:BRE
扩展正则表达式:ERE
    grep -E, egrep

正则表达式引擎:

采用不同算法,检查处理正则表达式的软件模块
PCRE(Perl Compatible Regular Expressions)

元字符分类:字符匹配、匹配次数、位置锚定、分组
man 7 regex

基本正则表达式元字符

  • 字符匹配:
.  匹配任意单个字符
[] 匹配指定范围内的任意单个字符
[^]  匹配指定范围外的任意单个字符
[:alnum:]  字母和 数字
[:alpha:]  代表任何英文大小写字符,亦即 A-Z, a-z
[:lower:]  小写字母 [:upper:]  大写字母
[:blank:]  空白字符(空格和制表符)
[:space:]  水平和垂直的空白字符(比[:blank:] 包含的范围广)
[:cntrl:]  不可打印的控制字符(退格、删除、警铃...) )
[:digit:] 字十进制数字
[:xdigit:] 十六进制数字
[:graph:]  可打印的非空白字符
[:print:]  可打印字符
[:punct:]  标点符号
  • 正则表达式:
  • 匹配次数:用在要指定次数的字符后面,用于指定前面的字符要出现的次数
 *  匹配前面的字符任意次,包括0次贪婪模式:尽可能长的匹配
.*  任意长度的任意字符
\?  匹配其前面的字符0 或1次
\+  匹配其前面的字符至少1次
\{n\}  匹配前面的字符n次
\{m,n\}  匹配前面的字符至少m次,至多n次
\{,n\}  匹配前面的字符至多n次
\{n,\}  匹配前面的字符至少n次

image
image
  • 位置锚定:定位出现的位置
^  行首锚定,用于模式的最左侧
$  行尾锚定,用于模式的最右侧
^PATTERN$ 用于模式匹配整行
^$ 空行
^[[:space:]]*$ 空白行
\< 或\b  词首锚定,用于单词模式的左侧
\> 或\b  词尾锚定;用于单词模式的右侧
\<PATTERN\> 


  • 分组:()
    将一个或多个字符捆绑在一起,当作一个整体进行处理,如:(root)+

分组括号中的模式匹配到的内容会被正则表达式引擎记录于内部的变量中,这些变量的命名方式为: \1, \2, \3,
\1 表示从左侧起第一个左括号以及与之匹配右括号之间的模式所匹配到的字符

示例: \(string1\+\(string2\)*\)
    \1  :string1\+\(string2\)*
    \2  :string2
  • 后向引用:引用前面的分组括号中的模式所匹配字符 , 而非模式本身


  • 或则:|
示例:a\|b: a 或b C\|cat: C 或cat \(C\|c\)at:Cat 或cat

egrep及扩展的正则表达式

egrep = grep -E
egrep [OPTIONS] PATTERN [FILE...]

  • 扩展正则表达式的元字符:
字符匹配:
    .  任意单个字符
    []  指定范围的字符
    [^]  不在指定范围的字符
次数匹配:
    * :匹配前面字符任意次
    ?: 0 或1次
    + :1 次或多次
    {m} :匹配m次
    {m,n} :至少m ,至多n次
位置锚定:
    ^ : 行首
    $ : 行尾
    \<, \b : 语首
    \>, \b : 语尾
分组:
    ()
后向引用:\1, \2, ...
或者:|
    a|b: a 或b
    C|cat: C 或cat
    (C|c)at:Cat 或cat

fgrep:不支持正则表达式

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,172评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,346评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,788评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,299评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,409评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,467评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,476评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,262评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,699评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,994评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,167评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,827评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,499评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,149评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,387评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,028评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,055评论 2 352

推荐阅读更多精彩内容