shell -- AWK&文本处理 浅析

markdown 编辑,来写awk真是麻烦
awk 入门:
awk 是格式化文本处理最常用的工具,日常捞数据、切数据最常用的,当然了不用awk 也有其他的工具能解决问题,但是经过检验 awk可以说是最好用的。说实话对于新手来说 awk上手可能会慢一些,但是用习惯了即将溜的飞起。
下面从我工作时常用的一些方式来阐述这个命令(网上也有很多的资料可以对比参考):
假设1.demo 文件内容如下:
1 2 3 4 abc
1 2 3 4 abcdce
awk '{print 0}' 1.demo 这就是最简单的一个命令,```'{print0}' 指的是动作,1.demo是文件名,这也是awk 的通用格式 awk 动作 文件。动作中常有0\1$2等变量,``$0``指的是当前行,$1```这些指的是第1 ..n的字段(awk 会默认按照空格或者\t对于行进行分割,我们也可以使用-F 指定分割符)

awk '{print $0}' 1.demo  output:1 2 3 4 abc
awk '{print $5}' 1.demo  output:abc

awk 基础:
1、原样输出 是通过动作中的双引号控制的,demo:awk '{print $5"2333"}' 1.demo output:abc2333
2、常用参数:
-F 指定文件分割符
3、常用变量:
FILENAME:当前文件名 demo: awk '{print toupper($NF)$FILENAME}' 1.demo output:ABC1
FS:字段分隔符,默认是空格和制表符。
RS:行分隔符,用于分割每一行,默认是换行符。
OFS:输出字段的分隔符,用于打印时分隔字段,默认为空格。
ORS:输出记录的分隔符,用于打印时分隔记录,默认为换行符。
OFMT:数字输出的格式,默认为%.6g。
NR:当前处理的第几行
NF:当前行都多少个字段
BEGIN: 设置初始参数,初始化变量
END: 读完文件后做最终的处理 demo:awk 'BEGIN{OFS=FS=" "}{print 0,1;}' 1.demo output:1 2 3 4 abc 1
4、常用函数:

toupper() :将字符转化为大写 demo: awk '{print toupper($NF)"test"}' 1.demo  output:ABCtest
tolower():字符转为小写
length():返回字符串长度 demo: awk '{print "str: " $(NF-1)  " length: " length($(NF-1))}' 1.demo  output:str: 4 length: 1
substr():返回子字符串
sin():正弦
cos():余弦
sqrt():平方根
rand():随机数

5、条件判断:
awk '条件 动作' 文件名

demo : awk 'NR % 2 == 1 {print $0}' 1.demo output: 1 2 3 4 abc(仅展示了第一行)
demo : awk '/.*dce/ {print $0}' 1.demo output: 1 2 3 4 abcdce(其中/.*dce/ // 内部是一个正则表达式)

除了这类简单的条件判断,当判断条件逐渐复杂之后,我们可以使用if 语句
~ 匹配,与==相比不是精确比较
!~ 不匹配,不精确比较
== 等于,必须全部相等,精确比较
!= 不等于,精确比较
&&  逻辑与
|| 逻辑或
'+' 匹配时表示1个或1个以上
常用的一些信息这里就不过多赘述了,可以man awk
除去awk 常用的文本处理相关的命令还有不少,这里也大体说一下:
常用的查看文本的命令 通常就是cat(行数较小)、less(可以滚动查看,类似的还有more,区别就是一次滚一行还是一页)、grep (产看匹配到的文本,当然了grep 可不仅仅只是查看个文本)
sort:
sort将文件的每一行作为一个单位,相互比较,比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出。
常用参数:
-u : unique 唯一,排序并且排除重复项
-r : reverse 反向排序
-o : output 将排序结果输出到源文件
-n : number 安装数字进行排序,默认数字会被当作字符串进行比较
-t : tables 指定分隔符,默认tab为分隔符
-k: 指定安装哪一个分割区域进行排序
comm:
comm file1 file2
comm 命令通常用于两个排好序的文件之间进行比较(必须是已排好序),然后提供了一些参数来调整输出,我们就可以很轻松的拿到交集、差集这些结果了。
comm 的输出通常有三列:1、file1 特有的。2、file2特有的 3、都有的
所以我们可以这么用:
交集:打印出两个文件所共有的行。
求差:打印出指定文件所包含的且不相同的行。
差集:打印出包含在一个文件中,但不包含在其他指定文件中的行。
参数:
-1:不显示在第一个文件出现的内容;
-2:不显示在第二个文件中出现的内容;
-3:不显示同时在两个文件中都出现的内容。
字符串截取:

${var#*/}
从左边数删除第一个’/’及’/’左边的字符
${var##*/}
从左边数删除最后一个’/’及’/’左边的字符
${var%/*}
从右边数删除第一个’/’及’/’右边的字符
${var%%/*}
从右边数删除最后一个’/’及右边的字符
${var:1:9}
从左边数删除第一个至第九个字符
${var:0-1:9}
从右边数删除第一个至第九个字符
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,658评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,482评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,213评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,395评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,487评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,523评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,525评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,300评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,753评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,048评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,223评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,905评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,541评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,168评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,417评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,094评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,088评论 2 352

推荐阅读更多精彩内容

  • awk介绍awk变量printf命令:实现格式化输出操作符awk patternawk actionawk数组aw...
    哈喽别样阅读 1,562评论 0 4
  • Unix命令行下输入的命令是文本,输出也都是文本。因此,掌握Unix文本处理工具是很重要的一种能力。awk是Uni...
    SpaceCat阅读 839评论 0 9
  • Linux指令中文说明传送入口 整理自Linux指令中文说明 文本和数据进行处理的编程语言awk 是一种编程语言,...
    释闲人阅读 2,118评论 1 6
  • 报告生成器,格式化文本输出,常用选项: -F:指明输入时用到的字段分隔符 -v var=value:自定义变量 介...
    毛利卷卷发阅读 520评论 0 1
  • 知识点 sort uniq cut wc sed命令 awk命令 crontab定时器 sort sort 命令对...