最近多了很多查找编辑文件和分析日志的需求,之前只是浅浅的知道sed,awk大致的用法,这段时间学下来才发现,sed和awk真是强大。
awk
awk更擅长对文件进行分析和列的操作。
条件类型加动作在接文件,这里条件类型加动作为一组,一条命令中可以放多组。花括号{}中支持 print 的格式, if, while, for ,逻辑判断等等。
$ awk '{pattern + action}' {filenames}
域编辑
例如,在我们需要输出 test.log 的第一列:
[root@localhost ~]# awk '{print $1}' test.log
192.29.7.26
192.29.7.14
192.26.2.26
192.15.25.26
awk是这样操作的,读入有'\n'换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域。$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1代表第一列代表IP。
使用-F,可指定分隔符,如:
[root@localhost ~]# awk -F '"' '{print $1}' test.log
192.29.7.26 - - [14/Dec/2015:20:58:18 +0800] POST /praise HTTP/1.1
192.29.7.14 - - [14/Dec/2015:20:58:19 +0800] GET /api HTTP/1.1
192.26.2.26 - - [14/Dec/2015:20:58:19 +0800] GET /api HTTP/1.1
192.15.25.26 - - [14/Dec/2015:20:58:19 +0800] GET /api HTTP/1.1
也可指定打印的分割符,以下打印第一和第四列,使用tab陈列。
[root@localhost ~]# awk '{print $1"\t"$4}' test.log
还有很多:
[root@localhost ~]# awk '/200/' text.log //搜索文件中匹配200字符的行
[root@localhost ~]# awk '{print NR,NF,$1,$NF}' test.log //显示文件file的当前记录号、域数和每一行的第一个和最后一个域
[root@localhost ~]# awk '/string/{print "\047 good \047"}{print $1,$2}' test.log //找到匹配对象string,在其后输出特定符号,/047代表带引号
[root@localhost ~]# awk 'BEGIN { OFS="%"} {print $1,$2}' test.log //通过输出%,改变日志的格式
[root@localhost ~]# awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}' //可以在输入前后加入特定的标识,常用于脚本中
合并拆分文件系列:
[root@localhost ~]awk '{ print $0 }' file1 file2 file3>file //酱file1,file2,file3合并成file
awk无需在变量前添加$符号,这是与shell不一样的地方,上面的例子用到一些变量,在awk中善于运用变量会使工具用途大大增加。以下为各变量的含义。
ARGC 命令行变元个数
ARGV 命令行变元数组
FILENAME 当前输入文件名
FNR 当前文件中的记录号
FS 输入域分隔符,默认为一个空格
RS 输入记录分隔符
NF 当前记录里域个数
NR 到目前为止记录数
OFS 输出域分隔符
ORS 输出记录分隔符
数组与自定义变量
除了awk的内置变量,awk还可以自定义变量。
[root@localhost ~]# awk '{count++;print $1;} END{print count}' test.log
192.29.7.26
192.29.7.14
192.26.2.26
192.15.25.26
4
比如刘老师说想看,每分钟的请求数,以下可以将每分钟的请求数列出:
[root@localhost ~]# awk -F: '{count[$2":"$3]++} END {for (minute in count) print minute, count[minute]}' test.log
20:58 4
使用数组可以将日志中IP的请求数统计出来
[root@localhost ~]# awk '{a[$1]+=1;}END{for(i in a){print a[i]" " i;}}' test.log
复合表达式
可以使用&&或||连接多个表达式,表达式用()扩起
(expr1) && (expr2)
(expr1) ||(expr)
比如需要查看日志中某一时间断的请求数:
awk '$4>="[01/Dec/2015:15:00:00"&&$4<="[01/Dec/2015:22:00:00"' test.log
IF
和C语言一样,基本格式是这样的
if (expression1) {
action1
} else if (expression2) {
action2
} else {
action3
}
来个栗子🌰
有如下文本,要求:将第一列中重复的合并为一行,其第二列填入最长地址的那列
0001|hi
0002|dog
0001|It's a good day
0003|cat
0001|nice
0004|linux
得到的结果应为:
0001|It's a good day
0002|dog
0003|cat
0004|linux
代码:
#!/bash/bin
BEGIN{FS=OFS="|"; i=1;}
{ if(a[$1]==0){b[i]=$1;a[$1]=$2;i++}
if(length(a[$1])}
END{for(j=1;j}
比较代码:(实现不全)
awk 'BEGIN{FS=OFS="|"} !(length(a[$1])>length($2)){a[$1]=$2} END{for(i in a)print i,a[i]}' data.txt
解释:此例中,用了两个数组,a用来与$1关联,b用来顺序记录,使得在最后打印时是完全按照$1顺序打印。条件句首先判断数组元素是否是第一次写入,若非,则比较当前$2值和以前储存的值长度。
功能不全代码不能顺序打印。当$1有重复,而$2长度第一次、第二次、第三次是以递减的方式时,该代码应用得较好。但是,当$2各次得到的长度不确定时,代码不能实现上述功能。例如:本例中第5行的第二列若比第3行的第二列长度长时,功能不全代码就不能实现要求。