awk 介绍
awk是一种编程语言，主要用于在linux/unix下对文本和数据进行处理，是linux/unix下的一个工具。数据可以来自标准输入、一个或多个文件，或其它命令的输出。
awk的处理文本和数据的方式：逐行扫描文件，默认从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。
awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger
gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。
下面介绍的awk是以GNU的gawk为例的，在linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍
User’s Guide 站点： https://www.gnu.org/software/gawk/manual/gawk.html
工作原理
awk -F: '{print $1,$3}' /etc/passwd
awk使用一行作为输入，并将这一行赋给内部变量
$0，每一行也可称为一个记录，以换行符(RS)结束然后，行被:（默认为空格或制表符）分解成字段（或域），每个字段存储在已编号的变量中，从
$1开始。awk如何知道用空格来分隔字段的呢？ 因为有一个内部变量FS来确定字段分隔符。初始时，
FS赋为空格awk打印字段时，将以设置的方法使用print函数打印，awk在打印的字段间加上空格，因为
$1,$3之间有一个逗号。逗号比较特殊，它映射为另一个内部变量，称为输出字段分隔符OFS，OFS默认为空格awk输出之后，将从文件中获取另一行，并将其存储在
$0中，覆盖原来的内容，然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕
使用
命令模式
awk [options] 'commands' file(s)
option 部分
-F 定义字段分割符号，默认的分隔符是空格
-v 定义变量并赋值
command 部分：
'范围说明或正则表达式或者{awk命令语句1;awk命令语句2;...}'
'BEGIN{} {} END{}'
行处理前 行处理 行处理后
1、范围说明部分可以是BEGIN、END、逻辑表达式或者为空
2、awk命令语句间用分号间隔
3、引用shell变量需用双引号引起
# 举例：
awk '/root/' /etc/passwd
awk 'NR==1' /etc/passwd
awk 'NR==1{print $1}' /etc/passwd
脚本模式
awk [options] -f scriptfile file(s)
特点：
1、awk脚本是awk命令的清单
2、命令需要用分号间隔
3、#号开头的是注释行
4、#!/bin/awk -f
基本应用
$0 :表示当前所有记录
$1,$2,$3...$n：awk中用该顺序形式表示files中每行以间隔符号分割的各列的不同字段
注：
awk默认以空格符为间隔符号将每行分割为单独的字段，也可以使用awk内置变量FS定义间隔符号
# awk -F: '{print $1,$7}' a.txt
# awk 'BEGIN{FS=":"} {print $1,$7}' a.txt
NF 表示当前记录的字段数（列数）
$NF 最后一列
$(NF-1) 倒数第二列
FNR/NR 行号
FILENAME 文件名
"\t" 制表符
"\n" 换行符
"" 打印字符串
FS 定义间隔符,命令里定义。如‘BEGIN{FS=":"}’
OFS 定义"输出字段"的分隔符，默认是空格
RS 输入记录分割符，默认换行（即\n）
ORS 输出记录分割符，默认换行（即\n）
print 打印函数
awk -F: 'NR==2{print $1,$(NF-1)}'
格式化输出：
print函数 类似echo
# date |awk '{print "Month: "$2 "\nYear: "$NF}'
# awk -F: '{print "username is: " $1 "\t uid is: "$3}' /etc/passwd
printf函数 类似echo -n
# awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}' /etc/passwd
# awk -F: '{printf "|%15s| %10s| %15s|\n", $1,$2,$3}' /etc/passwd
# awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
%s 字符类型
%d 数值类型
占15字符
- 表示左对齐，默认是右对齐
常用命令
##提取两个文件第一列相同的行
awk -F',' 'NR==FNR{a[$1]=$0;next}NR>FNR{if($1 in a)print $0"\n"a[$1]}' 1.log 2.log
awk 'NR==FNR{a[$1]++}NR>FNR&&a[$1]>1' 111.txt 111.txt
awk 'a[$1]++==1'
cat 111.txt | awk -F '[:|]' '{print $2}' > 111.txt
##awk 按某个位置的字符分隔的方法
awk -F ":" '{ for(i=1;i<=3;i++) printf("%s:",$i)}'
awk -F':' '{print $1 ":" $2 ":" $3; print $4}'
awk -F':' '{print $1 ":" $2 ":" $3; for(i=1;i<=3;i++)$i=""; print}'
##awk打印用户和密码
cat test.log |awk -F '[ ]+' '{print $1 " " $2}'
##排序显示重复项目
cat test.log |awk -F '[ ]+' '{print $1}'| sort | uniq -c | sort -nr
#awk -F '\t'来表示分隔符，比如
awk -F '\t' '{print $1}' file1.txt
##多个空格分隔的方法
awk -F '[ ]+' '{print $9}'
ls -lh /etc/sysconfig/network-scripts/ifcfg-* | awk -F '[ ]+' '{print $9}'
##指定分隔符既可以为空格，又可以为冒号，那么处理将会变得简单。可以使用正则表达式来指定多个分隔符，格式为 -F'[空格:]+' 如下
awk -F'[ :]+' '{print $NF"\t"$(NF-2)}' file1.txt
# 显示文件file中包含101的匹配行。
awk '/101/' file
awk '/101/,/105/' file
awk '$1 == 5' file
awk '$1 == "CT"' file # 注意必须带双引号
awk '$1 * $2 >100 ' file
awk '$2 >5 && $2<=15' file
awk '{print NR,NF,$1,$NF,}' file # 显示文件file的当前记录号、域数和每一行的第一个和最后一个域。
awk '/101/ {print $1,$2 + 10}' file # 显示文件file的匹配行的第一、二个域加10。
awk '/101/ {print $1$2}' file
awk '/101/ {print $1 $2}' file # 显示文件file的匹配行的第一、二个域，但显示时域中间没有分隔符。
df | awk '$4>1000000 ' # 通过管道符获得输入，如：显示第4个域满足条件的行。
awk -F "|" '{print $1}' file # 按照新的分隔符“|”进行操作。
awk 'BEGIN { FS="[: \t|]" } {print $1,$2,$3}' file # 通过设置输入分隔符（FS="[: \t|]"）修改输入分隔符。
///
Sep="|"
awk -F $Sep '{print $1}' file # 按照环境变量Sep的值做为分隔符。
awk -F '[ :\t|]' '{print $1}' file # 按照正则表达式的值做为分隔符，这里代表空格、:、TAB、|同时做为分隔符。
awk -F '[][]' '{print $1}' file # 按照正则表达式的值做为分隔符，这里代表[、]
///
awk -f awkfile file # 通过文件awkfile的内容依次进行控制。
cat awkfile /101/{print "\047 Hello! \047"} # 遇到匹配行以后打印 ' Hello! '. \047代表单引号。
{print $1,$2} # 因为没有模式控制，打印每一行的前两个域。
awk '$1 ~ /101/ {print $1}' file # 显示文件中第一个域匹配101的行（记录）。
awk 'BEGIN { OFS="%"} {print $1,$2}' file # 通过设置输出分隔符（OFS="%"）修改输出格式。
awk 'BEGIN { max=100 ;print "max=" max} # BEGIN 表示在处理任意行之前进行的操作。
{max=($1 >max ?$1:max); print $1,"Now max is "max}' file # 取得文件第一个域的最大值。
（表达式1?表达式2:表达式3 相当于：
if (表达式1)
表达式2
else
表达式3
awk '{print ($1>4 ? "high "$1: "low "$1)}' file
awk '$1 * $2 >100 {print $1}' file # 显示文件中第一个域匹配101的行（记录）。
awk '{$1 == 'Chi' {$3 = 'China'; print}' file # 找到匹配行后先将第3个域替换后再显示该行（记录）。
awk '{$7 %= 3; print $7}' file # 将第7域被3除，并将余数赋给第7域再打印。
awk '/tom/ {wage=$2+$3; printf wage}' file # 找到匹配行后为变量wage赋值并打印该变量。
awk '/tom/ {count++;} END {print "tom was found "count" times"}' file # END表示在所有输入行处理完后进行处理。
awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4; END {print "The total is $" cost>"filename"}' file # gsub函数用空串替换$和,再将结果输出到filename中。
1 2 3 $1,200.00
1 2 3 $2,300.00
1 2 3 $4,000.00
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($4>1000&&$4<2000) c1+=$4;
else if ($4>2000&&$4<3000) c2+=$4;
else if ($4>3000&&$4<4000) c3+=$4;
else c4+=$4; }
END {printf "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
通过if和else if完成条件语句
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($4>3000&&$4<4000) exit;
else c4+=$4; }
END {printf "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
# 通过exit在某条件时退出，但是仍执行END操作。
awk '{gsub(/\$/,"");gsub(/,/,"");
if ($4>3000) next;
else c4+=$4; }
END {printf "c4=[%d]\n",c4}"' file
# 通过next在某条件时跳过该行，对下一行执行操作。
awk '{ print FILENAME,$0 }' file1 file2 file3>fileall # 把file1、file2、file3的文件内容全部写到fileall中，格式为
打印文件并前置文件名。
awk ' $1!=previous { close(previous); previous=$1 } {print substr($0,index($0," ") +1)>$1}' fileall # 把合并后的文件重新分拆为3个文件。并与原文件一致。
awk 'BEGIN {"date"|getline d; print d}' # 通过管道把date的执行结果送给getline，并赋给变量d，然后打印。
awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}'
# 通过getline命令交互输入name，并显示出来。
awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}'
# 打印/etc/passwd文件中用户名包含050x_的用户名。
awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file # 通过while语句实现循环。
awk '{ for(i=1;i<NF;i++) {print NF,$i}}' file # 通过for语句实现循环。
type file|awk -F "/" '
{ for(i=1;i<NF;i++)
{ if(i==NF-1) { printf "%s",$i }
else { printf "%s/",$i } }}' # 显示一个文件的全路径。
# 用for和if显示日期
awk 'BEGIN {
for(j=1;j<=12;j++)
{ flag=0;
printf "\n%d月份\n",j;
for(i=1;i<=31;i++)
{
if (j==2&&i>28) flag=1;
if ((j==4||j==6||j==9||j==11)&&i>30) flag=1;
if (flag==0) {printf "%02d%02d ",j,i}
}
}
}'
awk 在输出之前打印
rsync -n -avr --size-only --delete /mnt/share/ /mnt/ARCHIVES/ |grep '^deleting'| awk 'BEGIN {print "xxxx"}{print $!"\t"}'
