正则表达式（Regular Expression）
和sed篇一样，这里我不会详细介绍正则表达式。因为正则表达式的内容介绍起来太麻烦，还是推荐同学阅读现有的文章（如Linux/Unix工具与正则表达式的POSIX规范），里面对各个流派的正则表达式归纳地很清楚了。
表达式（Expressions）
表达式可以由常量、变量、运算符和函数组成，常数和变量的值可以为字符串和数值。
Awk中的变量有三种类型：用户定义的变量，内置变量和字段变量。其中，内置变量名都是大写的。变量并不非一定要被声明或者被初始化，未初始化的字符串变量的值为”"，未初始化的数值变量的值为0。字段变量可以用$n来引用，n的取值范围为[0,NF]。n可以为一个变量，例如$NF代码最后一个字段，而$(NF-1)表示倒数第二个字段。
数组
数组是一种特殊的变量，在awk中，比较特殊地是，数组的下标可以为数字或者字符串。数组的赋值很简单，下面将value赋值给数组下标为index的元素：
1 | array[index]=value |
可以用for..in..语法遍历数组元素，其中item是数组元素对应的下标：
1 | for (item in array) |
当然也可以在if分支判断中使用in操作符：
1 | if (item in array) |
一个完整的例子如下所示：
1 2 3 4 5 6 7 8 9 10 11 12 13 14 | [kodango@devops ~]$ echo "1 2 3" | awk '{ for (i=0;i<NF;i++) a[i]=i; } END { print 3 in a for (i in a) printf "%s: %s\n", i, a[i]; }' 0 0: 0 1: 1 2: 2 |
内置变量
Awk在内部维护了许多内置变量，或者称为系统变量，例如之前提到的FS、RS等等。常见的内置变量如下表所示
变量名 | 描述 |
ARGC | 命令行参数的各个，即ARGV数组的长度 |
ARGV | 存放命令行参数 |
CONVFMT | 定义awk内部数值转换成字符串的格式，默认值为”%.6g” |
OFMT | 定义输出时数值转换成字符串的格式，默认值为”%.6g” |
ENVIRON | 存放系统环境变量的关联数组 |
FILENAME | 当前被处理的文件名 |
NR | 记录的总个数 |
FNR | 当前文件中的记录的总个数 |
FS | 字段分隔符，默认为空白 |
NF | 每个记录中字段的个数 |
RS | 记录的分隔符，默认为回车 |
OFS | 输出时字段的分隔符，默认为空白 |
ORS | 输出时记录的分隔符，默认为回车 |
RLENGTH | 被match函数匹配的子串长度 |
RSTART | 被match函数匹配的子串位于目标字符串的起始下标 |
下面主要介绍几个比较难理解的内置变量：
1.ARGV与ARGC
ARGV与ARGC的意思比较好理解，就像C语言main(int argc, char **argv)。ARGV数组的下标从0开始到ARGC-1，它存放的是命令行参数，并且排除命令行选项（例如-v/-f）以及program部分。因此事实上ARGV只是存储argument的部分，即文件名（file）以及命令行变量赋值两部分的内容。
通过下面的例子可以大概了解ARGC与ARGV的用法：
1 2 3 4 5 6 7 | [kodango@devops awk_temp]$ awk 'BEGIN { > for (i = 0; i < ARGC; i++) > print ARGV[i] > }' inventory-shipped BBS-list awk inventory-shipped BBS-list |
ARGV的用法不仅限于此，它是可以修改的，可以更改数组元素的值，可以增加数组元素或者删除数组元素。
a. 更改ARGV元素的值
假设我们有a, b两个文件，它们各有一行内容：file a和file b。现在利用ARGV，我们可以做到偷梁换柱：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN{ARGV[1]="b"} {print}' a file b |
这里要注意ARGV[1]="b"的引号不能缺少，否则ARGV[1]=b会将变量b的值赋值给ARGV[1]。
当awk处理完一个文件之后，它会从ARGV的下一个元素获取参数，如果是一个文件则继续处理，如果是一个变量赋值则执行赋值操作：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN{ARGV[1]="var=1"} {print var}' a b 1 |
为什么这里只打印一次变量值呢？可以回头再看看上一篇中介绍变量赋值的内容。
而当下一个元素为空时，则跳过不处理，这样可以避开处理某个文件：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN{ARGV[1]=""} {print}' a b file b |
上面的例子中a这个文件就被跳过了。
而当下一个元素的值为”-”时，表明从标准输入读取内容：
1 2 3 4 | [kodango@devops awk_temp]$ awk 'BEGIN{ARGV[1]="-"} {print}' a b a a # --> 这里按下CTRL+D停止输入 file b |
b. 删除ARGV元素
删除ARGV元素和将元素的值赋值为空的效果是一样的，它们都会跳转对某个参数的处理：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN{delete ARGV[1]} {print}' a b file b |
删除数组元素可以用delete语句。
c. 增加ARGV元素
我第一次看到ARGV变量的时候就在想，能不能利用ARGV变量避免提供命令行参数，就像这样:
1 | awk 'BEGIN{ARGV[1]="a";} {print}' |
但是事实上这样不行，awk会依然从标准输入中获取内容。下面的方法倒是可以，首先增加ARGC的值，再增加ARGV元素，我到现在也没搞懂这两者的区别：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN{ARGC+=1;ARGV[1]="a"} {print}' file a |
2.CONVFMT与OFMT
Awk中允许数值到字符串相互转换，其中内置变量CONVFMT定义了awk内部数值到字符串转换的格式，它的默认值为”%.6g”：
1 2 3 4 | [kodango@devops awk_temp]$ awk 'BEGIN { printf "CONVFMT=%s, num=%f, str=%s\n", CONVFMT, 12.11, 12.11 }' CONVFMT=%.6g, num=12.110000, str=12.11 |
通过更改CONVFMT，我们可以定义自己的转换格式：
1 2 3 4 5 | [kodango@devops awk_temp]$ awk 'BEGIN { CONVFMT="%d"; printf "CONVFMT=%s, num=%f, str=%s\n", CONVFMT, 12.11, 12.11 }' CONVFMT=%d, num=12.110000, str=12 |
与此对应地还有一个内置变量OFMT，它与CONVFMT的作用是类似的，只不过是影响输出的时候数字转换成字符串的格式：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN { OFMT="%d";print 12.11 }' 12 |
3.ENVIRON
ENVIRON是一个存放系统环境变量的关联数组，它的下标是环境变量名称，值是相应环境变量的值。例如：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN { print ENVIRON["USER"] }' kodango |
利用环境变量也可以将值传递给awk：
1 2 | [kodango@devops awk_temp]$ U=hello awk 'BEGIN { print ENVIRON["U"] }' hello |
可以利用for..in循环遍历ENVIRON数组：
1 2 3 4 | [kodango@devops awk_temp]$ awk 'BEGIN { for (env in ENVIRON) printf "%s=%s\n", env, ENVIRON[env]; }' |
4.RLENGTH与RSTART
RLENGTH与RSTART都是与match函数相关的，前者表示匹配的子串长度，后者表示匹配的子串位于目标字符串的起始下标。例如：
1 2 | [kodango@devops ~]$ awk 'BEGIN {match("hello,world", /llo/); print RSTART,RLENGTH}' 3 3 |
关于match函数，我们会在以后介绍。
运算符
表达式中必然少不了运算符，awk支持的运算符可以参见man手册中的“Expressions in awk”一小节内容：
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 | [kodango@devops awk_temp]$ man awk | grep "^ *Table: Expressions in" -A 42 | sed 's/^ *//' Table: Expressions in Decreasing Precedence in awk Syntax Name Type of Result Associativity ( expr ) Grouping Type of expr N/A $expr Field reference String N/A ++ lvalue Pre-increment Numeric N/A -- lvalue Pre-decrement Numeric N/A lvalue ++ Post-increment Numeric N/A lvalue -- Post-decrement Numeric N/A expr ^ expr Exponentiation Numeric Right ! expr Logical not Numeric N/A + expr Unary plus Numeric N/A - expr Unary minus Numeric N/A expr * expr Multiplication Numeric Left ...以下省略... |
1
语句（Statement）
到目前为止，用得比较多的语句就是print，其它的还有printf、delete、break、continue、exit、next等等。这些语句与函数不同的是，它们不会使用带括号的参数，并且没有返回值。不过也有意外，比如printf就可以像函数一样的调用：
1 2 | [kodango@devops awk_temp]$ echo 1 | awk '{printf("%s\n", "abc")}' abc |
break和continue语句，大家应该比较了解，分别用于跳出循环和跳到下一个循环。
delete用于删除数组中的某个元素，这个我们在上面介绍ARGV的时候也使用过。
exit的用法顾名思义，就是退出awk的处理，然后会执行END部分的内容：
1 2 3 | [kodango@devops awk_temp]$ echo $'line1\nline2' | awk '{print;exit} END {print "exit.."}' line1 exit.. |
next语句类似sed的n命令，它会读取下一条记录，并重新回到脚本的最开始处执行：
1 2 3 4 5 6 7 8 9 10 | [kodango@devops awk_temp]$ echo $'line1\nline2' | awk '{ > print "Before next.." > print $0 > next > print "After next.." > }' Before next.. line1 Before next.. line2 |
从上面可以看出next后面的print语句不会执行。
print与printf语句是使用最多的，它们将内容输出到标准输出。注意在print语句中，输出的变量之间带不带逗号是有区别的：
1 2 3 4 | [kodango@devops awk_temp]$ echo "1 2" | awk '{print $1, $2}' 1 2 [kodango@devops awk_temp]$ echo "1 2" | awk '{print $1 $2}' 12 |
print输出时，字段之间的分隔符可以由OFS重新定义：
1 2 | [kodango@devops awk_temp]$ echo "1 2" | awk '{OFS=";";print $1,$2}' 1;2 |
除此之外，print的输出还可以重定向到某个文件中或者某个命令：
1 2 3 | print items > output-file print items >> output-file print items | command |
假设有这一样一个文件，第一列是语句名称，第二列是对应的说明：
1 2 3 4 5 | [kodango@devops awk_temp]$ cat column.txt statement|description delete|delete item from an array exit|exit from the awk process next|read next input record and process |
现在我们要将两列的内容分别输出到statement.txt和description.txt两个文件中：
1 2 3 4 5 6 7 8 9 10 11 12 13 14 | [kodango@devops awk_temp]$ awk -F'|' '{ > print $1 > "statement.txt"; > print $2 > "description.txt" > }' column.txt [kodango@devops awk_temp]$ cat statement.txt statement delete exit next [kodango@devops awk_temp]$ cat description.txt description delete item from an array exit from the awk process read next input record and process |
下面是一个重定向到命令的例子，假设我们要对下面的文件进行排序：
1 2 3 4 5 6 | [kodango@devops awk_temp]$ cat num.list 1 3 2 9 5 |
可以通过将print的内容重定向到”sort -n”命令：
1 2 3 4 5 6 | [kodango@devops awk_temp]$ awk '{print | "sort -n"}' num.list 1 2 3 5 9 |
printf命令的用法与print类似，也可以重定向到文件或者输出，只不过printf比print多了格式化字符串的功能。printf的语法也大多数语言包括bash的printf命令类似，这里就不多介绍了。
awk的函数分成数学函数、字符串函数、I/O处理函数以及用户自定义的函数，其中用户自定义的函数我们在上一篇中也有简单的介绍，下面我们一一来介绍这几类函数。
数学函数
awk中支持以下数学函数：
●atan2(y,x)：反正切函数；
●cos(x)：余弦函数；
●sin(x)：正弦函数；
●exp(x)：以自然对数e为底指数函数；
●log(x)：计算以e 为底的对数值；
●sqrt(x)：绝对值函数；
●int(x)：将数值转换成整数；
●rand()：返回0到1的一个随机数值，不包含1；
●srand([expr])：设置随机种子，一般与rand函数配合使用，如果参数为空，默认使用当前时间为种子；
例如，我们使用rand()函数生成一个随机数值：
1 2 3 4 | [kodango@devops awk_temp]$ awk 'BEGIN {print rand(),rand();}' 0.237788 0.291066 [kodango@devops awk_temp]$ awk 'BEGIN {print rand(),rand();}' 0.237788 0.291066 |
但是你会发现，每次awk执行都会生成同样的随机数，但是在一次执行过程中产生的随机数又是不同的。因为每次awk执行都使用了同样的种子，所以我们可以用srand()函数来设置种子:
1 2 3 4 | [kodango@devops awk_temp]$ awk 'BEGIN {srand();print rand(),rand();}' 0.171625 0.00692412 [kodango@devops awk_temp]$ awk 'BEGIN {srand();print rand(),rand();}' 0.43269 0.782984 |
这样每次生成的随机数就不一样了。
利用rand()函数我们也可以生成1到n的整数：
1 2 3 4 5 | [kodango@devops awk_temp]$ awk ' > function randint(n) { return int(n*rand()); } > BEGIN { srand(); print randint(10); > }' 3 |
字符串函数
awk中包含大多数常见的字符串操作函数。
1.sub(ere, repl[, in])
描述：简单地说，就是将in中匹配ere的部分替换成repl，返回值是替换的次数。如果in参数省略，默认使用$0。替换的动作会直接修改变量的值。
下面是一个简单的替换的例子：
1 2 3 | [kodango@devops ~]$ echo "hello, world" | awk '{print sub(/ello/, "i"); print}' 1 hi, world |
在repl参数中&是一个元字符，它表示匹配的内容，例如：
1 2 | [kodango@devops ~]$ awk 'BEGIN {var="kodango"; sub(/kodango/, "hello, &", var); print var}' hello, kodango |
2.gsub(ere, repl[, in])
描述：同sub()函数功能类似，只不过是gsub()是全局替换，即替换所有匹配的内容。
3.index(s, t)
描述：返回字符串t在s中出现的位置，注意这里位置是从1开始计算的，如果没有找到则返回0。
例如：
1 2 3 4 | [kodango@devops ~]$ awk 'BEGIN {print index("kodango", "o")}' 2 [kodango@devops ~]$ awk 'BEGIN {print index("kodango", "w")}' 0 |
4.length[([s])]
描述：返回字符串的长度，如果参数s没有指定，则默认使用$0作为参数。
例如：
1 2 3 4 | [kodango@devops ~]$ awk 'BEGIN {print length('kodango');}' 0 [kodango@devops ~]$ echo "first line" | awk '{print length();}' 10 |
5.match(s, ere)
描述： 返回字符串s匹配ere的起始位置，如果不匹配则返回0。该函数会定义RSTART和RLENGTH两个内置变量。RSTART与返回值相同，RLENGTH记录匹配子串的长度，如果不匹配则为-1。
例如：
1 2 3 4 5 6 | [kodango@devops ~]$ awk 'BEGIN { print match("kodango", /dango/); printf "Matched at: %d, Matched substr length: %d\n", RSTART, RLENGTH; }' 3 Matched at: 3, Matched substr length: 5 |
6.split(s, a[, fs])
描述：将字符串按照分隔符fs，分隔成多个部分，并存到数组a中。注意，存放的位置是从第1个数组元素开始的。如果fs为空，则默认使用FS分隔。函数返回值分隔的个数。
例如：
1 2 3 4 5 6 7 8 9 10 | [kodango@devops ~]$ awk 'BEGIN { > split("1;2;3;4;5", arr, ";") > for (i in arr) > printf "arr[%d]=%d\n", i, arr[i]; > }' arr[4]=4 arr[5]=5 arr[1]=1 arr[2]=2 arr[3]=3 |
这里有一个奇怪的地方是for..in..输出的数组不是按顺序输出的，如果要按顺序输出可以用常规的for循环:
1 2 3 4 5 6 7 8 9 10 11 12 13 | [kodango@devops ~]$ awk 'BEGIN { > split("1;2;3;4;5", arr, ";") > for (i=0;^C [kodango@devops ~]$ awk 'BEGIN { > n=split("1;2;3;4;5", arr, ";") > for (i=1; i<=n; i++) > printf "arr[%d]=%d\n", i, arr[i]; > }' arr[1]=1 arr[2]=2 arr[3]=3 arr[4]=4 arr[5]=5 |
7.sprintf(fmt, expr, expr, ...)
描述：类似printf，只不过不会将格式化后的内容输出到标准输出，而是当作返回值返回。
例如：
1 2 3 4 5 | [kodango@devops ~]$ awk 'BEGIN { > var=sprintf("%s=%s", "name", "value") > print var > }' name=value |
8.substr(s, m[, n])
描述：返回从位置m开始的，长度为n的子串，其中位置从1开始计算，如果未指定n或者n值大于剩余的字符个数，则子串一直到字符串末尾为止。
例如：
1 2 3 4 | [kodango@devops ~]$ awk 'BEGIN { print substr("kodango", 2, 3); }' oda [kodango@devops ~]$ awk 'BEGIN { print substr("kodango", 2); }' odango |
9.tolower(s)
描述：将字符串转换成小写字符。
例如：
1 2 | [kodango@devops ~]$ awk 'BEGIN {print tolower("KODANGO");}' kodango |
10.toupper(s)
描述：将字符串转换成大写字符。
例如
1 2 | [kodango@devops ~]$ awk 'BEGIN {print tolower("kodango");}' KODANGO |
I/O处理函数
1.getline
getline的用法相对比较复杂，它有几种不同的形式。不过它的主要作用就是从输入中每次获取一行输入。
a.expression | getline [var]
这种形式将前面管道前命令输出的结果作为getline的输入，每次读取一行。如果后面跟有var，则将读取的内容保存到var变量中，否则会重新设置$0和NF。
例如，我们将上面的statement.txt文件的内容显示作为getline的输入：
1 2 3 4 5 | [kodango@devops awk_temp]$ awk 'BEGIN { while("cat statement.txt" | getline var) print var}' statement delete exit next |
上面的例子中命令要用双引号，”cat statement.txt“，这一点同print/printf是一样的。
如果不加var，则直接写到$0中，注意NF值也会被更新：
1 2 3 4 5 | [kodango@devops awk_temp]$ awk 'BEGIN { while("cat statement.txt" | getline) print $0,NF}' statement 1 delete 1 exit 1 next 1 |
b.getline [var]
第二种形式是直接使用getline，它会从处理的文件中读取输入。同样地，如果var没有，则会设置$0，并且这时候会更新NF,NR和FNR：
1 2 3 4 5 6 7 | [kodango@devops awk_temp]$ awk '{ > while (getline) > print NF, NR, FNR, $0; > }' statement.txt 1 2 2 delete 1 3 3 exit 1 4 4 next |
c.getline [var] < expression
第三种形式从expression中重定向输入，与第一种方法类似，这里就不加赘述了。
2.close
close函数可以用于关闭已经打开的文件或者管道，例如getline函数的第一种形式用到管道，我们可以用close函数把这个管道关闭，close函数的参数与管道的命令一致：
1 2 3 4 5 6 7 8 9 10 | [kodango@devops awk_temp]$ awk 'BEGIN { while("cat statement.txt" | getline) { print $0; close("cat statement.txt"); }}' statement statement statement statement statement |
但是每次读了一行后，关闭管道，然后重新打开又重新读取第一行就死循环了。所以要慎用，一般情况下也很少会用到close函数。
3.system
这个函数很简单，就是用于执行外部命令，例如：
1 2 | [kodango@devops awk_temp]$ awk 'BEGIN {system("uname -r");}' 3.6.2-1-ARCH |
结束语
快速了解Awk系列的几篇文章相对比较粗糙，我是参考Awk的man手册以及《Sed & Awk》附录B总结而成的，但是应该可以让大家对awk有一个大致的了解，欢迎大家一起交流。