论坛徽章:: 0

电梯直达

1楼 [收藏(0)] [报告]

发表于 2009-09-04 13:15 |只看该作者 |倒序浏览

1.3 文本匹配
一些unix的文本处理程序让你可以搜索，某些时候可以改变一些文本模式，而不是固定的字串。这些应用包括编辑工具
ed,ex,vi和sed，还有awk程序语言和命令行命令grep和egrep.文本模式(更正式地讲应该叫正则表达式)包含了平常的字符与一系列的特
殊字符(称为元字符)
1.3.1  文件名对模式
在模式匹配中使用的元字符与在文件名扩展的元字符是不同的。当你在命令行发出一个命令的时候，特殊字符在shell中首先被看到，然后才是程序，所以没有被引号引起来的元字符被shell中断修改了扩展部分。例如命令:
$grep [A-Z]* chap[12]
不能被shell转换为：
$grep Array.c Bug.c Comp.c chap1 chap2
这样就开始在文件Bug.c Comp.c,chap1,chap2中查找Array.c字串。为了通过shell并把特殊字符传递给grep,要像以下这样使用引号:
$grep "[A-Z]*" chap[12]
双引号在大部分情况下就足够了,但是单引号是最安全的用法。
注意在模式匹配中，"?"会匹配0个或1个正则表达式的实例;在文件名扩展中，?匹配一个字符。
1.3.2 元字符
同
的元字符有不同的意思，这样根它们在什么地方用有关系。特别地，正则表达式被用来在文本中进行搜索，同时元字符在处理有不同的集的文本替换上常被使用。这
些集之间互相也不相同，这一节就讲述了这些元字符在搜索和替换的时候是如何使用的，并说明了不同的变量在不同的应用程序中的具体的描述。
1.3.2.1 搜索模式
在下面的表中的字符只在搜索模式中有特殊的意义:
字符       模式
.          匹配除去新行之外的任意单个字符。在awk中可以匹配空行
*          匹配任何(或没有)个在它之前的字符。之前的字符可以是一个正则的表达式。比如说，因为.可以表示任何字符，则.*就表示"匹配任何数量的任意字符"
^          在一行或一个字符串的开始部分匹配之后的正则表达式
$          在一行或一个字符串的尾部部分匹配之前的正则表达式
\          取消下一个字符的特殊意义
[]          匹配任何一个用括号括着的字符。连字符"-"表示了连续的一个字符的范围。^符号表示了匹配任何一个不在括号内的字符在第一个字符位置为一个连字符或反括号被认为是列表中的一个元素。所有的元字符都被认为是列表中的一个成员
{n,m} 匹配在之前的一个字符的出现范围。之前的字符也可以是元字符，{n}匹配了正好出现n次;{n,}匹配至少出现n次{n,m}匹配了出现n次到m次。n,m必须是大于0小于255的。
\{n,m} 就像{n,m}一样的，但是只是在括号之前加了一个反斜扛.
       把在$和$之间包含着的模式存放在一个特殊的存储空间中.最多9个模式可以被存放在一行中。被子模式匹配的文本可以通过\1到\9进行“回放”
\n       回放由$和$括起来的第n个子模式。n是从1到9的数字。以最左位置为1开始.
\    匹配以\结束的词中的字符
+       匹配一个或多个前述的正则表达式的实例
?       匹配零个或一个前述的正则表达式的实例
|       匹配在之前或之后指定的正则表达式。
()       匹配一个括起来的一组正则表达式
很多unix系统允许在方括号括起来的一组字符里使用POSIX字符集.就是指用[:和:]括起来的内容。例如[:alnum:]就匹配一个文字数字的字符
字符集类匹配的字符
alnum 文字数字字符
alpha 字母字符
blank 空格或TAB
cntrl 控制字符
digit 十进制数字
graph 非空格字符
lower 小写字符
print 可打印的字符
space 空格字符
upper 大写字符
xdigit 十六进制数字
1.3.2.2 替换模式
下表中的字符只在替换模式中有特殊的含义:
字符模式
\ 关闭之前字符的特殊含义
\n 存储用$和$保存的n个模式匹配得到的文本。n是从1到9的数字，1是从左端开始的位置
& 重用搜索模式匹配的文本以做为替换模式
~ 重用之前的替换模式为当前的替换模式。只能为在替换模式中的唯一一个字符(ex和vi)
% 重用之前的替换模式为当前的替换模式。只能为在替换模式中的唯一一个字符(ed)
\u 把当前替换模式的第一个字符转为大写
\U 把整个替换模式转为大写。
\l 把当前替换模式的第一个字符转为小写
\L 把整个替换模式转为小写
\E 关闭之前的\U或\L
\e 关闭之前的\u或\l
1.3.3 元字符，以unix程序来列举
一
些元字符对于一个程序来说是有效的，但是对于另一个也可能是无效的。在哪个unix程序中有效的我们在下表中将标出.(这个表对于SVR4和
Solaris以及大多数unix系统都是正确的，但是对于你的系统来说并不一定总是执行有效的）用"P"标记的项表示是POSIX标准指定的。
符号 ed ex vi sed awk grep egrep 动作
.    Y Y  Y Y Y Y    Y    匹配任意一个字符
*    Y Y  Y Y Y Y    Y    匹配0个或多个之前的字符
^ Y Y  Y Y Y Y    Y    匹配一行或一个字符串的开始部分
$                                           匹配一行或一个字符串的结束部分
\    Y Y  Y Y Y Y    Y    不匹配之后的字符
[] Y Y  Y Y Y Y    Y    从一个字符集中匹配一个字符
 Y  Y  Y Y       Y          为以后的回放来存放模式
\n Y Y  Y Y       Y          重放之前存储的某个模式
{ }                   YP          YP 匹配一个范围的实例
\{ \} Y       Y       Y             匹配一个范围的实例
\ Y Y Y                            在一个词的词首或词尾匹配
+                      Y          Y    匹配之前的一个或多个字符
?                      Y          Y    匹配之前的零个或一个字符
|                      Y          Y    隔离匹配的选择
（）                   Y          Y    用于匹配的一组表达式
注意在ed,ex,vi,sed中，你可以指定搜索模式(在左)也可以指定替换模式(在右).在表中列出的元字符只在搜索模式中有效.
在ed,ex,vi和sed中，以下的元字符只在替换模式中有效：
符号 ex vi sed ed 动作
\ Y Y Y Y 不匹配后一个字符
\n Y Y Y Y 匹配在$和$中存储的模式
& Y Y Y Y 匹配搜索模式中的文本
~ Y Y 重用之前的替换模式
% Y 重用之前的替换模式
\u\U Y Y 把字符变为大写
\l\L Y Y 把字符变成小写
\E Y Y 关闭\U或\L
\e Y Y 关闭\u或\l
1.3.4 搜索中的实例
当与grep或egrep同时使用的时候，正则表达式应该用引号引起来.(如果模式中包含$，则你必须要使用单引号）当与ed,ex,sed和awk使用正则表达式的时候，它们总要由/包围起来（awk除外),任何分界符都有效。以下是几个模式的实例:
模式  匹配的结果
bag  bag字符串
^bag  以bag开始的一行
bag$  以bag结束的一行
^bag$  只包含bag的一行
[Bb]ag  Bag或bag
b[aeiou]g 第二个字符是一个字音字母
b[^aeiou]g 第二个字母是一个辅音字母
b.g  第二个字母是任意字母
^...$  任何只包含三个字符的一行
^\.  任何以一个"."开始的一行
^\.[a-z][a-z] 同前一个模式，之后的两个字符为小写
./[a-z]\{2\} 与之前的模式相同，仅在ed,grep和sed中使用
^[^.]  任何一个不以"."开始的一行.
bugs*  bug,bugs,bugss等等
"word"  用引号引起来的词
"*word"  一个词，有或没有引号引着
[A-Z][A-Z]* 一个或多个大写字母
[A-Z]+  同上，只有在egrep和awk使用
[[:upper:]]+ 同上，POSIX下的egrep或awk使用
[A-Z].*  一个大写的字母，后接以0个或多个字符
[A-Z]*  0个或多个大写字符
[a-zA-Z] 任意一个字母，不管是大写还是小写
[^0-9A-Za-z] 任何的一个符号或空格（不是字母或数字)
[^[:alnum:]] 同上，用POSIX的字符集
egrep或awk模式匹配的结果
[567] 5,6,7中的一个数字
five|six|seven 一个为five或six或seven的词
80[2-4]?86 8086,80286,80386或80486
80[2-4]?86|Pentium  8086,80286,80386或80486或Pentium
compan(y|ies) company或companies
ex或vi的模式匹配的结果
\ 像breathe,seathe或the这样的词
\ the
ed, sed或grep模式  匹配的结果
0\{5,\} 在一行中有五个以上的0
[0-9]\{3\}-[0-9]\{2\}-[0-9]\{4\}nnn-nn-nnnn格式的数字
$why$.*\1 出现两次why的一行
$[[:alpha:]_][[:alnum:]_.]*$ = \1; C++赋值语句
1.3.4.1 搜索并替换的例子
以下的例子说明了sed或ex中的元字符。注意ex命令以冒号开始。
标的时候空格记为S,TAB记为T
命令结果
s/.*/( & )/ 重做整行，但是加入圆括号
s/.*/mv & &.old/  变换mv命令一个词列表(每行一词)
/^$/d 删除空行
:g/^$/d 在ex中的上面命令
/^[ST]*$/d 删除空行，和仅包含空格和[]的行
:g/^[ST]*$/d 同上，在ex中使用
s/SS*/S/g 把一个或多个空格变为一个
:%s/SS*/S/g 同上，在ex中使用
:s/[0-9]/Item &:/  把一个数字变成一个当前行的项标
:s 在第一次出现的时候重复替换
:& 同上
:sg 同上，但是是对于任意一次出现的时候
:&g 同上
:%&g 在所有的行上重复替换
:.,$s/Fortran/\U&/g  从当前行到最后一行，把词换为大写
:%s/.*/\L&/ 整个文件变为小写
:s/\

                                             1. awk简介

awk
是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和
动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这
样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出
(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred
Aho、Brian Kernighan、Peter
Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的，在
linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍。




                                             2. awk命令格式和选项







                                             2.1. awk的语法有两种形式

awk [options] 'script' var=value file(s)

awk [options] -f scriptfile var=value file(s)







                                             2.2. 命令选项



                                             -F fs or --field-separator fs

指定输入文件折分隔符，fs是一个字符串或者是一个正则表达式，如-F:。
                                             -v var=value or --asign var=value

赋值一个用户定义变量。
                                             -f scripfile or --file scriptfile

从脚本文件中读取awk命令。
                                             -mf nnn and -mr nnn

对nnn值设置内在限制，-mf选项限制分配给nnn的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。
                                             -W compact or --compat, -W traditional or --traditional

在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样，所有的awk扩展都被忽略。
                                             -W copyleft or --copyleft, -W copyright or --copyright

打印简短的版权信息。
                                             -W help or --help, -W usage or --usage

打印全部awk选项和每个选项的简短说明。
                                             -W lint or --lint

打印不能向传统unix平台移植的结构的警告。
                                             -W lint-old or --lint-old

打印关于不能向传统unix平台移植的结构的警告。
                                             -W posix

打开兼容模式。但有以下限制，不识别：\x、函数关键字、func、换码序列以及当fs是一个空格时，将新行作为一个域分隔符；操作符**和**=不能代替^和^=；fflush无效。
                                             -W re-interval or --re-inerval

允许间隔正则表达式的使用，参考(grep中的Posix字符类)，如括号表达式[[:alpha:]]。
                                             -W source program-text or --source program-text

使用program-text作为源代码，可与-f命令混用。
                                             -W version or --version

打印bug报告信息的版本。







                                             3. 模式和操作



                                             awk脚本是由模式和操作组成的：

pattern {action} 如$ awk '/root/' test，或$ awk '$3

两者是可选的，如果没有模式，则action应用到全部记录，如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。




                                             3.1. 模式




模式可以是以下任意一个：

/正则表达式/：使用通配符的扩展集。

关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2>%1选择第二个字段比第一个字段长的行。

模式匹配表达式：用运算符~(匹配)和~!(不匹配)。

模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。

BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。

END：让用户在最后一条输入记录被读取之后发生的动作。







                                             3.2. 操作




操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：

变量或数组赋值

输出命令

内置函数

控制流命令








                                             4. awk的环境变量




                                             Table 1. awk的环境变量




                                                         变量
                                                         描述




                                                         $n
                                                         当前记录的第n个字段，字段间由FS分隔。


                                                         $0
                                                         完整的输入记录。


                                                         ARGC
                                                         命令行参数的数目。


                                                         ARGIND
                                                         命令行中当前文件的位置(从0开始算)。


                                                         ARGV
                                                         包含命令行参数的数组。


                                                         CONVFMT
                                                         数字转换格式(默认值为%.6g)


                                                         ENVIRON
                                                         环境变量关联数组。


                                                         ERRNO
                                                         最后一个系统错误的描述。


                                                         FIELDWIDTHS
                                                         字段宽度列表(用空格键分隔)。


                                                         FILENAME
                                                         当前文件名。


                                                         FNR
                                                         同NR，但相对于当前文件。


                                                         FS
                                                         字段分隔符(默认是任何空格)。


                                                         IGNORECASE
                                                         如果为真，则进行忽略大小写的匹配。


                                                         NF
                                                         当前记录中的字段数。


                                                         NR
                                                         当前记录数。


                                                         OFMT
                                                         数字的输出格式(默认值是%.6g)。


                                                         OFS
                                                         输出字段分隔符(默认值是一个空格)。


                                                         ORS
                                                         输出记录分隔符(默认值是一个换行符)。


                                                         RLENGTH
                                                         由match函数所匹配的字符串的长度。


                                                         RS
                                                         记录分隔符(默认是一个换行符)。


                                                         RSTART
                                                         由match函数所匹配的字符串的第一个位置。


                                                         SUBSEP
                                                         数组下标分隔符(默认值是\034)。









                                             5. awk运算符




                                             Table 2. 运算符




                                                         运算符
                                                         描述




                                                         = += -= *= /= %= ^= **=
                                                         赋值


                                                         ?:
                                                         C条件表达式


                                                         ||
                                                         逻辑或


                                                         &&
                                                         逻辑与


                                                         ~ ~!
                                                         匹配正则表达式和不匹配正则表达式


                                                         >= != ==
                                                         关系运算符


                                                         空格
                                                         连接


                                                         + -
                                                         加，减


                                                         * / &
                                                         乘，除与求余


                                                         + - !
                                                         一元加，减和逻辑非


                                                         ^ ***
                                                         求幂


                                                         ++ --
                                                         增加或减少，作为前缀或后缀


                                                         $
                                                         字段引用


                                                         in
                                                         数组成员









                                             6. 记录和域







                                             6.1. 记录




awk把每一个以换行符结束的行称为一个记录。

记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。

$0变量：它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。

变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录，并在记录前显示记录号。





                                             6.2. 域




记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。





                                             6.3. 域分隔符




内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一，第五列的内容。

可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F'[:\t]' '{print $1,$3}' test，表示以空格、冒号和tab作为分隔符。

输出域的分隔符默认是一个空格，保存在OFS中。如$ awk -F: '{print $1,$5}' test，$1和$5间的逗号就是OFS的值。






                                             7. gawk专用正则表达式元字符




一般通用的元字符集就不讲了，可参考我的Sed和Grep学习笔记。以下几个是gawk专用的，不适合unix版本的awk。
                                             \Y

匹配一个单词开头或者末尾的空字符串。
                                             \B

匹配单词内的空字符串。
                                             \

匹配一个单词的开头的空字符串，锚定开始。
                                             \>

匹配一个单词的末尾的空字符串，锚定末尾。
                                             \w

匹配一个字母数字组成的单词。
                                             \W

匹配一个非字母数字组成的单词。
                                             \‘

匹配字符串开头的一个空字符串。
                                             \'

匹配字符串末尾的一个空字符串。






                                             8. POSIX字符集




可参考我的Grep学习笔记





                                             9. 匹配操作符(~)




用来在记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。





                                             10. 比较表达式




conditional
expression1 ? expression2: expression3，例如：$ awk '{max = {$1 > $3} ?
$1: $3: print max}' test。如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。

$ awk '$1 + $2  5 && $2




                                             11. 范围模板




范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现，则匹配到开头或末尾。如$ awk '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。





                                             12. 一个验证passwd文件有效性的例子







$ cat /etc/passwd | awk -F: '\

NF != 7{\

printf("line %d,does not have 7 fields:%s\n",NR,$0)}\

$1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\

$2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'










cat把结果输出给awk，awk把域之间的分隔符设为冒号。







如果域的数量(NF)不等于7，就执行下面的程序。







printf打印字符串"line ?? does not have 7 fields"，并显示该条记录。







如果第一个域没有包含任何字母和数字，printf打印“no alpha and numeric user id" ，并显示记录数和记录。







如果第二个域是一个星号，就打印字符串“no passwd”，紧跟着显示记录数和记录本身。










                                             13. 几个实例

$ awk '/^(no|so)/' test-----打印所有以模式no或so开头的行。

$ awk '/^[ns]/{print $1}' test-----如果记录以n或s开头，就打印这个记录。

$ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。

$ awk '$1 == 100 || $2

$ awk '$1 != 10' test-----如果第一个域不等于10就打印该行。

$ awk '/test/{print $1 + 10}' test-----如果记录包含正则表达式test，则第一个域加10并打印出来。

$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一个域大于5则打印问号后面的表达式值，否则打印冒号后面的表达式值。

$
awk '/^root/,/^mysql/'
test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记
录，则继续打印直到下一个以正则表达式mysql开头的记录为止，或到文件末尾。







                                             14. awk编程







                                             14.1. 变量

在awk中，变量不需要定义就可以直接使用，变量类型可以是数字或字符串。

赋
值格式：Variable = expression，如$ awk '$1 ~/test/{count = $2 + $3; print
count}'
test,上式的作用是,awk先扫描第一个域，一旦test匹配，就把第二个域的值加上第三个域的值，并把结果赋值给变量count，最后打印出来。

awk
可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004
test，上式的month和year都是自定义变量，分别被赋值为4和2004。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。注意，如
果参数前面出现test，那么在BEGIN语句中的变量就不能被使用。

域
变量也可被赋值和修改，如$ awk '{$2 = 100 + $1; print }'
test,上式表示，如果第二个域不存在，awk将计算表达式100加$1的值，并将其赋值给$2，如果第二个域存在，则用表达式的值覆盖$2原来的值。
再例如：$ awk '$1 == "root"{$1 ="test";print}'
test，如果第一个域的值是“root”，则把它赋值为“test”，注意，字符串一定要用双引号。

内
建变量的使用。变量列表在前面已列出，现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 ==
"MARY"{print
NR,$1,$2,$NF}'test，把IGNORECASE设为1代表忽略大小写，打印第一个域是mary的记录数、第一个域、第二个域和最后一个
域。







                                             14.2. BEGIN模块




BEGIN
模块后紧跟着动作块，这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值，如OFS,
RS和FS等，以及打印标题。如：$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print
$1,$2,$3}
test。上式表示，在处理输入文件以前，域分隔符(FS)被设为冒号，输出文件分隔符(OFS)被设置为制表符，输出记录分隔符(ORS)被设置为两个
换行符。$ awk 'BEGIN{print "TITLE TEST"}只打印标题。





                                             14.3. END模块




END不匹配任何的输入文件，但是执行动作块中的所有动作，它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number of records is" NR}' test，上式将打印所有被处理的记录数。





                                             14.4. 重定向和管道

awk
可使用shell的重定向符进行重定向输出，如：$ awk '$1 = 100 {print $1 > "output_file" }'
test。上式表示如果第一个域的值等于100，则把它输出到output_file中。也可以用>>来重定向输出，但不清空文件，只做追加
操作。

输
出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容，
并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返回0，如果出现错误，例如打开文件失败，就
返回-1。如：

$ awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量d，并打印它。

$
awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}'
test。执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给d，split函数把变量d转
化成数组mon，然后打印数组mon的第二个元素。

$
awk 'BEGIN{while( "ls" | getline)
print}'，命令ls的输出传递给geline作为输入，循环使getline从ls的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为
BEGIN块在打开输入文件前执行，所以可以忽略输入文件。

$
awk 'BEGIN{printf "What is your name?"; getline name  0) lc++; print
lc}'。awk将逐行读取文件/etc/passwd的内容，在到达文件末尾前，计数器lc一直增加，当到末尾时，打印lc的值。注意，如果文件不存
在，getline返回-1，如果到达文件的末尾就返回0，如果读到一行，就返回1，所以命令 while (getline

可
以在awk中打开一个管道，且同一时刻只能有一个管道存在。通过close()可关闭管道。如：$ awk '{print $1, $2 |
"sort" }' test END
{close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。

system函数可以在awk中执行linux的命令。如：$ awk 'BEGIN{system("clear")'。

fflush函数用以刷新输出缓冲区，如果没有参数，就刷新标准输出的缓冲区，如果以空字符串为参数，如fflush(""),则刷新所有文件和管道的输出缓冲区。







                                             14.5. 条件语句




awk中的条件语句是从C语言中借鉴过来的，可控制程序的流程。




                                             14.5.1. if语句



                                             格式：
      {if (expression){
               statement; statement; ...
                  }
      }

$ awk '{if ($1




                                             14.5.2. if/else语句，用于双重判断。



                                             格式：
      {if (expression){
               statement; statement; ...
                     }
      else{
               statement; statement; ...
                     }
      }

$ awk '{if ($1 > 100) print $1 "bad" ; else print "ok"}' test。如果$1大于100则打印$1 bad,否则打印ok。

$ awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大于100，则count加一，并打印$1，否则count减一，并打印$1。





                                             14.5.3. if/else else if语句，用于多重判断。



                                             格式：
      {if (expression){
                  statement; statement; ...
               }
      else if (expression){
                  statement; statement; ...
               }
      else if (expression){
                  statement; statement; ...
               }
      else {
               statement; statement; ...
         }
      }






                                             14.6. 循环

awk有三种循环:while循环；for循环；special for循环。

$ awk '{ i = 1; while ( i

$ awk '{for (i = 1; i

breadkcontinue语句。break用于在满足条件的情况下跳出循环；continue用于在满足条件的情况下忽略后面的语句，直接返回循环的顶端。如：
                                                {for ( x=3; x

next语句从输入文件中读取一行，然后从头开始执行awk脚本。如：
                                                {if ($1 ~/test/){next}
else {print}
}

exit语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。







                                             14.7. 数组




awk中的数组的下标可以是数字和字母，称为关联数组。




                                             14.7.1. 下标与关联数组

用
变量作为数组下标。如：$ awk {name[x++]=$2};END{for(i=0;i

special for循环用于读取关联数组中的元素。格式如下：
                                                {for (item in arrayname){
      print arrayname[item]
      }
}
$ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name}}'
test。打印有值的数组元素。打印的顺序是随机的。

用字符串作为下标。如：count["test"]

用
域值作为数组的下标。一种新的for循环方式，for (index_value in array) statement。如:$ awk
'{count[$1]++} END{for(name in count) print name,count[name]}'
test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标，第一个域变化，索引就变化。

delete
函数用于删除数组元素。如：$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}'
test。分配给数组line的是第一个域的值，所有记录处理完成后，special for循环将删除每一个元素。








                                             14.8. awk的内建函数







                                             14.8.1. 字符串函数

sub函数匹配记录中最大、最靠左边的子字符串的正则表达式，并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下：
                                                sub (regular expression, substitution string):
         sub (regular expression, substitution string, target string)

实例：
                                                $ awk '{ sub(/test/, "mytest"); print }' testfile
         $ awk '{ sub(/test/, "mytest"); $1}; print }' testfile

第一个例子在整个记录中匹配，替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub

第二个例子在整个记录的第一个域中进行匹配，替换只发生在第一次匹配发生的时候。

gsub函数作用如sub，但它在整个文档中进行匹配。格式如下：
                                                gsub (regular expression, substitution string)
         gsub (regular expression, substitution string, target string)

实例：
                                                $ awk '{ gsub(/test/, "mytest"); print }' testfile
         $ awk '{ gsub(/test/, "mytest"), $1 }; print }' testfile

第一个例子在整个文档中匹配test，匹配的都被替换成mytest。

第二个例子在整个文档的第一个域中匹配，所有匹配的都被替换成mytest。

index函数返回子字符串第一次被匹配的位置，偏移量从位置1开始。格式如下：
                                                index(string, substring)

实例：
                                                $ awk '{ print index("test", "mytest") }' testfile

实例返回test在mytest的位置，结果应该是3。

length函数返回记录的字符数。格式如下：
                                                length( string )
         length

实例：
                                                $ awk '{ print length( "test" ) }'
         $ awk '{ print length }' testfile

第一个实例返回test字符串的长度。

第二个实例返回testfile文件中第条记录的字符数。

substr函数返回从位置1开始的子字符串，如果指定长度超过实际长度，就返回整个字符串。格式如下：
                                                substr( string, starting position )
         substr( string, starting position, length of string )

实例：
                                                $ awk '{ print substr( "hello world", 7,11 ) }'

上例截取了world子字符串。

match函数返回在字符串中正则表达式位置的索引，如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置，RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下：
                                                match( string, regular expression )

实例：
                                                $ awk '{start=match("this is a test",/[a-z]+$/); print start}'
         $ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'

第一个实例打印以连续小写字符结尾的开始位置，这里是11。

第二个实例还打印RSTART和RLENGTH变量，这里是11(start)，11(RSTART)，4(RLENGTH)。

toupper和tolower函数可用于字符串大小间的转换，该功能只在gawk中有效。格式如下：
                                                toupper( string )
         tolower( string )

实例：
                                                $ awk '{ print toupper("test"), tolower("TEST") }'

split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供，则按当前FS值进行分割。格式如下：
                                                split( string, array, field separator )
         split( string, array )

实例：
                                                $ awk '{ split( "20:18:00", time, ":" ); print time[2] }'

上例把时间按冒号分割到time数组内，并显示第二个数组元素18。







                                             14.8.2. 时间函数

systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下：
                                                systime()

实例：
                                                $ awk '{ now = systime(); print now }'

strftime函数使用C库中的strftime函数格式化时间。格式如下：
                                                systime( [format specification][,timestamp] )

                                                Table 3. 日期和时间格式说明符




                                                            格式
                                                            描述




                                                            %a
                                                            星期几的缩写(Sun)


                                                            %A
                                                            星期几的完整写法(Sunday)


                                                            %b
                                                            月名的缩写(Oct)


                                                            %B
                                                            月名的完整写法(October)


                                                            %c
                                                            本地日期和时间


                                                            %d
                                                            十进制日期


                                                            %D
                                                            日期 08/20/99


                                                            %e
                                                            日期，如果只有一位会补上一个空格


                                                            %H
                                                            用十进制表示24小时格式的小时


                                                            %I
                                                            用十进制表示12小时格式的小时


                                                            %j
                                                            从1月1日起一年中的第几天


                                                            %m
                                                            十进制表示的月份


                                                            %M
                                                            十进制表示的分钟


                                                            %p
                                                            12小时表示法(AM/PM)


                                                            %S
                                                            十进制表示的秒


                                                            %U
                                                            十进制表示的一年中的第几个星期(星期天作为一个星期的开始)


                                                            %w
                                                            十进制表示的星期几(星期天是0)


                                                            %W
                                                            十进制表示的一年中的第几个星期(星期一作为一个星期的开始)


                                                            %x
                                                            重新设置本地日期(08/20/99)


                                                            %X
                                                            重新设置本地时间(12：00：00)


                                                            %y
                                                            两位数字表示的年(99)


                                                            %Y
                                                            当前月份


                                                            %Z
                                                            时区(PDT)


                                                            %%
                                                            百分号(%)





实例：
                                                $ awk '{ now=strftime( "%D", systime() ); print now }'
         $ awk '{ now=strftime("%m/%d/%y"); print now }'







                                             14.8.3. 内建数学函数




                                             Table 4.




                                                         函数名称
                                                         返回值




                                                         atan2(x,y)
                                                         y,x范围内的余切


                                                         cos(x)
                                                         余弦函数


                                                         exp(x)
                                                         求幂


                                                         int(x)
                                                         取整


                                                         log(x)
                                                         自然对数


                                                         rand()
                                                         随机数


                                                         sin(x)
                                                         正弦


                                                         sqrt(x)
                                                         平方根


                                                         srand(x)
                                                         x是rand()函数的种子


                                                         int(x)
                                                         取整，过程没有舍入


                                                         rand()
                                                         产生一个大于等于0而小于1的随机数









                                             14.8.4. 自定义函数




在awk中还可自定义函数，格式如下：
                                             function name ( parameter, parameter, parameter, ... ) {
                     statements
                     return expression
   # the return statement and expression are optional
      }







                                             15. How-to

如何把一行竖排的数据转换成横排？

awk '{printf("%s,",$1)}' filename






本文来自ChinaUnix博客，如果查看原文请点：http://blog.chinaunix.net/u3/93182/showart_2045372.html

文库|博客

返回列表

Chinaunix › 论坛 › 操作系统 › Linux新手园地 › Linux文档专区 › sed awk 学习笔记 1

sed awk 学习笔记 1 [复制链接]