免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 223401 | 回复: 81

shell基础九:awk  关闭 [复制链接]

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:00 |显示全部楼层
shell基础1:文件安全与权限
http://bbs.chinaunix.net/forum/viewtopic.php?t=434579&highlight=wingger

附:Linux的用户和用户组管理
http://bbs.chinaunix.net/forum/viewtopic.php?t=438660&highlight=wingger

shell基础二:查找技巧,find及xargs的使用
http://bbs.chinaunix.net/forum/viewtopic.php?t=441883&highlight=wingger

shell基础三和四:后台(crontab,at,&,nohup)及(*,?,[]等)
http://bbs.chinaunix.net/forum/viewtopic.php?t=442596&highlight=wingger

shell基础五:输入和输出(echo,read,cat,管道,tee,重定向等)
http://bbs.chinaunix.net/forum/viewtopic.php?t=444209&highlight=wingger

shell基础六七:命令执行顺序(||及&&,{}及())和正则表?
http://bbs.chinaunix.net/forum/viewtopic.php?t=445229&highlight=wingger

shell基础八:文本过滤工具(grep)
http://bbs.chinaunix.net/forum/viewtopic.php?t=446683&highlight=wingger

http://bbs.chinaunix.net/forum/viewtopic.php?t=448687&highlight=wingger
shell基础九:awk

http://bbs.chinaunix.net/forum/viewtopic.php?t=452942&highlight=wingger
shell基础十:sed

http://bbs.chinaunix.net/forum/viewtopic.php?t=457730&highlight=wingger
基础11:文件分类、合并和分割(sort,uniq,join,cut,paste,split)

shell基础十二:tr
http://bbs.chinaunix.net/forum/viewtopic.php?t=459099&highlight=wingger



终于看经常用的到的awk了     


下面没有讲述a w k的全部特性,也不涉及a w k的深层次编程,仅讲述使用a w k执行行操作及怎样从文本文件和字符串中抽取信息。

内容有:
" 抽取域。
" 匹配正则表达式。
" 比较域。
" 向a w k传递参数。
" 基本的a w k行操作和脚本。


a w k语言的最基本功能是在文件或字符串中基于指定规则浏览和抽取信息。a w k抽取信息后,才能进行其他文本操作。完整的a w k脚本通常用来格式化文本文件中的信息。

1 调用awk

有三种方式调用a w k,第一种是命令行方式,如:
  1. awk [-F fild-separator] 'commands' input-file(s)
复制代码

这里,c o m m a n d s是真正的a w k命令。
上面例子中, [ - F域分隔符]是可选的,因为a w k使用空格作为缺省的域分隔符,因此如果要浏览域间有空格的文本,不必指定这个选项,但如果要浏览诸如p a s s w d文件,此文件各域以冒号作为分隔符,则必须指明- F选项,如:
  1. awk -F:  'commands' input-file(s)
复制代码


第二种方法是将所有a w k命令插入一个文件,并使a w k程序可执行,然后用a w k命令解释器作为脚本的首行,以便通过键入脚本名称来调用它。

第三种方式是将所有的a w k命令插入一个单独文件,然后调用:
  1. awk -f awk-script-file input-files(s)
复制代码

- f选项指明在文件a w k _ s c r i p t _ f i l e中的a w k脚本, i n p u t _ f i l e ( s )是使用a w k进行浏览的文件名。

2 awk脚本
在命令中调用a w k时,a w k脚本由各种操作和模式组成。
如果设置了- F选项,则a w k每次读一条记录或一行,并使用指定的分隔符分隔指定域,但如果未设置- F选项,a w k假定空格为域分隔符,并保持这个设置直到发现一新行。当新行出现时,a w k命令获悉已读完整条记录,然后在下一个记录启动读命令,这个读进程将持续到文件尾或文件不再存在。

参照表,a w k每次在文件中读一行,找到域分隔符(这里是符号#),设置其为域n,直至一新行(这里是缺省记录分隔符),然后,划分这一行作为一条记录,接着a w k再次启动下一行读进程。
awk读文件记录的方式
域1                         分隔符        域2                分隔符        域3        分隔符        域4及换行
P. B u n n y (记录1 )         #         0 2 / 9 9         #         4 8         #         Yellow \n
J . Tr o l l (记录2 )         #         0 7 / 9 9         #         4 8 4 2 #         Brown-3 \n


2.1 模式和动作
任何a w k语句都由模式和动作组成。在一个a w k脚本中可能有许多语句。模式部分决定动作语句何时触发及触发事件。处理即对数据进行的操作。如果省略模式部分,动作将时刻保持执行状态。
模式可以是任何条件语句或复合语句或正则表达式。模式包括两个特殊字段B E G I N和E N D。使用B E G I N语句设置计数和打印头。B E G I N语句使用在任何文本浏览动作之前,之后文本浏览动作依据输入文件开始执行。E N D语句用来在a w k完成文本浏览动作后打印输出文本总数和结尾状态标志。如果不特别指明模式, a w k总是匹配或打印行数。
实际动作在大括号{ }内指明。动作大多数用来打印,但是还有些更长的代码诸如i f和循环(l o o p i n g)语句及循环退出结构。如果不指明采取动作, a w k将打印出所有浏览出来的记录。

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:07 |显示全部楼层

shell基础九:awk

2. 域和记录
a w k执行时,其浏览域标记为$ 1,$ 2 . . . $ n。这种方法称为域标识。使用这些域标识将更容易对域进行进一步处理。
使用$ 1 , $ 3表示参照第1和第3域,注意这里用逗号做域分隔。如果希望打印一个有5个域的记录的所有域,不必指明$ 1 , $ 2 , $ 3 , $ 4 , $ 5,可使用$ 0,意即所有域。Aw k浏览时,到达一新行,即假定到达包含域的记录末尾,然后执行新记录下一行的读动作,并重新设置域分隔。
注意执行时不要混淆符号$和s h e l l提示符$,它们是不同的。
为打印一个域或所有域,使用p r i n t命令。这是一个a w k动作(动作语法用圆括号括起来)。


1. 抽取域
真正执行前看几个例子,现有一文本文件g r a d e . t x t,记录了一个称为柔道数据库的行信息。
  1. $ cat grade.txt
  2. M.Tans 5/99 48311 Green 8 40 44
  3. J.Lulu 06/99 48317 green 9 24 26
  4. P.Bunny 02/99 48 Yellow 12 35 28
  5. J.Troll 07/99 4842 Brown-3 12 26 26
  6. L.Tansl 05/99   4712 Brown-2 12 30 28
复制代码

此文本文件有7个域,即(1)名字、(2)升段日期、(3)学生序号、(4)腰带级别、(5)年龄、(6)目前比赛积分、(7)比赛最高分。
因为域间使用空格作为域分隔符,故不必用- F选项划分域,现浏览文件并导出一些数据。在例子中为了利于显示,将空格加宽使各域看得更清晰。

2. 保存a w k输出
有两种方式保存s h e l l提示符下a w k脚本的输出。最简单的方式是使用输出重定向符号>文件名,下面的例子重定向输出到文件w o w。
  1. $ awk '{print $0}' grade.txt >wow
  2. $ cat grade.txt
复制代码

使用这种方法要注意,显示屏上不会显示输出结果。因为它直接输出到文件。只有在保证输出结果正确时才会使用这种方法。它也会重写硬盘上同名数据。

第二种方法是使用t e e命令,在输出到文件的同时输出到屏幕。在测试输出结果正确与否时多使用这种方法。例如输出重定向到文件d e l e t e _ m e _ a n d _ d i e,同时输出到屏幕。使用这种方法,在a w k命令结尾写入| tee delete_me_and_die。
  1. $ awk '{print $0}' grade.txt | tee delete_me_and_die
复制代码


3. 使用标准输入
在深入讲解这一章之前,先对a w k脚本的输入方法简要介绍一下。实际上任何脚本都是从标准输入中接受输入的。为运行本章脚本,使用a w k脚本输入文件格式,例如:
belts.awk grade_student.txt
也可替代使用下述格式:
使用重定向方法:
belts.awk < grade2.txt
或管道方法:
grade2.txt | belts.awk

这里我怎么看不明白,汗

4. 打印所有记录
  1. $ awk '{print $0}' grade.txt
复制代码

a w k读每一条记录。因为没有模式部分,只有动作部分{print $0}(打印所有记录),这个动作必须用花括号括起来。上述命令打印整个文件。

5. 打印单独记录
假定只打印学生名字和腰带级别,通过查看域所在列,可知为f i e l d - 1和f i e l d - 4,因此可以使用$ 1和$ 4,但不要忘了加逗号以分隔域。
  1. $ awk '{print $1,$4}' grade.txt
  2. M.Tans Green
  3. J.Lulu green
  4. P.Bunny Yellow
  5. J.Troll Brown-3
  6. L.Tansl Brown-2
复制代码


6. 打印报告头
上述命令输出在名字和腰带级别之间用一些空格使之更容易划分,也可以在域间使用t a b键加以划分。为加入t a b键,使用t a b键速记引用符\ t,后面将对速记引用加以详细讨论。也可以为输出文本加入信息头。本例中加入n a m e和b e l t及下划线。下划线使用\ n,强迫启动新行,并在\ n下一行启动打印文本操作。打印信息头放置在B E G I N模式部分,因为打印信息头被界定为一个动作,必须用大括号括起来。在a w k查看第一条记录前,信息头被打印。
  1. $ awk 'BEGIN {print "Name Belt\n-----------------------------------"}{print $1"\t",$4}' grade.txt
  2. Name Belt
  3. -----------------------------------
  4. M.Tans   Green
  5. J.Lulu   green
  6. P.Bunny  Yellow
  7. J.Troll  Brown-3
  8. L.Tansl  Brown-2
复制代码


7. 打印信息尾
如果在末行加入end of report信息,可使用E N D语句。E N D语句在所有文本处理动作执行完之后才被执行。E N D语句在脚本中的位置放置在主要动作之后。下面简单打印头信息并告之查询动作完成。
  1. $ awk 'BEGIN {print "Name\n--------"}{print $1} END {print "end-of-report"}' grade.txt
  2. Name
  3. --------
  4. M.Tans
  5. J.Lulu
  6. P.Bunny
  7. J.Troll
  8. L.Tansl
复制代码


8. awk错误信息提示
几乎可以肯定,在使用a w k时,将会在命令中碰到一些错误。a w k将试图打印错误行,但由于大部分命令都只在一行,因此帮助不大。
系统给出的显示错误信息提示可读性不好。使用上述例子,如果丢了一个双引号, a w k将返回:
  1. $ awk 'BEGIN {print "Name\n--------}{print $1} END {"end-of-report"}' grade.txt
  2. awk: cmd. line:1: BEGIN {print "Name\n--------}{print $1} END {"end-of-report"}
  3. awk: cmd. line:1:                                                            ^ unterminated string
复制代码


当第一次使用a w k时,可能被错误信息搅得不知所措,但通过长时间和不断的学习,可总结出以下规则。在碰到a w k错误时,可相应查找:
" 确保整个a w k命令用单引号括起来。
" 确保命令内所有引号成对出现。
" 确保用花括号括起动作语句,用圆括号括起条件语句。
" 可能忘记使用花括号,也许你认为没有必要,但a w k不这样认为,将按之解释语法

如果查询文件不存在,将得到下述错误信息:
  1. $ awk 'END {print NR}' grades.txt
  2. awk: cmd. line:2: fatal: cannot open file `grades.txt' for reading (没有那个文件或目录)
复制代码


9.awk 键盘输入
如果在命令行并没有输入文件g r a d e . t x t,将会怎样?
  1. $ awk 'BEGIN {print "Name\n--------"}{print $1} END {"end-of-report"}'
  2. Name
  3. --------
复制代码

B E G I N部分打印了文件头,但a w k最终停止操作并等待,并没有返回s h e l l提示符。这是因为a w k期望获得键盘输入。因为没有给出输入文件, a w k假定下面将会给出。如果愿意,顺序输入相关文本,并在输入完成后敲<Ct r l - D >键。如果敲入了正确的域分隔符, a w k会像第一个例子一样正常处理文本。这种处理并不常用,因为它大多应用于大量的打印稿。


2.3awk中正则表达式及其操作

在g r e p一章中,有许多例子用到正则表达式,这里将不使用同样的例子,但可以使用条件操作讲述a w k中正则表达式的用法。
这里正则表达式用斜线括起来。例如,在文本文件中查询字符串G r e e n,使用/ G r e e n /可以查出单词G r e e n的出现情况。

2.4元字符
这里是a w k中正则表达式匹配操作中经常用到的字符,详细情况请参阅本书第7章正则表达式概述。
  1. \ ^ $ . [] | () * + ?
复制代码

这里有两个字符第7章没有讲到,因为它们只适用于a w k而不适用于g r e p或s e d。它们是:
+ 使用+匹配一个或多个字符。
? 匹配模式出现频率。例如使用/X Y?Z/匹配X Y Z或Y Z。

[ 本帖最后由 wingger 于 2005-11-30 15:19 编辑 ]

论坛徽章:
1
荣誉会员
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:26 |显示全部楼层

shell基础九:awk

确切的说,awk也是一门独立的编程语言.

论坛徽章:
0
发表于 2004-11-20 20:37 |显示全部楼层

shell基础九:awk

脚本解释语言,unix下比较强大的有sed,awk,perl,python等;sed,awk,perl比较传统的,新兴的python有些平台已经支持,但lua各个平台都还没有不过可以很容易的移植源代码

论坛徽章:
1
荣誉会员
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:40 |显示全部楼层

shell基础九:awk

实际上,perl要比sed,awk出现要晚的多,perl诞生的初衷,就是要取代awk,sed,grep等"传统"的数据处理工具

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:48 |显示全部楼层

shell基础九:awk

奋斗奋斗

我上面的awk输入怪怪的,等看到后面再来看

论坛徽章:
1
荣誉会员
日期:2011-11-23 16:44:17
发表于 2004-11-20 20:51 |显示全部楼层

shell基础九:awk

原帖由 "wingger" 发表:
奋斗奋斗

我上面的awk输入怪怪的,等看到后面再来看

文革老师继续继续...

论坛徽章:
0
发表于 2004-11-22 09:26 |显示全部楼层

shell基础九:awk

这篇文章很熟悉哦~!

可是linuxshell一书,哈
正在学习中~!

论坛徽章:
0
发表于 2004-11-22 09:31 |显示全部楼层

shell基础九:awk

看到12章,对我的作用很大~!

另问一下PG是什么命令?根据书中结果应该跟cat命令差不多~!

我使用的是turbolinux好像没这条命令~!

能否给出它的一些参数,TKS
yancy 该用户已被删除
发表于 2004-11-22 09:59 |显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

SACC2019中国系统架构师大会

【数字转型 架构演进】SACC2019中国系统架构师大会,8.5折限时优惠重磅来袭!
2019年10月31日~11月2日第11届中国系统架构师大会(SACC2019)将在北京隆重召开。四大主线并行的演讲模式,1个主会场、20个技术专场、超千人参与的会议规模,100+来自互联网、金融、制造业、电商等领域的嘉宾阵容,将为广大参会者提供一场最具价值的技术交流盛会。

限时8.5折扣期:2019年9月30日前


----------------------------------------

大会官网>>
  

北京盛拓优讯信息技术有限公司. 版权所有 16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122
中国互联网协会会员  联系我们:huangweiwei@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP