免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 127989 | 回复: 85

shell基础八:文本过滤工具(grep)  关闭 [复制链接]

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-17 15:57 |显示全部楼层
shell基础1:文件安全与权限
http://bbs.chinaunix.net/forum/viewtopic.php?t=434579&highlight=wingger

附:Linux的用户和用户组管理
http://bbs.chinaunix.net/forum/viewtopic.php?t=438660&highlight=wingger

shell基础二:查找技巧,find及xargs的使用
http://bbs.chinaunix.net/forum/viewtopic.php?t=441883&highlight=wingger

shell基础三和四:后台(crontab,at,&,nohup)及(*,?,[]等)
http://bbs.chinaunix.net/forum/viewtopic.php?t=442596&highlight=wingger

shell基础五:输入和输出(echo,read,cat,管道,tee,重定向等)
http://bbs.chinaunix.net/forum/viewtopic.php?t=444209&highlight=wingger

shell基础六七:命令执行顺序(||及&&,{}及())和正则表?
http://bbs.chinaunix.net/forum/viewtopic.php?t=445229&highlight=wingger

shell基础八:文本过滤工具(grep)
http://bbs.chinaunix.net/forum/viewtopic.php?t=446683&highlight=wingger

http://bbs.chinaunix.net/forum/viewtopic.php?t=448687&highlight=wingger
shell基础九:awk

http://bbs.chinaunix.net/forum/viewtopic.php?t=452942&highlight=wingger
shell基础十:sed

http://bbs.chinaunix.net/forum/viewtopic.php?t=457730&highlight=wingger
基础11:文件分类、合并和分割(sort,uniq,join,cut,paste,split)

shell基础十二:tr
http://bbs.chinaunix.net/forum/viewtopic.php?t=459099&highlight=wingger


原帖由 "网中人" 发表:
比方以 grep 来说, 在 Linux 上你可找到 grep, egrep, fgrep 这几个程序, 其差异大致如下:

* grep:
传统的 grep 程序, 在没有参数的情况下, 只输出符合 RE 字符串之句子. 常见参数如下:
-v: 逆反模示, 只输出"不含" RE 字符串之句子.
-r: 递归模式, 可同时处理所有层级子目录里的文件.
-q: 静默模式, 不输出任何结果(stderr 除外. 常用以获取 return value, 符合为 true, 否则为 false .)
-i: 忽略大小写.
-w: 整词比对, 类似 \<word\> .
-n: 同时输出行号.
-c: 只输出符合比对的行数.
-l: 只输出符合比对的文件名称.
-o: 只输出符合 RE 的字符串. (gnu 新版独有, 不见得所有版本都支持.)
-E: 切换为 egrep .

* egrep:
为 grep 的扩充版本, 改良了许多传统 grep 不能或不便的操作. 比方说:
- grep 之下不支持 ? 与 + 这两种 modifier, 但 egrep 则可.
- grep 不支持 a|b 或 (abc|xyz) 这类"或一"比对, 但 egrep 则可.
- grep 在处理 {n,m} 时, 需用 \{ 与 \} 处理, 但 egrep 则不需.
诸如此类的... 我个人会建议能用 egrep 就不用 grep 啦... ^_^

* fgrep:
不作 RE 处理, 表达式仅作一般字符串处理, 所有 meta 均失去功能.


g r e p一般格式为:
  1. grep [选项]基本正则表达式[文件]
  2. 这里基本正则表达式可为字符串。
复制代码



单引号双引号
在g r e p命令中输入字符串参数时,最好将其用双引号括起来。

在调用模式匹配时,应使用单引号。

例如:“m y s t r i n g”。这样做有两个原因,一是以防被误解为s h e l l命令,二是可以用来查找多个单词组成的字符串。
在调用变量时,也应该使用双引号,诸如: g r e p“$ M Y VA R”文件名,如果不这样,将没有返回结果。


常用的g r e p选项有:

-c 只输出匹配行的计数。
-i 不区分大小写(只适用于单字符)。
-h 查询多文件时不显示文件名。
-l 查询多文件时只输出包含匹配字符的文件名。
-n 显示匹配行及行号。
-s 不显示不存在或无匹配文本的错误信息。
-v 显示不包含匹配文本的所有行。


开始讨论之前,先生成一个文件,插入一段文本,并在每列后加入< Ta b >键,g r e p命令示例中绝大多数将以此为例,其命名为d a t a . . f。生成一个文件,d a t a . f的记录结构如下:

第1列:城市位置编号。
第2列:月份。
第3列:存储代码及出库年份。
第4列:产品代号。
第5列:产品统一标价。
第6列:标识号。
第7列:合格数量。


文件内容如下:
  1. $ cat data.f
  2. 48      Dec     3BC1977 LPSX    68.00   LVX2A   138
  3. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  4. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  5. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  6. 484     nov     7PL1996 CAD     49.00   PLV2C   234
  7. 483     may     5PA1998 USP     37.00   KVM9D   644
  8. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码

论坛徽章:
0
发表于 2004-11-17 17:08 |显示全部楼层

shell基础八:文本过滤工具(grep)

文革姐姐
你好猛啊

论坛徽章:
1
荣誉会员
日期:2011-11-23 16:44:17
发表于 2004-11-17 17:17 |显示全部楼层

shell基础八:文本过滤工具(grep)

楼上的头像好熟悉

论坛徽章:
0
发表于 2004-11-17 17:26 |显示全部楼层

shell基础八:文本过滤工具(grep)

grep得精彩就在 后面的正则

btw :hehe girl girl 回来了?

论坛徽章:
0
发表于 2004-11-17 17:41 |显示全部楼层

shell基础八:文本过滤工具(grep)

二楼的难道是传说中的BJGIRL!!!
小弟从来到现在都无缘相见

论坛徽章:
1
荣誉会员
日期:2011-11-23 16:44:17
发表于 2004-11-17 17:55 |显示全部楼层

shell基础八:文本过滤工具(grep)

GNU的grep,才有-o选项,很经典的~,我也最爱用

论坛徽章:
0
发表于 2004-11-17 18:20 |显示全部楼层

shell基础八:文本过滤工具(grep)

期待……和姐姐一起学习:)

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-18 15:13 |显示全部楼层

shell基础八:文本过滤工具(grep)

1、查询多个文件
在所有文件中查询单词“ sort it”
  1. $ grep "sort it" *
复制代码


2、 行匹配
1)显示包含“4 8”字符串的文本:
  1. $ grep  "48"data.f
复制代码


2)输出匹配行的总数
  1. $ grep -c "48"data.f
  2. 4
复制代码

g r e p返回数字4,表示:包含字符串“4 8”的有4行。

3)行数
显示满足匹配模式的所有行行数:
  1. $ grep -n "48"data.f
复制代码

行数在输出第一列,后跟包含4 8的每一匹配行。

4)显示非匹配行
显示所有不包含4 8的各行
  1. $ grep -v "48"data.f
复制代码


5)精确匹配
可能大家已注意到,在上一例中,抽取字符串“ 4 8”,返回结果包含诸如4 8 4和4 8 3等包含“4 8”的其他字符串,实际上应精确抽取只包含4 8的各行。
使用g r e p抽取精确匹配的一种更有效方式是在抽取字符串后加\ >。假定现在精确抽取4 8,方法如下:
  1. $grep "48\>" data.f
复制代码

另一种方法我试过,好像不行:
注意在每个匹配模式中抽取字符串后有一个< Ta b >键,所以应操作如下:
< Ta b >表示点击t a b键。
$grep "48<tab>" data.f


6)大小写敏感
缺省情况下, g r e p是大小写敏感的,如要查询大小写不敏感字符串,必须使用- i开关。在d a t a . f文件中有月份字符S e p t,既有大写也有小写,要取得此字符串大小写不敏感查询,方法如下:
  1. $grep -i "48" data.f
复制代码

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-18 21:17 |显示全部楼层

shell基础八:文本过滤工具(grep)

grep和正则表达式

使用正则表达式使模式匹配加入一些规则,因此可以在抽取信息中加入更多选择。使用正则表达式时最好用单引号括起来,这样可以防止g r e p中使用的专有模式与一些s h e l l命令的特殊方式相混淆。
                                                                              
1、模式范围
抽取代码为4 8 4和4 8 3的城市位置,可以使用[ ]来指定字符串范围。
  1. $ grep "48[34]" data.f
  2. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  3. 484     nov     7PL1996 CAD     49.00   PLV2C   234
  4. 483     may     5PA1998 USP     37.00   KVM9D   644
复制代码

                                                                              
2、不匹配行首
使行首不是4或8,可以在方括号中使用^记号。
  1. $ grep "^[^48]" data.f
  2. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  3. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码


如果是字符串48
  1. $ grep -v "^[^48]" data.f
复制代码

                                                                              
3、设置大小写
使用- i开关可以屏蔽月份S e p t的大小写敏感
  1. [sam@chenwy sam]$ grep -i "sept" data.f
  2. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  3. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码

                                                                              
也可以用另一种方式[ ]模式抽取各行包含S e p t和s e p t的所有信息。
  1. [sam@chenwy sam]$ grep '[sS]ept' data.f
复制代码


如果要抽取包含S e p t的所有月份,不管其大小写,并且此行包含字符串483,可以使用管道命令,即符号“|”左边命令的输出作为“ |”右边命令的输入。举例如下:
  1. [sam@chenwy sam]$ grep '[sS]ept' data.f | grep 48
  2. 483     Sept    5AP1996 USP     65.00   LVX2C   189
复制代码

不必将文件名放在第二个g r e p命令中,因为其输入信息来自于第一个g r e p命令的输出
                                                                              
4、匹配任意字符
如果抽取以K开头,以D结尾的所有代码,可使用下述方法,因为已知代码长度为5个字符:
  1. [sam@chenwy sam]$ grep 'K...D' data.f
  2. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  3. 483     may     5PA1998 USP     37.00   KVM9D   644
复制代码

                                                                              
将上述代码做轻微改变,头两个是大写字母,中间两个任意,并以C结尾:
  1. [sam@chenwy sam]$ grep '[A-Z]..C' data.f
  2. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  3. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  4. 484     nov     7PL1996 CAD     49.00   PLV2C   234
复制代码


5、日期查询
一个常用的查询模式是日期查询。先查询所有以5开始以1 9 9 6或1 9 9 8结尾的所有记录。使用模式5 . . 1 9 9 [ 6 , 8 ]。这意味着第一个字符为5,后跟两个点,接着是1 9 9,剩余两个数字是6或8。
  1. [sam@chenwy sam]$ grep '5..199[6,8]' data.f
  2. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  3. 483     may     5PA1998 USP     37.00   KVM9D   644
复制代码

                                                                              
6、范围组合
必须学会使用[ ]抽取信息。假定要取得城市代码,第一个字符为0-9,第二个字符在0到5之间,第三个字符在0到6之间,使用下列模式即可实现。
  1. [sam@chenwy sam]$ grep '[0-9][0-5[0-6]' data.f
  2. 48      Dec     3BC1977 LPSX    68.00   LVX2A   138
  3. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  4. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  5. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  6. 484     nov     7PL1996 CAD     49.00   PLV2C   234
  7. 483     may     5PA1998 USP     37.00   KVM9D   644
  8. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码

                                                                              
这里返回很多信息,有想要的,也有不想要的。参照模式,返回结果是正确的,因此这里
  1. [sam@chenwy sam]$ grep '^[0-9][0-5][0-6]' data.f
  2. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  3. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码
这样可以返回一个预期的正确结果。
                                                                       以下要注意有无边界字符的区别       
7、模式出现机率
抽取包含数字4至少重复出现两次的所有行,方法如下:
  1. [sam@chenwy sam]$ grep '4\{2,\}' data.f
  2. 483     may     5PA1998 USP     37.00   KVM9D   644
复制代码
上述语法指明数字4至少重复出现两次,注意有无边界字符的区别。                                                                              
同样,抽取记录使之包含数字9 9 9(三个9),方法如下:
  1. [sam@chenwy sam]$ grep '9\{3,\}' data.f
  2. 219     dec     2CC1999 CAD     23.00   PLV2C   68
复制代码

                                                                              
如果要查询重复出现次数一定的所有行,语法如下,数字9重复出现两次或三次:
  1. [sam@chenwy sam]$ grep '9\{3\}' data.f
  2. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  3. [sam@chenwy sam]$ grep '9\{2\}' data.f
  4. 483     Sept    5AP1996 USP     65.00   LVX2C   189
  5. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  6. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  7. 484     nov     7PL1996 CAD     49.00   PLV2C   234
复制代码

                                                                              
有时要查询重复出现次数在一定范围内,比如数字或字母重复出现2到6次,下例匹配数字8重复出现2到6次,并以3结尾:
  1. [sam@chenwy sam]$ cat myfile
  2. 83
  3. 888883
  4. 8884
  5. 88883
  6. [sam@chenwy sam]$ grep '8\{2,6\}3' myfile
  7. 888883
  8. 88883
复制代码

                                                                              
8、使用grep匹配“与”或者“或”模式
g r e p命令加- E参数,这一扩展允许使用扩展模式匹配。例如,要抽取城市代码为2 1 9或2 1 6,方法如下:
  1. [sam@chenwy sam]$ grep -E '219|216' data.f
  2. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  3. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码

                                                                              
9、空行
结合使用^和$可查询空行。使用- c参数显示总行数:
  1. [sam@chenwy sam]$ grep -c '^$' myfile
复制代码

使用- n参数显示实际在哪一行:
  1. [sam@chenwy sam]$ grep -c '^$' myfile
复制代码


10、匹配特殊字符
查询有特殊含义的字符,诸如$ . ' " * [] ^ | \ + ? ,必须在特定字符前加\。假设要查询包含“.”的所有行,脚本如下:
  1. [sam@chenwy sam]$ grep '\.' myfile
复制代码


或者是一个双引号:
  1. [sam@chenwy sam]$ grep '\"' myfile
复制代码

                                                                              
以同样的方式,如要查询文件名c o n f t r o l l . c o n f(这是一个配置文件),脚本如下:
  1. [sam@chenwy sam]$ grep 'conftroll\.conf' myfile
复制代码

                                                                              
11、查询格式化文件名
使用正则表达式可匹配任意文件名。系统中对文本文件有其标准的命名格式。一般最多六个小写字符,后跟句点,接着是两个大写字符。
  1. [sam@chenwy sam]$ grep '^[a-z]\{1,6\}\.[A-Z]\{1,2\}' filename
复制代码

这个写法我不知道有没有错     
                                                                              
12 查询IP地址
要查看n n n . n n n网络地址,如果忘了第二部分中的其余部分,只知有两个句点,例如n n n . n n . .。要抽取其中所有nnn.nnn IP地址,使用[ 0 - 9 ] \ { 3 \ } \ . [ 0 - 0 \ { 3 \ } \。含义是任意数字出现3次,后跟句点,接着是任意数字出现3次,后跟句点。
  1. [0-9]\{3\}\.[0-9]\{3\}\.'
复制代码


上面还有一点错,改天更正

论坛徽章:
1
荣誉版主
日期:2011-11-23 16:44:17
发表于 2004-11-19 15:43 |显示全部楼层

shell基础八:文本过滤工具(grep)

1、类名

g r e p允许使用国际字符模式匹配或匹配模式的类名形式。
类名及其等价的正则表达式类等价的正则表达式类等价的正则表达式
[ [ : u p p e r : ] ] [ A - Z ] [ [ : a l n u m : ] ] [ 0 - 9 a - zA-Z]
[ [ : l o w e r : ] ] [ a - z ] [ [ : s p a c e : ] ] 空格或t a b键
[ [ : d i g i t : ] ] [ 0 - 9 ] [ [ : a l p h a : ] ] [ a - z A - Z ]


例一:取以5开头,后跟至少两个大写字母:
  1. $grep '5[[:upper:]][[:upper]]' data.f
复制代码


取以P或D结尾的所有产品代码:
  1. grep '[[:upper:]][[:upper:]][P,D]' data.f
复制代码


2、使用通配符*的匹配模式
  1. $cat testfile
  2. looks
  3. likes
  4. looker
  5. long
复制代码


试试如下:
  1. grep "l.*s" testfile
复制代码


如在行尾查询某一单词,试如下模式:
  1. grep "ng$" testfile
复制代码

这将在所有文件中查询行尾包含单词ng的所有行。

3、系统grep

文件passwd
  1. [root@Linux_chenwy sam]# grep "sam" /etc/passwd
  2. sam:x:506:4::/usr/sam:/bin/bash
复制代码

上述脚本查询/ e t c / p a s s w d文件是否包含sam字符串

如果误输入以下脚本:
  1. [root@Linux_chenwy sam]# grep "sam" /etc/password
  2. grep: /etc/password: 没有那个文件或目录
复制代码

将返回g r e p命令错误代码'No such file or directory'。
上述结果表明输入文件名不存在,使用g r e p命令- s开关,可屏蔽错误信息。
返回命令提示符,而没有文件不存在的错误提示。
  1. [root@Linux_chenwy sam]# grep -s "sam" /etc/password
复制代码

如果g r e p命令不支持- s开关,可替代使用以下命令:
  1. [root@Linux_chenwy sam]# grep "sam" /tec/password >/dev/null 2>&1
复制代码

脚本含义是匹配命令输出或错误( 2 > $ 1),并将结果输出到系统池。大多数系统管理员称/ d e v / n u l l为比特池,没关系,可以将之看成一个无底洞,有进没有出,永远也不会填满。

上述两个例子并不算好,因为这里的目的只想知道查询是否成功。

如要保存g r e p命令的查询结果,可将命令输出重定向到一个文件。
  1. [root@Linux_chenwy sam]# grep "sam" /etc/passwd >/usr/sam/passwd.out
  2. [root@Linux_chenwy sam]# cat /usr/sam/passwd.out
  3. sam:x:506:4::/usr/sam:/bin/bash
复制代码

脚本将输出重定向到目录/ t m p下文件p a s s w d . o u t中。

使用ps命令
使用带有ps x命令的g r e p可查询系统上运行的进程。ps x命令意为显示系统上运行的所有进程列表。要查看D N S服务器是否正在运行(通常称为n a m e d),方法如下:
  1. [root@Linux_chenwy sam]# ps ax|grep "named"
  2. 2897 pts/1    S      0:00 grep named
复制代码

输出也应包含此g r e p命令,因为g r e p命令创建了相应进程, ps x将找到它。在g r e p命令中使用- v选项可丢弃p s命令中的g r e p进程。如果ps x不适用于用户系统,替代使用ps -ef。这里,由于我没有DNS服务,因而只有grep进程。

对一个字符串使用grep
g r e p不只应用于文件,也可应用于字符串。为此使用e c h o字符串命令,然后对g r e p命令使用管道输入。
  1. [root@Linux_chenwy sam]# STR="Mary Joe Peter Pauline"
  2. [root@Linux_chenwy sam]# echo $STR | grep "Mary"
  3. Mary Joe Peter Pauline
复制代码
匹配成功实现。

  1. [root@Linux_chenwy sam]# echo $STR | grep "Simon"
复制代码
因为没有匹配字符串,所以没有输出结果。

4、egrep
e g r e p代表e x p r e s s i o n或extended grep,适情况而定。e g r e p接受所有的正则表达式, e g r e p的一个显著特性是可以以一个文件作为保存的字符串,然后将之传给e g r e p作为参数,为此使用- f开关。如果创建一个名为g r e p s t r i n g s的文件,并输入4 8 4和4 7:
  1. [root@Linux_chenwy sam]# vi grepstrings
  2. [root@Linux_chenwy sam]# cat grepstrings
  3. 484
  4. 47
复制代码

  1. [root@Linux_chenwy sam]# egrep -f grepstrings data.f
  2. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  3. 484     nov     7PL1996 CAD     49.00   PLV2C   234
复制代码

上述脚本匹配d a t a . f中包含4 8 4或4 7的所有记录。当匹配大量模式时, - f开关很有用,而在一个命令行中敲入这些模式显然极为繁琐。

如果要查询存储代码3 2 L或2 C C,可以使用(|)符号,意即“|”符号两边之一或全部。
  1. [root@Linux_chenwy sam]# egrep '(3ZL|2CC)' data.f
  2. 47      Oct     3ZL1998 LPSX    43.00   KVM9D   512
  3. 219     dec     2CC1999 CAD     23.00   PLV2C   68
  4. 216     sept    3ZL1998 USP     86.00   KVM9E   234
复制代码


可以使用任意多竖线符“ |”,例如要查看在系统中是否有帐号l o u i s e、m a t t y或pauline ,使用w h o命令并管道输出至e g r e p。
  1. $who |egrep (louise|matty|pauline)
复制代码


还可以使用^符号排除字符串。如果要查看系统上的用户,但不包括m a t t y和p a u l i n e,方法如下:
  1. $who |egrep -v '^(matty|pauline)'
复制代码


如果要查询一个文件列表,包括s h u t d o w n、s h u t d o w n s、r e b o o t和r e b o o t s,使用e g r e p可容易地实现。
  1. $egrep '(shutdown |reboot) (s)?' *
复制代码


egrep我等待网中人的讲解,嘿嘿
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

SACC2019中国系统架构师大会

【数字转型 架构演进】SACC2019中国系统架构师大会,8.5折限时优惠重磅来袭!
2019年10月31日~11月2日第11届中国系统架构师大会(SACC2019)将在北京隆重召开。四大主线并行的演讲模式,1个主会场、20个技术专场、超千人参与的会议规模,100+来自互联网、金融、制造业、电商等领域的嘉宾阵容,将为广大参会者提供一场最具价值的技术交流盛会。

限时8.5折扣期:2019年9月30日前


----------------------------------------

大会官网>>
  

北京盛拓优讯信息技术有限公司. 版权所有 16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122
中国互联网协会会员  联系我们:huangweiwei@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP