免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
123下一页
最近访问板块 发新帖
查看: 5012 | 回复: 28
打印 上一主题 下一主题

[文本处理] 求助 ,文本处理 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-12-18 15:36 |只看该作者 |正序浏览
两个文件
1、文件1 3500行
00002,叶尔愉,015101,图书馆
00003,龚道溢,026600,地表过程与资源生态国家重点实验室
00004,高尚玉,024800,减灾与应急管理研究院
00005,高琼,026600,地表过程与资源生态国家重点实验室

2、文件2 1800行
00001   sebalich
00004   shygao
00005   gaoq
00007   zhjunbo
00010   baolibai

需求:如果文件2的第一列,和文件1的第一列相同,就把文件1的第一列替换为文件2的第二列,自己写了个脚本可以实现,while循环,但是效率太低,3秒匹配一个,求效率高点的方法???????????

论坛徽章:
1
射手座
日期:2013-11-28 15:25:20
29 [报告]
发表于 2013-12-26 17:55 |只看该作者
awk -F"[ ,]" '{if(FILENAME=="file2.txt"){a[$1]=$2}else{if(FILENAME=="file1.txt"){if(i in a){print a[i]","$2","$3","$4}}}}' file2.txt file1.txt

论坛徽章:
1
射手座
日期:2013-11-28 15:25:20
28 [报告]
发表于 2013-12-26 17:55 |只看该作者
awk -F"[ ,]" '{if(FILENAME=="file2.txt"){a[$1]=$2}else{if(FILENAME=="file1.txt"){if(i in a){print a[i]","$2","$3","$4}}}}' file2.txt file1.txt

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
27 [报告]
发表于 2013-12-25 22:40 |只看该作者
本帖最后由 yestreenstars 于 2013-12-25 22:42 编辑

回复 26# fantingftt123
酱能理解NR和FNR了吗?
  1. [root@localhost ~]# head a b
  2. ==> a <==
  3. 1
  4. 2
  5. 3

  6. ==> b <==
  7. 1
  8. 2
  9. 3
  10. 4
  11. 5
  12. [root@localhost ~]# awk '{printf "FILENAME: %s\tNR: %s\tFNR: %s\n",FILENAME,NR,FNR}' a b
  13. FILENAME: a     NR: 1   FNR: 1
  14. FILENAME: a     NR: 2   FNR: 2
  15. FILENAME: a     NR: 3   FNR: 3
  16. FILENAME: b     NR: 4   FNR: 1
  17. FILENAME: b     NR: 5   FNR: 2
  18. FILENAME: b     NR: 6   FNR: 3
  19. FILENAME: b     NR: 7   FNR: 4
  20. FILENAME: b     NR: 8   FNR: 5
  21. [root@localhost ~]#
复制代码
从上面的例子可以看出当NR==FNR时表示awk在处理第一个文件。

论坛徽章:
1
摩羯座
日期:2014-11-14 16:48:17
26 [报告]
发表于 2013-12-25 20:25 |只看该作者
yestreenstars 发表于 2013-12-18 15:52

lz,今天看到这个帖子,但是没有看明白,NR==FNR代表的是什么?同时你写的这个命令你能说说是怎么处理过程?

论坛徽章:
6
处女座
日期:2014-04-02 16:07:17酉鸡
日期:2014-04-14 10:09:22子鼠
日期:2014-04-17 11:57:30辰龙
日期:2014-09-01 17:14:08戌狗
日期:2014-10-28 12:25:54未羊
日期:2014-11-14 11:31:58
25 [报告]
发表于 2013-12-19 14:26 |只看该作者
awk -F"[ ,]+" 'NR==FNR{a[$1]=$2;next}{$1=a[$1]?a[$1]1;print $0}' p pp | column -t

论坛徽章:
2
巨蟹座
日期:2013-12-07 16:51:13天秤座
日期:2013-12-11 15:12:14
24 [报告]
发表于 2013-12-18 17:57 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
23 [报告]
发表于 2013-12-18 17:25 |只看该作者
  1. awk 'NF>1{a[$1]=$2}NF==1{l=split($0,b,",");if(b[1] in a)b[1]=a[b[1]];for(i=0;++i<=l;)s=s?s","b[i]:b[i];print s;s=""}' 2 1
复制代码

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
22 [报告]
发表于 2013-12-18 17:20 |只看该作者
回复 21# jason680
原来可以直接在perl里用``调用外部命令,学习了~
  1. perl -F, -ape '/^(\S+)\s+(\S+)$(?{$h{$1}=$2})/ for `cat b`;$F[0]=$h{$F[0]} if $h{$F[0]};$_=join ",",@F' a
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
21 [报告]
发表于 2013-12-18 17:09 |只看该作者
回复 19# zimuyunren

$ cat f1
00002,叶尔愉,015101,图书馆
00003,龚道溢,026600,地表过程与资源生态国家重点实验室
00004,高尚玉,024800,减灾与应急管理研究院
00005,高琼,026600,地表过程与资源生态国家重点实验室

$ cat f2
00001   sebalich
00004   shygao
00005   gaoq
00007   zhjunbo
00010   baolibai

$ perl -F, -i -lape 'BEGIN{for(`cat f2`){if(m/^(\S+)\s*(\S+)/){$h{$1}=$2}}}{if($h{$F[0]} ne ""){$F[0]=$h{$F[0]};$_=join ",",@F}}' f1

$ cat f1
00002,叶尔愉,015101,图书馆
00003,龚道溢,026600,地表过程与资源生态国家重点实验室
shygao,高尚玉,024800,减灾与应急管理研究院
gaoq,高琼,026600,地表过程与资源生态国家重点实验室

   
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP