免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 991 | 回复: 3
打印 上一主题 下一主题

[文本处理] 批量删除行的方法 [复制链接]

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-10-20 18:37 |只看该作者 |倒序浏览
本帖最后由 Auroracxy 于 2016-10-20 18:39 编辑

#cat file_1
57041039
57042054
...

#cat file_2
57041039 0 64785 4082546
57042054 0 64785 1359424
57042148 0 64785 2280460
57042392 0 64785 238429
57042060 0 64785 2408476
57042143 0 64785 3307519
57042387 0 64785 232678
...



file_1文件中有几万行,file_2文件有几百万行,并且file_2的第一列数据肯定包含file_1,最终要得到一个文件
#cat file_3
57041039 0 64785 4082546
57042054 0 64785 1359424
...


也就是在file_2中只保留能匹配到file_1文件中的行,如何能加速匹配删除的性能? 我用普通循环非常慢,一秒才10多次删除


论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
2 [报告]
发表于 2016-10-20 18:46 |只看该作者

  1. awk 'NR==FNR{a[$1]=1;next}a[$1]' file_1 file_2
复制代码

论坛徽章:
2
程序设计版块每日发帖之星
日期:2015-09-07 06:20:00程序设计版块每日发帖之星
日期:2015-09-07 06:20:00
3 [报告]
发表于 2016-10-20 21:04 |只看该作者
  1. [root@CentOS_6 tmp]# time egrep -f 1.txt 2.txt
  2. 57041039 0 64785 4082546
  3. 57042054 0 64785 1359424
复制代码

论坛徽章:
1
15-16赛季CBA联赛之江苏
日期:2016-10-26 16:19:04
4 [报告]
发表于 2016-10-21 09:48 |只看该作者
awk 'NR==FNR{a[$1]=$1}NR!=FNR&&a[$1]{print $0}' file1 file2
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP