免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 11538 | 回复: 16
打印 上一主题 下一主题

如何对比两个文件,去掉重复行 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-06-02 04:36 |只看该作者 |倒序浏览
5可用积分
文件a:
a
b
c
d
e

文件b:

a
c
d

请问有什么简单的方法,比如一行命令就能得到文件C

b
e

论坛徽章:
0
2 [报告]
发表于 2009-06-02 04:46 |只看该作者
awk \
'ARGIND==1{a[$0]}\      #if ARGIND=1 初始化(或叫做定义)a[$0]
ARGIND>1&&!($0 in a){print $0}' \    #if >1并且a[$0]未定义,则打印$0
a b

论坛徽章:
0
3 [报告]
发表于 2009-06-02 06:18 |只看该作者

回复 #1 wxws2002 的帖子

awk 'NR==FNR{m[$0]}NR>FNR{if(!($1 in m)) print $0}'  b a

论坛徽章:
0
4 [报告]
发表于 2009-06-02 07:21 |只看该作者
grep -vf b a >c

论坛徽章:
0
5 [报告]
发表于 2009-06-02 07:49 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
6 [报告]
发表于 2009-06-02 08:00 |只看该作者

回复 #5 lovegqin 的帖子

通用点的话需要先sort一下,就楼主的数据来说不用

论坛徽章:
0
7 [报告]
发表于 2009-06-02 08:10 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
9
2015亚冠之阿尔纳斯尔
日期:2015-09-10 16:21:162015亚冠之塔什干火车头
日期:2015-07-01 16:23:022015年亚洲杯之巴勒斯坦
日期:2015-04-20 17:19:46子鼠
日期:2014-11-13 09:51:26未羊
日期:2014-08-28 18:13:36技术图书徽章
日期:2014-02-21 09:30:15酉鸡
日期:2014-01-14 11:12:49天蝎座
日期:2013-12-09 17:56:53平安夜徽章
日期:2015-12-26 00:06:30
8 [报告]
发表于 2009-06-02 08:14 |只看该作者
awk 'NR==FNR{a[$1]=1}NR>FNR&&!a[$1]{print}' b a

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
9 [报告]
发表于 2009-06-02 09:01 |只看该作者

回复 #1 wxws2002 的帖子

这不叫去掉重复行吧?
  1. grep -Fxvf b a
复制代码

论坛徽章:
0
10 [报告]
发表于 2009-06-02 09:07 |只看该作者

回复 #1 wxws2002 的帖子

sort a b | uniq -u > c

[ 本帖最后由 jakepain 于 2009-6-2 09:08 编辑 ]
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP