免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1931 | 回复: 6
打印 上一主题 下一主题

怎么比较两个文件,将有差别的纪录生成一个新文件 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2006-07-04 10:26 |只看该作者 |倒序浏览
有两个文件a.txt和b.txt,都有100万行左右。
想把a.txt文件里有b.txt文件里没有的行生成一个新的文件,请问怎么做比较快?
用diff a.txt b.txt>c.txt的方式,虽然也能达到目的(会把属于b但不属于a的行也挑出来,这种情况可以忍受),但是文件格式不满足要求,只想保留行的内容,那些附加的比较信息怎么去掉?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
2 [报告]
发表于 2006-07-04 10:30 |只看该作者
grep -Fvf b.txt a.txt
如果你的行相互不包含

论坛徽章:
0
3 [报告]
发表于 2006-07-04 12:54 |只看该作者
谢谢waker,但是我在机器上执行了你说的命令后
返回out of memory,可能是文件太大,内存溢出了
能解释一下你的那个命令嘛,我看看能不能基于你的基础上改
另外"如果你的行相互不包含"这句话是什么意思??

论坛徽章:
0
4 [报告]
发表于 2006-07-04 14:42 |只看该作者
comm命令应该可以实现这个,不过得先把a.txt b.txt 都sort过

论坛徽章:
0
5 [报告]
发表于 2006-07-04 14:45 |只看该作者
笨一点,借助数据库

论坛徽章:
0
6 [报告]
发表于 2006-07-04 15:26 |只看该作者
diff a b | grep "<" > c

diff a b | grep ">" > c

论坛徽章:
0
7 [报告]
发表于 2006-07-04 15:37 |只看该作者
就是因为用数据库来处理太慢,才想到用文件的。
试了一下先sort后comm的效率,时间上还算能够忍受,暂时先这么用吧

[ 本帖最后由 silverdust 于 2006-7-4 15:44 编辑 ]
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP