免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12
最近访问板块 发新帖
楼主: linlone
打印 上一主题 下一主题

[文本处理] A/B两个文件,如何删除B中包含A的部分 [复制链接]

论坛徽章:
4
程序设计版块每日发帖之星
日期:2015-10-14 06:20:00每日论坛发贴之星
日期:2015-10-14 06:20:00程序设计版块每日发帖之星
日期:2016-05-02 06:20:00程序设计版块每日发帖之星
日期:2016-05-08 06:20:00
11 [报告]
发表于 2015-11-24 20:09 |只看该作者
保存文件为当前目录下的3.txt
python test.py 1.txt 2.txt 3.txt
  1. #!/usr/bin/python


  2. import sys
  3. import os
  4. f1 = os.path.abspath(sys.argv[1])
  5. f2 = os.path.abspath(sys.argv[2])
  6. f3 = sys.argv[3]

  7. file1 = set(line.strip() for line in open(f1))
  8. file2 = set(line.strip() for line in open(f2))
  9. file3 = open(os.path.join(os.getcwd(),f3),'a+')
  10. difference = set(file2).difference(file1)
  11. for diff in difference:
  12.     print >>file3,diff
  13. file3.close()
复制代码

论坛徽章:
0
12 [报告]
发表于 2015-11-25 13:45 |只看该作者
回复 10# reyleon


你这个用 grep 确实好,简单、易理解。

@seanking1987 说的大波awk高手没来,我把多年前在本版抄下来的awk代码贴给大家看看,算是另一种思路:
  1. awk '(!a[$1]++) && (NR>FNR)' A.txt B.txt
复制代码

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
13 [报告]
发表于 2015-11-25 14:44 |只看该作者
回复 12# lgfang


    你这种是有问题的, 会把 B 文件中有重复的行也去重只保留最先出现的一行的了
  1. awk 'NR==FNR{a[$1];next}!($1 in a)' A B
复制代码

论坛徽章:
0
14 [报告]
发表于 2015-11-26 10:28 |只看该作者
回复 13# reyleon

我贴的确实有问题。另外,你这个“next”好像是多余的?


   

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
15 [报告]
发表于 2015-11-26 11:08 |只看该作者
回复 14# lgfang


    从性能上来说, 不多余呀

评分

参与人数 1信誉积分 +5 收起 理由
lgfang + 5

查看全部评分

论坛徽章:
1
摩羯座
日期:2013-11-29 18:02:31
16 [报告]
发表于 2015-11-26 13:03 |只看该作者
Shell果然强大,要是我,先想到用Python来做。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP