免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1911 | 回复: 2
打印 上一主题 下一主题

2个文件部分字段重复 数据剔除-烦请高手指点! [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2007-01-19 11:51 |只看该作者 |倒序浏览
举例:
test1.txt文件内容:
1111|2222|yyyy|
3333|4444|zzzz|
0000|0000|kjksjf|
gggg|hhhh|skdjfldsfsd|

test2.txt文件内容:
1111|2222|mmmm|
3333|4444|zzzzzz|
5555|6666|sdfsdfsdf|
7777|8888|kjlsjlsdjf|
gggg|hhhh|kjkjsdkkkkkkkkkkk|

将2个文件做比较,过滤条件:将test2.txt中的部分内容(test1.txt 中前2个字段和 test2.txt中前2个字段相同的行)删除后,输出剩余的test2.txt内容

结果:
5555|6666|sdfsdfsdf|
7777|8888|kjlsjlsdjf|
gggg|hhhh|kjkjsdkkkkkkkkkkk|


昨天发了帖子,有位仁兄用下面的脚本:
awk -F'|' 'NR <= FNR{hash[$1$2]="y"} NR > FNR{if(!($1$2 in hash))print}' test1.txt test2.txt

但是输出的结果只有2行
5555|6666|sdfsdfsdf|
7777|8888|kjlsjlsdjf|

第3行
gggg|hhhh|kjkjsdkkkkkkkkkkk|
没有输出

请各位高手指点!!!多谢!!!

论坛徽章:
0
2 [报告]
发表于 2007-01-19 12:08 |只看该作者
gggg|hhhh|kjkjsdkkkkkkkkkkk|
的前两个段不是和test1.txt最后一行的相同吗? 按你的要求也正要删除呀。

学习脚本要知道原理才行呀?

[ 本帖最后由 doctorjxd 于 2007-1-19 12:11 编辑 ]

论坛徽章:
0
3 [报告]
发表于 2007-01-19 12:50 |只看该作者
不好意思,刚才发错了,脚本是对的!
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP