免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2707 | 回复: 8
打印 上一主题 下一主题

[文本处理] shell如何提取文件第1列相同值的所有行 [复制链接]

论坛徽章:
1
CU十二周年纪念徽章
日期:2013-10-24 15:41:34
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-10-12 07:05 |只看该作者 |倒序浏览
示例如下:
Input文件:
0    1
0    2
1    3
2    4
2    5
3    6
3    7
4    8
5    9
5    10

需要首先判断文件第1列是否有相同的值,
然后输出第1列所有相同值的行。

期望的output文件:
0    1
0    2
2    4
2    5
3    6
3    7
5    9
5    10

试着写了一个脚本,可以实现但是比较繁琐,
写了一个简单的,但不能完全符合要求。

所以求教于大家,先谢了。




论坛徽章:
769
金牛座
日期:2014-02-26 17:49:58水瓶座
日期:2014-02-26 18:10:15白羊座
日期:2014-04-15 19:29:52寅虎
日期:2014-04-17 19:43:21酉鸡
日期:2014-04-19 21:24:10子鼠
日期:2014-04-22 13:55:24卯兔
日期:2014-04-22 14:20:58亥猪
日期:2014-04-22 16:13:09狮子座
日期:2014-05-05 22:31:17摩羯座
日期:2014-05-06 10:32:53处女座
日期:2014-05-12 09:23:11子鼠
日期:2014-05-21 18:21:27
2 [报告]
发表于 2014-10-12 09:35 |只看该作者
本帖最后由 Herowinter 于 2014-10-12 09:37 编辑

回复 1# seehearfeel

目测是:
  1. awk '{a[$1]++;b[$0]} END{for(i in b){split(i,c," ");if(a[c[1]]>1)print i}}' Input
复制代码

论坛徽章:
6
摩羯座
日期:2013-08-24 10:43:10狮子座
日期:2013-08-25 10:27:06天秤座
日期:2013-09-11 20:28:44午马
日期:2014-09-28 16:06:0015-16赛季CBA联赛之八一
日期:2016-12-19 13:55:0515-16赛季CBA联赛之天津
日期:2016-12-20 14:01:23
3 [报告]
发表于 2014-10-12 11:54 |只看该作者
  1. awk '++a[$1]==1{b[$1]=$0}a[$1]==2{print b[$1]}a[$1]-1' input.txt
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
4 [报告]
发表于 2014-10-12 13:09 |只看该作者
回复 1# seehearfeel

$ awk '{if(N""==$1){s=s"\n"$0;c++}else{if(c>1)print s;c=1;s=$0}N=$1}END{if(c>1)print s}' FILE
0    1
0    2
2    4
2    5
3    6
3    7
5    9
5    10

   

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
5 [报告]
发表于 2014-10-12 13:22 |只看该作者
  1. awk '{a[$1]=a[$1]?a[$1]"\n"$0:$0;b[$1]++}END{for(i in a)if(b[i]>1)print a[i]}'
复制代码

论坛徽章:
3
丑牛
日期:2014-09-13 18:19:22摩羯座
日期:2014-10-10 17:43:02水瓶座
日期:2014-10-16 01:00:22
6 [报告]
发表于 2014-10-12 13:30 |只看该作者
学生党:飘过~简单python试试~

  1. #!/usr/bin/env python
  2. #-*- coding:gbk -*-
  3. "just for fun for -13"

  4. import sys
  5. import operator
  6. import linecache
  7. list={}
  8. for x in linecache.getlines(sys.argv[1]):
  9.         list[x.split()[0],x.split()[1].strip('\n')]=x.split()[0]
  10. for k,v in sorted(list.items(),key=operator.itemgetter(0,1)):
  11.         if v in filter(lambda x:list.values().count(x)==2,list.values()):
  12.                 print '\t'.join(k)
复制代码
测试:
$ ./yhsafe.py yhsafe.txt
0       1
0       2
2       4
2       5
3       6
3       7
5       10
5       9

论坛徽章:
23
15-16赛季CBA联赛之吉林
日期:2017-12-21 16:39:27白羊座
日期:2014-10-27 11:14:37申猴
日期:2014-10-23 08:36:23金牛座
日期:2014-09-30 08:26:49午马
日期:2014-09-29 09:40:16射手座
日期:2014-11-25 08:56:112015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:49:0315-16赛季CBA联赛之山东
日期:2017-12-21 16:39:1915-16赛季CBA联赛之广东
日期:2016-01-19 13:33:372015亚冠之山东鲁能
日期:2015-10-13 09:39:062015亚冠之西悉尼流浪者
日期:2015-09-21 08:27:57
7 [报告]
发表于 2014-10-13 08:26 |只看该作者
本帖最后由 ly5066113 于 2014-10-13 08:27 编辑

回复 1# seehearfeel


try:
  1. uniq -D -w 1 Input > output
复制代码

论坛徽章:
36
摩羯座
日期:2013-09-23 16:37:312015年亚洲杯之沙特阿拉伯
日期:2015-04-14 09:10:172015亚冠之柏太阳神
日期:2015-06-25 08:48:212015亚冠之武里南联
日期:2015-07-28 09:01:082015亚冠之莱赫维亚
日期:2015-07-28 15:44:172015亚冠之柏斯波利斯
日期:2015-09-06 14:08:52白银圣斗士
日期:2015-11-25 17:06:2815-16赛季CBA联赛之吉林
日期:2015-12-09 16:59:072016猴年福章徽章
日期:2016-02-18 15:30:3415-16赛季CBA联赛之辽宁
日期:2016-04-14 09:29:04luobin
日期:2016-06-17 17:46:3615-16赛季CBA联赛之天津
日期:2016-08-16 14:11:01
8 [报告]
发表于 2014-10-13 11:24 |只看该作者
回复 6# 李满满
你这头像也太吓人了,都不敢浏览你的帖子

   

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
9 [报告]
发表于 2014-10-13 11:32 |只看该作者
回复 1# seehearfeel
  1. awk 'FNR==NR{a[$1]++;next}a[$1]>1'  file file
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP