免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1581 | 回复: 4
打印 上一主题 下一主题

[文本处理] 去重复求助 [复制链接]

论坛徽章:
1
操作系统版块每日发帖之星
日期:2015-10-08 06:20:00
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2017-06-29 16:06 |只看该作者 |倒序浏览
有这样一组数据:
Pab_c10045_g1_i1_m.41        Pab_c36888_g1_i1_m.104245        91.379        58        4        1        96        153        239        183        7.86e-15        78.7
Pab_c10066_g2_i1_m.52        Pab_c10066_g2_i1_m.54        100.000        153        0        0        1        153        153        1        4.55e-76        283
Pab_c10066_g2_i1_m.54        Pab_c10066_g2_i1_m.52        100.000        153        0        0        1        153        153        1        1.29e-76        283
Pab_c10125_g1_i1_m.73        Pab_c10125_g1_i1_m.74        100.000        354        0        0        9        362        1        354        0.0        654
Pab_c10125_g1_i1_m.74        Pab_c10125_g1_i1_m.73        100.000        354        0        0        1        354        9        362        0.0        654
Pab_c10205_g1_i1_m.134        Pab_c10205_g1_i1_m.131        100.000        170        0        0        2        171        1        170        5.19e-86        315
Pab_c10205_g1_i1_m.131        Pab_c10205_g1_i1_m.134        100.000        170        0        0        1        170        2        171        2.00e-85        315

当某一行的第一列与另一行的第二列值相同,但该行第二列与另一行的第一列相同的行,只随机保留一行,即得到如下结果:
Pab_c10045_g1_i1_m.41        Pab_c36888_g1_i1_m.104245        91.379        58        4        1        96        153        239        183        7.86e-15        78.7
Pab_c10066_g2_i1_m.52        Pab_c10066_g2_i1_m.54        100.000        153        0        0        1        153        153        1        4.55e-76        283
Pab_c10125_g1_i1_m.73        Pab_c10125_g1_i1_m.74        100.000        354        0        0        9        362        1        354        0.0        654
Pab_c10205_g1_i1_m.134        Pab_c10205_g1_i1_m.131        100.000        170        0        0        2        171        1        170        5.19e-86        315

不知道有没有 简单的方法?谢谢各位大牛先!!



论坛徽章:
30
申猴
日期:2014-04-10 09:43:532015年亚洲杯纪念徽章
日期:2015-03-20 14:40:232015亚冠之阿尔纳斯尔
日期:2015-06-02 18:59:042015亚冠之阿尔希拉尔
日期:2015-06-30 15:22:572015亚冠之大阪钢巴
日期:2015-07-20 10:44:332015亚冠之阿尔纳斯尔
日期:2015-10-28 14:57:5215-16赛季CBA联赛之新疆
日期:2015-12-25 10:18:45黑曼巴
日期:2016-06-26 21:39:5315-16赛季CBA联赛之山西
日期:2016-07-25 21:54:2715-16赛季CBA联赛之北京
日期:2016-10-27 12:07:2315-16赛季CBA联赛之八一
日期:2017-07-07 16:39:0915-16赛季CBA联赛之吉林
日期:2017-09-04 12:14:43
2 [报告]
发表于 2017-06-29 16:34 |只看该作者
回复 1# 56836430


  1. awk '{t="";i=0;while(++i<3)a[i]=$i;for(i=1;i<=asort(a,b);i++) {t=b[i]" "t} }!c[t]++' file
复制代码

论坛徽章:
1
操作系统版块每日发帖之星
日期:2015-10-08 06:20:00
3 [报告]
发表于 2017-06-29 16:43 |只看该作者

非常感谢!非常好用!

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
4 [报告]
发表于 2017-06-29 16:55 |只看该作者
是这个意思么?
awk '!a[$1$2]++ && !a[$2$1]++'   urfile

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
5 [报告]
发表于 2017-06-29 19:00 |只看该作者
回复 1# 56836430

awk '!a[$1>$2?$1$22$1]++' FILE
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP