免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
123下一页
最近访问板块 发新帖
查看: 3907 | 回复: 25
打印 上一主题 下一主题

[文本处理] 不同寻常的去重复问题~~求助大侠们 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-12-04 17:14 |只看该作者 |倒序浏览
现在有个这样类型的文本需要处理,比如:
1 2 3 6 7
3 4 5
6 1 7 3
8 7 9

我想要选出文本中不重复元素的个数(例子的结果就是9个,分别是1 2 3 4 5 6 7 8 9)

不知道该怎么处理,求助....谢谢!

论坛徽章:
0
2 [报告]
发表于 2012-12-04 17:25 |只看该作者
  1. echo '1 2 3 6 7
  2. 3 4 5
  3. 6 1 7 3
  4. 8 7 9'|sed ':1;N;s/\n/ /g;$!b1;:2;s/\(. \)\(.*\)\1/\1\2/;t2'
  5. 1 2 3 6 7 4 5  8 9
复制代码

论坛徽章:
0
3 [报告]
发表于 2012-12-04 17:32 |只看该作者
本帖最后由 thc_forever 于 2012-12-04 17:33 编辑

回复 2# kk5234



大神好速度啊~~~~ 不过没怎么看懂 ,而且我主要是想用于处理一个txt文件,能不能有可移植的命令,例子只是想说明问题...
不过还是谢谢你


   

论坛徽章:
5
未羊
日期:2014-08-04 16:15:21天秤座
日期:2014-08-13 13:52:372015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:112015亚冠之浦和红钻
日期:2015-06-29 15:30:48
4 [报告]
发表于 2012-12-04 17:33 |只看该作者
  1. tr " " "\n" < file|awk '!a[$0]++'
复制代码

论坛徽章:
0
5 [报告]
发表于 2012-12-04 17:46 |只看该作者
回复 4# dn833


强大!这么巧的方法我怎么想不到哇,膜拜下 ,哈哈~


   

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
6 [报告]
发表于 2012-12-04 17:48 |只看该作者
强大,学习!

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
7 [报告]
发表于 2012-12-04 18:02 |只看该作者
  1. awk '{for(i=1;i<=NF;i++)if(!a[$i]++)print $i}'
复制代码

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
8 [报告]
发表于 2012-12-04 19:36 |只看该作者
  1. awk '{for(i=1;i<=NF;i++){a[$i]=++j}}END{len=asorti(a,b);for(i=1;i<=len;i++) print b[i]}' file
复制代码

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
9 [报告]
发表于 2012-12-04 20:04 |只看该作者
如果要排序的话,写个比你更短的
  1. awk '{for(i=1;i<=NF;i++)a[$i]}END{for(i=1;i<=asorti(a,b);i++)print b[i]}'
复制代码
回复 8# reyleon


   

论坛徽章:
0
10 [报告]
发表于 2012-12-04 21:07 |只看该作者
awk '{ for(i=1;i<=NF;i++) print $i}' |sort -u |wc -l
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP