免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2866 | 回复: 13
打印 上一主题 下一主题

[文本处理] 内容去掉重复的 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-10-29 15:48 |只看该作者 |倒序浏览
内容:01 04 09 11 01 17 09 27 29
去重后:01 04 09 11 17 27 29

怎么实现啊?

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
2 [报告]
发表于 2012-10-29 16:21 |只看该作者
  1. echo '01 04 09 11 01 17 09 27 29'|sed 's/\s/\n/g'|awk '!a[$0]++'|tr -s '\n' ' '|xargs -l echo
复制代码

论坛徽章:
0
3 [报告]
发表于 2012-10-29 16:25 |只看该作者
回复 1# wsryyffs66


    echo '01 04 09 11 01 17 09 27 29' | awk -v RS=' ' '!a[$0]++{printf $0" "}'

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
4 [报告]
发表于 2012-10-29 16:26 |只看该作者
  1. echo "01 04 09 11 01 17 09 27 29" | awk '{for(i=1;i<=NF;i++)if(!a[$i]++)printf "%s ",$i;print ""}'
复制代码

论坛徽章:
0
5 [报告]
发表于 2012-10-29 19:13 |只看该作者
还是月经问题

论坛徽章:
0
6 [报告]
发表于 2012-10-29 19:25 |只看该作者
echo “01 04 09 11 01 17 09 27 29” | tr ' ' '\n' | sort -u | tr '\n' ' '

论坛徽章:
0
7 [报告]
发表于 2012-10-29 19:40 |只看该作者
  1. echo '01 04 09 11 01 17 09 27 29' |sed ':1;s/\(..\) \(.*\) \1/\1 \2/;t1'
复制代码

论坛徽章:
0
8 [报告]
发表于 2012-10-29 20:21 |只看该作者
回复 3# FaintKnowledge
这个有点小问题,最后一个record后面会有个\n,echo '01 04 09 11 01 17 29 27 29' 试试这种情况


   

论坛徽章:
0
9 [报告]
发表于 2012-10-29 20:29 |只看该作者
回复 8# qq312873977


你给的这个是什么意思啊?

论坛徽章:
0
10 [报告]
发表于 2012-10-29 23:31 |只看该作者
回复 9# FaintKnowledge
  1. $ echo "1 2 3 44 44" | awk 'BEGIN{RS=" "} {print NR, index($0, "\n")}'
  2. 1 0
  3. 2 0
  4. 3 0
  5. 4 0
  6. 5 3
复制代码
看下这个,搞不懂为何最后一个record后面有个\n


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP