免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2695 | 回复: 12
打印 上一主题 下一主题

如何实现以下过滤? [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-02-13 16:19 |只看该作者 |倒序浏览
现有文件a.txt
里有数据:
abc
abc
13688888
13866666
13688888
13700000

现在要实现直接跳到第三行,从第三行开始过滤重复号码,并排序后输出到另一文件中,各位大侠帮忙写写,谢谢!

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
2 [报告]
发表于 2009-02-13 16:25 |只看该作者
awk 'NR>2&&a[$0]++' a.txt|sort

有空看看置顶文章

论坛徽章:
0
3 [报告]
发表于 2009-02-13 16:26 |只看该作者
AWk NR>2

论坛徽章:
11
金牛座
日期:2015-03-19 16:56:22数据库技术版块每日发帖之星
日期:2016-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-04-24 06:20:00数据库技术版块每日发帖之星
日期:2016-04-13 06:20:00IT运维版块每日发帖之星
日期:2016-04-13 06:20:00数据库技术版块每日发帖之星
日期:2016-02-03 06:20:00数据库技术版块每日发帖之星
日期:2015-08-06 06:20:00季节之章:春
日期:2015-03-27 15:54:57羊年新春福章
日期:2015-03-27 15:54:37戌狗
日期:2015-03-19 16:56:41数据库技术版块每日发帖之星
日期:2016-08-18 06:20:00
4 [报告]
发表于 2009-02-13 16:27 |只看该作者

回复 #1 程序情人 的帖子

是要重复的号码还是 不要重复的号码?

论坛徽章:
0
5 [报告]
发表于 2009-02-13 16:29 |只看该作者

回复 #1 程序情人 的帖子

sed -n '3,$p' yourfile |sort -u

论坛徽章:
0
6 [报告]
发表于 2009-02-13 16:29 |只看该作者
sed '1,2d' 1 |sort -u

论坛徽章:
11
金牛座
日期:2015-03-19 16:56:22数据库技术版块每日发帖之星
日期:2016-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-04-24 06:20:00数据库技术版块每日发帖之星
日期:2016-04-13 06:20:00IT运维版块每日发帖之星
日期:2016-04-13 06:20:00数据库技术版块每日发帖之星
日期:2016-02-03 06:20:00数据库技术版块每日发帖之星
日期:2015-08-06 06:20:00季节之章:春
日期:2015-03-27 15:54:57羊年新春福章
日期:2015-03-27 15:54:37戌狗
日期:2015-03-19 16:56:41数据库技术版块每日发帖之星
日期:2016-08-18 06:20:00
7 [报告]
发表于 2009-02-13 16:33 |只看该作者
awk 'NR>2 && (! a[$1]++)' a.txt | sort

论坛徽章:
3
2015年迎新春徽章
日期:2015-03-04 09:56:11数据库技术版块每日发帖之星
日期:2016-08-03 06:20:00数据库技术版块每日发帖之星
日期:2016-08-04 06:20:00
8 [报告]
发表于 2009-02-13 16:44 |只看该作者
写个sed版本的

  1. #!/bin/sed -rnf
  2. 1,2{p;d;}
  3. G
  4. /^(.*)\n(.*\n)*\1(\n|$)/d
  5. P
  6. h
复制代码

论坛徽章:
0
9 [报告]
发表于 2009-02-13 16:45 |只看该作者

回复 #8 cjaizss 的帖子

没必要搞这么麻烦吧,都晕了

论坛徽章:
3
2015年迎新春徽章
日期:2015-03-04 09:56:11数据库技术版块每日发帖之星
日期:2016-08-03 06:20:00数据库技术版块每日发帖之星
日期:2016-08-04 06:20:00
10 [报告]
发表于 2009-02-13 16:47 |只看该作者
原帖由 我是DBA 于 2009-2-13 16:45 发表
没必要搞这么麻烦吧,都晕了

呵呵,这种问题一般都是用awk搞定,因为awk比较擅长.如果我真的要用,自然也会用awk写.
但我比较偏好sed
当然这里我觉得最好的解决方式还是借用sort

[ 本帖最后由 cjaizss 于 2009-2-13 16:49 编辑 ]
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP