免费注册 查看新帖 |

ChinaUnix.net

  平台 论坛 博客 文库 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
12下一页
最近访问板块 发新帖
查看: 8093 | 回复: 19

sed去除重复行(求解) [复制链接]

论坛徽章:
0
发表于 2012-03-29 11:25 |显示全部楼层
1111
111
1111
1111
2
1111
2222
abc
ddd
abc
2222
3333


去除重复出现的行 ,awk 或者sort 比较简单 写了好久还是不会用sed去重复 ,求解

论坛徽章:
0
发表于 2012-03-29 11:52 |显示全部楼层

  1. sed -r ':1;N;s/^(\S+)((\n.*)*)\n\1$/\1\2/M;$!b1' file
复制代码

论坛徽章:
0
发表于 2012-03-29 11:55 |显示全部楼层
回复 2# hbmhalley


    多谢

论坛徽章:
0
发表于 2012-03-29 14:56 |显示全部楼层
本帖最后由 Linux9253 于 2012-03-29 15:03 编辑

论坛徽章:
0
发表于 2012-03-29 15:02 |显示全部楼层
回复 2# hbmhalley


    请问M参数起什么作用???

论坛徽章:
0
发表于 2012-03-29 15:11 |显示全部楼层
本帖最后由 hbmhalley 于 2012-03-29 15:13 编辑

回复 5# Linux9253
  1. seq 2 | sed 'N;s/^\w*$/matched/g'
  2. seq 2 | sed 'N;s/^\w*$/matched/Mg'
复制代码

论坛徽章:
0
发表于 2012-03-29 15:24 |显示全部楼层
回复 6# hbmhalley


    这个例子好~~

论坛徽章:
28
ChinaUnix元老
日期:2015-02-02 08:55:392017金鸡报晓
日期:2017-01-10 15:13:29CU十四周年纪念徽章
日期:2018-08-29 22:12:2715-16赛季CBA联赛之深圳
日期:2018-09-20 12:21:09
发表于 2012-03-29 15:58 |显示全部楼层

论坛徽章:
3
2015年迎新春徽章
日期:2015-03-04 09:56:11数据库技术版块每日发帖之星
日期:2016-08-03 06:20:00数据库技术版块每日发帖之星
日期:2016-08-04 06:20:00
发表于 2012-03-30 08:40 |显示全部楼层
  1. sed -nr '1h;1!H;${x;:a;s/((^|\n)([^\n]*)\n)((.*\n)?)\3(\n|$)/\1\4/;ta;p}'
复制代码

论坛徽章:
0
发表于 2012-03-30 11:02 |显示全部楼层
回复 9# cjaizss


    这个当file中最后两行重复的时,最后输出会产生空行
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

数据风云,十年变迁
DTCC 第十届中国数据库技术大会已启航!

2019年5月8日~5月10日,由IT168旗下ITPUB企业社区平台主办的第十届中国数据库技术大会(DTCC2019),将在北京隆重召开。大会将邀请百余位行业专家,就热点技术话题进行分享,是广大数据领域从业人士的又一次年度盛会和交流平台。与SACC2018类似,本届大会将采用“3+2”模式:3天传统技术演讲+2天深度主题培训。大会不仅提供超100场的主题演讲,还会提供连续2天的深度课程培训,深化数据领域的项目落地实践方案。
DTCC2019,一场值得期待的数据技术盛会,殷切地希望您报名参与!

活动入口>>
  

北京盛拓优讯信息技术有限公司. 版权所有 16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122
中国互联网协会会员  联系我们:huangweiwei@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP