忘记密码   免费注册 查看新帖 | 论坛精华区

ChinaUnix.net

  平台 论坛 博客 认证专区 大话IT HPC论坛 徽章 文库 沙龙 自测 下载 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
123下一页
最近访问板块 发新帖
查看: 2199 | 回复: 22

如何去掉重复的行 [复制链接]

论坛徽章:
0
发表于 2017-08-18 08:58 |显示全部楼层
比如:
ab
bc
ab
cd
把ab这两个重复的行去掉
结果是:
bc
cd

论坛徽章:
27
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
发表于 2017-08-18 10:56 |显示全部楼层

  1. echo 'ab
  2. bc
  3. ab
  4. cd'|sort|uniq -u
复制代码

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-08-18 12:38 |显示全部楼层
本帖最后由 sunzhiguolu 于 2017-08-18 12:40 编辑
  1. perl -e "$_=join(qq(\n),qw/ab bc ab cd/, q());0 while(s/(\N+\n)(.*?)^\1/$2/msg);print"
复制代码

论坛徽章:
0
发表于 2017-08-25 04:28 |显示全部楼层
本帖最后由 ma3501406 于 2017-08-25 04:31 编辑

回复 3# sunzhiguolu

大神,如何删掉一个文本里有2个及以上前5位字符相同的行呢
perl awk sed 分别的实现方式

前面n行
......
sdfsdfxxx
sdfsdcccc
sfv
vb
cb
zxc
cvbn

....
n行

像这两个sdfsdfxxx
           sdfsdcccc 就要删除


论坛徽章:
31
荣誉会员
日期:2011-11-23 16:44:17丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17天蝎座
日期:2014-08-21 17:18:48丑牛
日期:2014-08-29 16:06:45天秤座
日期:2014-08-29 10:12:18天秤座
日期:2014-08-26 16:18:20双子座
日期:2014-07-30 11:38:27寅虎
日期:2014-08-04 10:24:12IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:00
发表于 2017-08-25 23:24 |显示全部楼层
回复 4# ma3501406

分别的实现 ?

不会是学生的作业吧?

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
发表于 2017-08-26 10:48 |显示全部楼层
回复 4# ma3501406
  1. #!/usr/bin/perl
  2. use strict;
  3. use warnings;

  4. local $_ =<<__END__;
  5. sdfsdfxxx
  6. sdfsdcccc
  7. sfv
  8. vb
  9. cb
  10. zxc
  11. cvbn
  12. __END__

  13. local $/ = undef;
  14. s/^(?:([a-z]{2,5})\N*\n)(?:\1\N*\n)+//gm;
  15. print;
复制代码



评分

参与人数 1信誉积分 +10 收起 理由
rubyish + 10 XX le ~~

查看全部评分

求职 : 数据库管理员
论坛徽章:
0
发表于 2017-08-26 13:46 |显示全部楼层
uniq  -u
来自安卓客户端来自客户端

论坛徽章:
7
戌狗
日期:2013-12-15 20:43:38技术图书徽章
日期:2014-03-05 01:33:12技术图书徽章
日期:2014-03-15 20:31:17未羊
日期:2014-03-25 23:48:20丑牛
日期:2014-04-07 22:37:44巳蛇
日期:2014-04-11 21:58:0915-16赛季CBA联赛之青岛
日期:2016-03-17 20:36:13
发表于 2017-08-29 01:50 |显示全部楼层
回复 6# sunzhiguolu

s/^(?[a-z]{2,5})\N*\n)(?:\1\N*\n)+//gm;
youyisi ~~
3Q ~~

求职 : 软件工程师
论坛徽章:
3
程序设计版块每日发帖之星
日期:2015-10-07 06:20:00程序设计版块每日发帖之星
日期:2015-12-13 06:20:00程序设计版块每日发帖之星
日期:2016-05-05 06:20:00
发表于 2017-08-29 14:56 |显示全部楼层
把正则玩到如此地步,基本上可以不用学加密了。

论坛徽章:
7
戌狗
日期:2013-12-15 20:43:38技术图书徽章
日期:2014-03-05 01:33:12技术图书徽章
日期:2014-03-15 20:31:17未羊
日期:2014-03-25 23:48:20丑牛
日期:2014-04-07 22:37:44巳蛇
日期:2014-04-11 21:58:0915-16赛季CBA联赛之青岛
日期:2016-03-17 20:36:13
发表于 2017-08-30 02:48 |显示全部楼层
回复 6# sunzhiguolu

if DATA? Ruhe xiugai? 3Q~
  1. delA
  2. keep
  3. delB
复制代码

您需要登录后才可以回帖 登录 | 注册

本版积分规则

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802020122
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP