免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 4920 | 回复: 18
打印 上一主题 下一主题

[文本处理] 如何删除一个文本中相同行中的其中一行? [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-05-09 14:55 |只看该作者 |倒序浏览
一个文本中相同的行有几行,只想删除其中一行如何处理??
例如:文本test.txt中有如下几行:
aaaaaaa
bbbbbbb
aaaaaaa
ddddddd
fffffffffffff
aaaaaaa
ccccccc


想删除最后一个aaaaaaa所在行,该如何处理呢?多谢各位了!!!

论坛徽章:
769
金牛座
日期:2014-02-26 17:49:58水瓶座
日期:2014-02-26 18:10:15白羊座
日期:2014-04-15 19:29:52寅虎
日期:2014-04-17 19:43:21酉鸡
日期:2014-04-19 21:24:10子鼠
日期:2014-04-22 13:55:24卯兔
日期:2014-04-22 14:20:58亥猪
日期:2014-04-22 16:13:09狮子座
日期:2014-05-05 22:31:17摩羯座
日期:2014-05-06 10:32:53处女座
日期:2014-05-12 09:23:11子鼠
日期:2014-05-21 18:21:27
2 [报告]
发表于 2014-05-09 15:10 |只看该作者
回复 1# free_2006
方法好像不是很好。
  1. awk 'NR==FNR{a[$0]++;b[$0]++;next} {if((a[$0]==1)||(--b[$0]))print}' i i
  2. aaaaaaa
  3. bbbbbbb
  4. aaaaaaa
  5. ddddddd
  6. fffffffffffff
  7. ccccccc
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2014-05-09 15:20 |只看该作者
本帖最后由 jason680 于 2014-05-09 15:34 编辑

回复 1# free_2006

1. using array in awk for file size is samller than memory
$ awk '{if($0~/aaaaaaa/)N=NR;a[++t]=$0}END{for(n=1;n<=t;n++)if(n!=N)print a[n]}' FILE
aaaaaaa
bbbbbbb
aaaaaaa
ddddddd
fffffffffffff
ccccccc

2. read file twice for big size file
$ awk 'NR==FNR{if($0~/aaaaaaa/)N=NR;next}{if(FNR!=N)print}' FILE FILE
aaaaaaa
bbbbbbb
aaaaaaa
ddddddd
fffffffffffff
ccccccc

   

论坛徽章:
0
4 [报告]
发表于 2014-05-09 15:48 |只看该作者
有N个重复行,保留N-1行,只删除第N行?

论坛徽章:
0
5 [报告]
发表于 2014-05-09 15:50 |只看该作者
回复 3# jason680

awk命令如何在文件中直接生效呢?
   

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
6 [报告]
发表于 2014-05-09 15:56 |只看该作者
本帖最后由 jason680 于 2014-05-09 16:04 编辑

回复 5# free_2006

Answer 1: awk
solution: make the new file and rename it

or you want to using this one, but I'm not sure it's safety.   
$ awk '{if($0~/aaaaaaa/)N=NR;a[++t]=$0}END{for(n=1;n<=t;n++)if(N!=n)print a[n] > "FILE"}' FILE


Answer 2: sed and perl can repleace FILE directly
but I don't know how to do

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
7 [报告]
发表于 2014-05-09 16:36 |只看该作者
本帖最后由 yestreenstars 于 2014-05-09 16:58 编辑

回复 6# jason680

How about this?

for sed:
  1. sed -r ':1;N;$!b1;s/(.*)\naaaaaaa/\1/'
复制代码
but it is not good for big size file.

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
8 [报告]
发表于 2014-05-09 16:42 |只看该作者
回复 7# yestreenstars

thank you!!!

Note: It's hard to me to read this sed code
   

论坛徽章:
769
金牛座
日期:2014-02-26 17:49:58水瓶座
日期:2014-02-26 18:10:15白羊座
日期:2014-04-15 19:29:52寅虎
日期:2014-04-17 19:43:21酉鸡
日期:2014-04-19 21:24:10子鼠
日期:2014-04-22 13:55:24卯兔
日期:2014-04-22 14:20:58亥猪
日期:2014-04-22 16:13:09狮子座
日期:2014-05-05 22:31:17摩羯座
日期:2014-05-06 10:32:53处女座
日期:2014-05-12 09:23:11子鼠
日期:2014-05-21 18:21:27
9 [报告]
发表于 2014-05-09 16:51 |只看该作者
回复 7# yestreenstars
Could you write a sed to delete the 1st row of aaaaaaa?
Thanks.

   

论坛徽章:
769
金牛座
日期:2014-02-26 17:49:58水瓶座
日期:2014-02-26 18:10:15白羊座
日期:2014-04-15 19:29:52寅虎
日期:2014-04-17 19:43:21酉鸡
日期:2014-04-19 21:24:10子鼠
日期:2014-04-22 13:55:24卯兔
日期:2014-04-22 14:20:58亥猪
日期:2014-04-22 16:13:09狮子座
日期:2014-05-05 22:31:17摩羯座
日期:2014-05-06 10:32:53处女座
日期:2014-05-12 09:23:11子鼠
日期:2014-05-21 18:21:27
10 [报告]
发表于 2014-05-09 16:53 |只看该作者
本帖最后由 Herowinter 于 2014-05-09 16:54 编辑

回复 8# jason680
Read all lines in file into pattern space, then
replace (.*\n)aaaaaaa\n  with  \1.


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP