免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 3439 | 回复: 12
打印 上一主题 下一主题

[文本处理] 交错输出两个文件的各行,shell效率极差(可能是我方法不好) [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-10-30 21:59 |只看该作者 |倒序浏览
mdsp228:~/liutong # wc -l 1.txt
149715 1.txt
mdsp228:~/liutong # wc -l 2.txt
150283 2.txt


SHELL 效率:1s钟生成一条数据
  1. mdsp228:~/liutong # cat gen_data.sh
  2. #!/bin/bash

  3. num=$1
  4. for (( i=1; i<=$num; i++ ))
  5. do
  6.         sed -n "${i}p" 1.txt
  7.         sed -n "${i}p" 2.txt ;
  8. done
复制代码
C语言:效率——不到1s,生成所有数据
感叹一下,工作之后都不用C语言了,曾经我的最爱。。。心里有点郁闷
  1. mdsp228:~/liutong # cat gen_data.c
  2. #include <stdio.h>

  3. int main()
  4. {

  5.         FILE *fp1_read;
  6.         FILE *fp2_read;
  7.         FILE *fp_write;

  8.         char str1[256];
  9.         char str2[256];

  10.         if(NULL == (fp1_read=fopen("1.txt","r")))
  11.         {
  12.                 printf("read ab.txt error\n");
  13.                 return 1;
  14.         }

  15.         if(NULL == (fp2_read=fopen("2.txt","r")))
  16.         {
  17.                 printf("read cd.txt error\n");
  18.                 return 1;
  19.         }

  20.         if(NULL == (fp_write=fopen("data_res.txt","w")))
  21.         {
  22.                 printf("read data_res.txt error\n");
  23.                 return 1;
  24.         }
  25.       
  26.         while (fgets(str1,256,fp1_read) != NULL && fgets(str2,256,fp2_read) != NULL)
  27.         {
  28. //              printf("%s",str1);
  29. //              printf("%s",str2);
  30.                 fputs(str1,fp_write);
  31.                 fputs(str2,fp_write);

  32.         }



  33.         fclose(fp1_read);
  34.         fclose(fp2_read);


  35.         return 0;
  36. }
复制代码

论坛徽章:
2
射手座
日期:2014-10-10 15:59:4715-16赛季CBA联赛之上海
日期:2016-03-03 10:27:14
2 [报告]
发表于 2012-10-30 22:06 |只看该作者
回复 1# wxdlut


    awk 'BEGIN{while(getline <"2.txt"){print;getline <"1.txt"; print}}'

论坛徽章:
1
辰龙
日期:2014-05-22 11:38:58
3 [报告]
发表于 2012-10-30 22:12 |只看该作者
  1. $ paste -d '\n' <(seq 1 10) <(seq 11 20)
  2. 1
  3. 11
  4. 2
  5. 12
  6. 3
  7. 13
  8. 4
  9. 14
  10. 5
  11. 15
  12. 6
  13. 16
  14. 7
  15. 17
  16. 8
  17. 18
  18. 9
  19. 19
  20. 10
  21. 20
复制代码

论坛徽章:
1
巳蛇
日期:2013-10-28 15:55:33
4 [报告]
发表于 2012-10-31 10:28 来自手机 |只看该作者
bash

exec给俩文件指定fd
read对应fd。

手机敲代码不方便。

论坛徽章:
0
5 [报告]
发表于 2012-10-31 11:06 |只看该作者
这个方法不错,效率也很高。谢谢。看来awk还是得再好好学学
回复 2# yinyuemi


   

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
6 [报告]
发表于 2012-10-31 11:27 |只看该作者
你打开了多少次文件?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
7 [报告]
发表于 2012-10-31 11:32 |只看该作者
paste -d'\n' 1.txt 2.txt

论坛徽章:
0
8 [报告]
发表于 2012-10-31 11:48 |只看该作者
佩服。我思维定势了,以为paste -d分隔符只能是达到行与行的合并,类似于如下效果
  1. mdsp228:~/liutong/test # cat 1.txt
  2. abd
  3. ef
  4. mdsp228:~/liutong/test # cat 2.txt
  5. gogo
  6. gh
  7. ee
  8. mdsp228:~/liutong/test # paste -d'#' 1.txt 2.txt  
  9. abd#gogo
  10. ef#gh
  11. #ee
复制代码
回复 7# waker


   

论坛徽章:
0
9 [报告]
发表于 2012-10-31 22:55 |只看该作者
waker 发表于 2012-10-31 11:27
你打开了多少次文件?


和打开文件次数比,更大的开销应该是进程的开销吧。启停了数万次的进程,系统确实很累

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
10 [报告]
发表于 2012-11-01 09:00 |只看该作者
ivhb 发表于 2012-10-31 22:55
和打开文件次数比,更大的开销应该是进程的开销吧。启停了数万次的进程,系统确实很累

关键不但打开了,每次打开还从头到尾处理了一遍文件
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP