免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 11030 | 回复: 15
打印 上一主题 下一主题

如何快速统计一个大文件的行数? [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-02-21 15:10 |只看该作者 |倒序浏览
直接用wc -l 很慢    sed '$=' 也慢`  awk 'END{print NR}' 也是很慢`
请问大侠谁还有高招

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
2 [报告]
发表于 2012-02-21 15:18 |只看该作者
  1. grep -Fc "" urfile
复制代码

论坛徽章:
3
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:51:162015年亚洲杯之阿曼
日期:2015-04-07 20:00:59
3 [报告]
发表于 2012-02-21 15:20 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
4 [报告]
发表于 2012-02-21 15:25 |只看该作者
试试 cut -c -2 huge.file | wc -l

论坛徽章:
0
5 [报告]
发表于 2012-02-21 15:32 |只看该作者
本帖最后由 mpstat 于 2012-02-21 15:37 编辑

以我的经验wc -l 应该是最快的了..

  1. [work@yf-ccl08]~/wx/ims>$ time wc -l aa
  2. 275070000 aa

  3. real    0m9.138s
  4. user    0m6.574s
  5. sys     0m2.564s
  6. [work@yf-ccl08]~/wx/ims>$ time wc -l < aa
  7. 275070000

  8. real    0m9.048s
  9. user    0m6.474s
  10. sys     0m2.574s
  11. [work@yf-ccl08]~/wx/ims>$ grep -Fc "" aa
  12. 275070000
  13. [work@yf-ccl08]~/wx/ims>$ time grep -Fc "" aa
  14. 275070000

  15. real    0m17.129s
  16. user    0m14.834s
  17. sys     0m2.295s
  18. [work@yf-ccl08]~/wx/ims>$ time grep -Fc "" aa
  19. 275070000

  20. real    0m17.006s
  21. user    0m14.637s
  22. sys     0m2.366s
  23. [work@yf-ccl08]~/wx/ims>$
复制代码

论坛徽章:
5
未羊
日期:2014-08-04 16:15:21天秤座
日期:2014-08-13 13:52:372015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:112015亚冠之浦和红钻
日期:2015-06-29 15:30:48
6 [报告]
发表于 2012-02-21 16:12 |只看该作者
jiejie455 发表于 2012-02-21 15:25
试试 cut -c -2 huge.file | wc -l


跟楼上的几种方法比较,你这个肯定最慢。。。。。

论坛徽章:
0
7 [报告]
发表于 2012-02-21 17:56 |只看该作者
wc 下 再去躺wc
肯定算好了

论坛徽章:
0
8 [报告]
发表于 2012-02-22 00:32 |只看该作者
能有比wc更快的吗?

论坛徽章:
1
双子座
日期:2013-10-17 00:46:45
9 [报告]
发表于 2012-02-22 00:43 |只看该作者
wc的算法经过优化的,除非你的文件结构特殊,你自己有针对的写代码去优化,要不然很难比 WC 的效率更高的。

论坛徽章:
0
10 [报告]
发表于 2012-02-22 11:01 |只看该作者
回复 7# nuclearxin


    恩,有管道,肯定最慢
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP