免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 979 | 回复: 2
打印 上一主题 下一主题

[文本处理] 请问怎么提升这个脚本的速度? [复制链接]

论坛徽章:
1
黑曼巴
日期:2016-08-17 14:00:26
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-10-26 17:30 |只看该作者 |倒序浏览
写了个脚本,用来查询指定URL在网站日记中的抓取情况。运行没问题,但是速度非常慢,基本上1~2秒一个,我怀疑是日志文件体积太大,grep需要时间导致的。
请问要怎么提升这个脚本的运行速度呢?

代码如下:
  1. #!/bin/bash
  2. rm rst.log &>/dev/null
  3. dos2unix $1 &>/dev/null
  4. sed -i -r 's/https*:\/\///g' $1
  5. for i in `cat $1`
  6. do
  7. A=(`echo $i | sed 's/com/com /g'`)
  8. R1=`zgrep -a "^${A[0]}.*${A[1]}" $2 | head -1`
  9. if [[ $R1 != "" ]]
  10. then
  11.         echo $i","`echo $R1 | awk '{print $10}'` >>rst.log
  12. else
  13.         echo $i",未抓取" >>rst.log
  14. fi
  15. done

  16. awk -F, '{print $2}' rst.log | sort | uniq -c | sort -r
复制代码


论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
2 [报告]
发表于 2016-10-27 11:19 |只看该作者
用 time 命令查看一下每条命令的执行时间,看看到底是哪个命令花费较长时间,然后有针对性的进行调优。例如:
  1. time sed -i -r 's/https*:\/\///g' $1
复制代码

论坛徽章:
1
黑曼巴
日期:2016-08-17 14:00:26
3 [报告]
发表于 2016-10-27 14:54 |只看该作者
回复 2# Shell_HAT

谢谢,我这个问题可能提得太笼统了。我逐个命令地检查吧
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP