免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3236 | 回复: 5
打印 上一主题 下一主题

[文件目录] shell 的 while 后台并发 的一个深坑,求高手指点 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-07-01 23:15 |只看该作者 |倒序浏览
本帖最后由 0602114042 于 2016-07-01 23:17 编辑

我想用while 循环执行一些重复任务,并且为了高效利用cpu,利用后台实现并发,

例如:

#!/bin/bash
#set -x

function zip_data()
{
while true
do
{
        echo         "do something"                               
}&
done
}

zip_data

但是实际测试发现这个循环越跑越慢,我也大概知道shell的while是新开一个子shell运行的,
所以我怀疑是while循环太快,导致后台子shell太多引起卡顿




所以我又改了一下,增加一个管道描述符控制并发量,如下所示,我理解实时运行的时候应该只有一个while在后台运行
但是实际上测试发现,跟上面现象一样,刚开始运行很快,越运行越慢,

求高手指点一下,多谢!!!


#!/bin/bash
#set -x

# 中断时kill子进程
function trap_exit
{
exec 1000>&-;exec 1000<&-
kill -9 0
}

trap 'trap_exit; exit 2' 1 2 3 15 9

mkfifo testfifo ; exec 1000<>testfifo ; rm -rf testfifo

function zip_data()
{
echo >&1000

while true
read -u 1000
do
{

        echo         "do something"       
        echo >&1000               
       
}&
done
}

zip_data
wait


论坛徽章:
0
2 [报告]
发表于 2016-07-02 10:35 |只看该作者
有没有人,顶一下

论坛徽章:
10
15-16赛季CBA联赛之同曦
日期:2016-06-11 19:22:4115-16赛季CBA联赛之深圳
日期:2020-05-31 16:13:5615-16赛季CBA联赛之同曦
日期:2020-01-28 12:42:47每日论坛发贴之星
日期:2016-08-09 06:20:00程序设计版块每日发帖之星
日期:2016-08-09 06:20:00每日论坛发贴之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-06 06:20:00程序设计版块每日发帖之星
日期:2016-07-04 06:20:0015-16赛季CBA联赛之佛山
日期:2021-02-26 09:33:41
3 [报告]
发表于 2016-07-02 11:39 |只看该作者
shell中使用多线程感觉效率上提高不大、前排占座

论坛徽章:
0
4 [报告]
发表于 2016-07-02 14:50 |只看该作者
回复 3# ll104567


是这样,while循环中我会创建一个zip 压缩实例进行压缩
实际使用中会根据cpu核数创建多个压缩实例并行压缩文件,缩短压缩时间

上面是目的,就先不多说了,
问题是为啥while循环跑着跑着就跑慢了,这个现象还挺容易复现 的

我怀疑是不是有子进程未退出导致僵尸进程或者别的原因,但是都没发现线索

真是奇怪啊

   

论坛徽章:
0
5 [报告]
发表于 2016-07-03 14:24 |只看该作者
今天仔细对比测试,一个data_zip_new.sh  是刚重启的脚本,一个data_zip_error是运行时间大概一个小时的脚本
明显发现运行久了virt,res 数据区会增大

这我就想不明白了,while后台调用很多进程后,这些也会运行完释放的,为啥res等还会持续增加?有什么没释放的吗?




Tasks: 752 total,   6 running, 746 sleeping,   0 stopped,   0 zombie
Cpu(s): 22.2%us,  9.8%sy,  0.0%ni, 68.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st, 67.3%id_exact,  0.3%hi_exact,  0.4%irq_exact
Mem:  264463636k total, 24349160k used, 240114476k free,   361180k buffers
Swap: 25165816k total,        0k used, 25165816k free,  3197596k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+   PPID RUSER     UID GROUP    TTY       P SWAP   TIME CODE DATA nFLT nDRT WCHAN     Flags    COMMAND                       
17102 root      20   0  115m  12m 1032 R 100.0  0.0   2:05.51 14812 root        0 root     pts/3    13    0   2:05  848  11m    0    0 -         ..4.2... data_zip_new.sh               
17952 root      20   0  159m  57m 1112 R 99.7  0.0 102:22.86  1080 root        0 root     pts/6     8    0 102:22  848  56m    0    0 -         ..4.21.. data_zip_error.               

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2016-02-06 06:20:00
6 [报告]
发表于 2016-07-08 11:53 |只看该作者
没控制并发数吧
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP