免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2793 | 回复: 13

[系统管理] linux系统下find命令导致高IO使用率问题 [复制链接]

论坛徽章:
0
发表于 2016-01-20 16:33 |显示全部楼层
请教一下各位,碰到了下面的问题,问题已经解决了,但是不知道为什么find会产生这么高的IO使用率

一台linux机器上,定时任务执行一个find命令,每个find命令查找的目录不一样,目录里的文件在30万左右。
在执行find命令的时候,IO使用率达到了90%以上。
而我用iotop抓到的信息来看,吞吐量并不大,在2M左右

为什么吞吐量不大,IO使用率却那么高呢?

论坛徽章:
0
发表于 2016-01-20 16:39 |显示全部楼层
本帖最后由 kevinadmin 于 2016-01-20 18:32 编辑

find  /data/aaa/ -name tst.txt
find /data/bbb/ -name cc.txt
aaa and bbb目录各有文件30万个左右,命令同时执行,一执行IO使用率就到90%以上

具体就是这样执行  

求职 : Linux运维
论坛徽章:
203
拜羊年徽章
日期:2015-03-03 16:15:432015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:57:092015小元宵徽章
日期:2015-03-06 15:58:182015年亚洲杯之约旦
日期:2015-04-05 20:08:292015年亚洲杯之澳大利亚
日期:2015-04-09 09:25:552015年亚洲杯之约旦
日期:2015-04-10 17:34:102015年亚洲杯之巴勒斯坦
日期:2015-04-10 17:35:342015年亚洲杯之日本
日期:2015-04-16 16:28:552015年亚洲杯纪念徽章
日期:2015-04-27 23:29:17操作系统版块每日发帖之星
日期:2015-06-06 22:20:00操作系统版块每日发帖之星
日期:2015-06-09 22:20:00
发表于 2016-01-20 19:54 |显示全部楼层
IO使用率指的是什么???

求职 : Linux运维
论坛徽章:
203
拜羊年徽章
日期:2015-03-03 16:15:432015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:57:092015小元宵徽章
日期:2015-03-06 15:58:182015年亚洲杯之约旦
日期:2015-04-05 20:08:292015年亚洲杯之澳大利亚
日期:2015-04-09 09:25:552015年亚洲杯之约旦
日期:2015-04-10 17:34:102015年亚洲杯之巴勒斯坦
日期:2015-04-10 17:35:342015年亚洲杯之日本
日期:2015-04-16 16:28:552015年亚洲杯纪念徽章
日期:2015-04-27 23:29:17操作系统版块每日发帖之星
日期:2015-06-06 22:20:00操作系统版块每日发帖之星
日期:2015-06-09 22:20:00
发表于 2016-01-20 19:57 |显示全部楼层
多个线程去find,IO使用率当然高,并不能用吞吐量来衡量的,比如你有十亿个小文件,文件不大,即使全部查询也就2M左右
但是系统已经无法处理其他进程的IO请求了

论坛徽章:
0
发表于 2016-01-22 12:36 |显示全部楼层
lyhabc 发表于 2016-01-20 19:57
多个线程去find,IO使用率当然高,并不能用吞吐量来衡量的,比如你有十亿个小文件,文件不大,即使全部查询 ...


IO使用率是指用iostat看到的 util值

论坛徽章:
0
发表于 2016-01-22 12:37 |显示全部楼层
kevinadmin 发表于 2016-01-22 12:36
IO使用率是指用iostat看到的 util值


两个find命令同时执行,不是多线程。
文件量也没有达到亿级  每个find查找的目录,文件数量在30万左右

论坛徽章:
41
操作系统版块每日发帖之星
日期:2016-08-21 06:20:00每日论坛发贴之星
日期:2016-05-05 06:20:00操作系统版块每日发帖之星
日期:2016-05-05 06:20:00IT运维版块每日发帖之星
日期:2016-05-05 06:20:0015-16赛季CBA联赛之山西
日期:2016-04-27 08:49:00操作系统版块每日发帖之星
日期:2016-04-25 06:20:00操作系统版块每日发帖之星
日期:2016-04-17 06:23:2815-16赛季CBA联赛之吉林
日期:2016-03-25 15:46:3415-16赛季CBA联赛之四川
日期:2016-03-25 14:26:19操作系统版块每日发帖之星
日期:2016-05-27 06:20:00操作系统版块每日发帖之星
日期:2016-05-28 06:20:00IT运维版块每日发帖之星
日期:2016-08-18 06:20:00
发表于 2016-01-22 13:30 |显示全部楼层
小文件多就是这样的,在windos下也一样

求职 : Linux运维
论坛徽章:
203
拜羊年徽章
日期:2015-03-03 16:15:432015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:57:092015小元宵徽章
日期:2015-03-06 15:58:182015年亚洲杯之约旦
日期:2015-04-05 20:08:292015年亚洲杯之澳大利亚
日期:2015-04-09 09:25:552015年亚洲杯之约旦
日期:2015-04-10 17:34:102015年亚洲杯之巴勒斯坦
日期:2015-04-10 17:35:342015年亚洲杯之日本
日期:2015-04-16 16:28:552015年亚洲杯纪念徽章
日期:2015-04-27 23:29:17操作系统版块每日发帖之星
日期:2015-06-06 22:20:00操作系统版块每日发帖之星
日期:2015-06-09 22:20:00
发表于 2016-01-22 14:49 |显示全部楼层
@kevinadmin
iostat和iotop这些第三方工具其实都一样的
不管多线程还是单线程,反正线程不够用了,cpu利用太高

论坛徽章:
0
发表于 2016-01-22 16:11 |显示全部楼层
lyhabc 发表于 2016-01-22 14:49
@kevinadmin
iostat和iotop这些第三方工具其实都一样的
不管多线程还是单线程,反正线程不够用了,cpu利用 ...


关键是CPU利用率不高,就是IO使用率太高

论坛徽章:
0
发表于 2016-01-22 18:05 |显示全部楼层
find 在执行查找的时候  IO这块 用的是顺序IO还是随机IO?
找了一圈都没有找到答案  
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP