mysql drbd 配置 大内存参数导致 磁盘 IO 奇高？

free4machine

大家好，

我在搭建  mysql +drbd 时， 如果默认的 mysql 配置参数 ，没有任何问题，

但是 如果  改成生产 环境的 参数 的话， 立马系统 挂住 ， 负载上升，vi 一个文件 都写不进去，

以下是一些 开到G  的参数 ：

key_buffer_size = 4G
tmp_table_size = 2G
innodb_buffer_pool_size = 10G
innodb_log_file_size  = 1G
innodb_log_buffer_size  = 1G


机器是 32G 内存，  搞了几天 依然没有头绪， 所以在此请教大家， 谢谢！

huzi1986

key_buffer_size = 4G
tmp_table_size = 2G
innodb_buffer_pool_size = 10G
innodb_log_file_size  = 1G
innodb_log_buffer_size  = 1G

怎么这么调整？你哪来的依据，你的物理内存多大，主要引擎是什么？key_buffer_size = 4G 太大
tmp_table_size = 2G 这个是基于session 的，也太大。innodb_log_buffer_size  = 1G 这个太大
除了其它参数。你这些加起来要用18G内存，你的总共内存多大呢？

free -mt 看看

vmstat 1 5

iostat -x 1 5

贴出来看看

free4machine

机器是  32G 物理内存， 之所以开这么大，是因为 现在有另外一台机器（没用 drbd ）  也是这个参数 跑得好好的。。

现在把这个参数 直接用到 drbd 分区上，， 就导致 现在 无法 写文件了。

[okooo@db06 ~]$ iostat -k 1 5
Linux 2.6.18-164.el5 (db06)         2010年01月13日         _x86_64_

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.04    0.00    0.01    0.12    0.00   99.83

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
cciss/c0d0        2.55         8.86        58.48    4389776   28978947
cciss/c0d0p1      0.48         0.84        21.07     417905   10442072
cciss/c0d0p2      2.06         8.01        37.41    3971703   18536875
drbd0             7.60         7.99        29.05    3958773   14395336

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.00    0.00    0.12   14.37    0.00   85.50

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
cciss/c0d0      167.00         0.00      3232.00          0       3232
cciss/c0d0p1      0.00         0.00         0.00          0          0
cciss/c0d0p2    167.00         0.00      3232.00          0       3232
drbd0           815.00         0.00      3260.00          0       3260

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.62    0.00    0.37   12.48    0.00   86.52

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
cciss/c0d0      154.00         0.00      2376.00          0       2376
cciss/c0d0p1      0.00         0.00         0.00          0          0
cciss/c0d0p2    154.00         0.00      2376.00          0       2376
drbd0           587.00         0.00      2348.00          0       2348

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.00    0.00    0.25   12.73    0.00   87.02

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
cciss/c0d0      186.00         0.00      3036.00          0       3036
cciss/c0d0p1      2.00         0.00        52.00          0         52
cciss/c0d0p2    184.00         0.00      2984.00          0       2984
drbd0           755.00         0.00      3020.00          0       3020

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.00    0.00    0.25   12.36    0.00   87.39

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
cciss/c0d0      142.00         0.00      2612.00          0       2612
cciss/c0d0p1      0.00         0.00         0.00          0          0
cciss/c0d0p2    142.00         0.00      2612.00          0       2612
drbd0           644.00         0.00      2576.00          0       2576






--------------------------------------------------------------



[okooo@db06 ~]$ vmstat  1 5
procs -----------memory---------- ---swap-- -----io---- --system-- -----cpu------
r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
0  1      0 8159076 339316 18782092    0    0     1     6    8    9  0  0 100  0  0
0  1      0 8159076 339316 18782092    0    0     0  2736 1849 1849  0  0 87 13  0
0  1      0 8159076 339316 18782092    0    0     0  2620 1793 1678  0  0 87 12  0
0  1      0 8159200 339316 18782092    0    0     0  2844 1885 1847  0  0 87 12  0
0  1      0 8159076 339316 18782092    0    0     0  2564 1833 1719  0  0 87 13  0


--------------------------------------------------------------


[okooo@db06 ~]$ free -mt
             total       used       free     shared    buffers     cached
Mem:         32184      24216       7967          0        331      18341
-/+ buffers/cache:       5543      26640
Swap:            0          0          0
Total:       32184      24216       7967

free4machine

几乎所有命令 都说明  IO 有问题， 但 就是不知道如何处理，这时 内存还是挺充足的。。

现在 vim 一个文件， :wq  是 挂住状态 ， 不知道是什么 导致  drbd 如此频繁的写

[okooo@db06 ~]$ mpstat  1 5
Linux 2.6.18-164.el5 (db06)         2010年01月13日         _x86_64_

11时59分08秒  CPU   %user   %nice    %sys %iowait    %irq   %soft  %steal   %idle    intr/s
11时59分09秒  all    0.00    0.00    0.25   12.84    0.00    0.12    0.00   86.78   1882.00
11时59分10秒  all    0.00    0.00    0.12   12.48    0.00    0.12    0.00   87.27   1731.00
11时59分11秒  all    0.00    0.00    0.00   12.52    0.00    0.00    0.00   87.48   1773.27
11时59分12秒  all    0.75    0.00    0.12   12.47    0.00    0.12    0.00   86.53   1842.00
11时59分13秒  all    0.00    0.00    0.12   12.48    0.00    0.12    0.00   87.27   1932.00
平均时间:    all    0.15    0.00    0.12   12.56    0.00    0.10    0.00   87.07   1831.94




[okooo@db06 ~]$ sar -b  1  5
Linux 2.6.18-164.el5 (db06)         2010年01月13日         _x86_64_

11时59分17秒       tps      rtps      wtps   bread/s   bwrtn/s
11时59分18秒   1140.59      0.00   1140.59      0.00  19344.55
11时59分19秒   1198.99      0.00   1198.99      0.00  19969.70
11时59分20秒    868.32      0.00    868.32      0.00  13188.12
11时59分21秒   1089.00      0.00   1089.00      0.00  18762.00
11时59分22秒    959.00      0.00    959.00      0.00  15242.00
平均时间:     1050.70      0.00   1050.70      0.00  17291.82




[okooo@db06 ~]$ free -m
             total       used       free     shared    buffers     cached
Mem:         32184      24220       7963          0        331      18341
-/+ buffers/cache:       5547      26637
Swap:            0          0          0

yumanifold

确认问题是在mysql上吗？

free4machine

drbd0_receiver    drbd0_worker     都是 drbd 的进程 啊。。。

top  命令：

op - 12:36:50 up 5 days, 18:21,  4 users,  load average: 2.07, 0.68, 0.55
Tasks: 127 total,   1 running, 126 sleeping,   0 stopped,   0 zombie
Cpu(s):  0.2%us,  0.0%sy,  0.0%ni, 99.6%id,  0.1%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:  32956836k total, 28164648k used,  4792188k free,   343504k buffers
Swap:        0k total,        0k used,        0k free, 21197148k cached
Unknown command - try 'h' for help
  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND                                         
7132 okooo     15   0 17.3g 2.8g 3880 S  2.0  9.0  21:35.41 mysqld                                          
2993 root      15   0     0    0    0 S  0.3  0.0   0:13.72 drbd0_worker                                    
3001 root      15   0     0    0    0 S  0.3  0.0   0:24.26 drbd0_receiver

free4machine

发现些问题，  drbd  的 pe  状态 持续 在 2000 多。。 这个状态 是 waiting ack,  难道和网络有关？

cat /proc/drbd
4455 version: 8.2.6 (api:88/proto:86-8
4456 GIT-hash: 3e69822d3bb4920a8c1bfdf7d647169eba7d2eb4 build by buildsvn@c5-x8664-build, 2008-06-21 08:48:13
4457  0: cs:Connected strimary/Secondary ds:UpToDate/UpToDate C r---
4458     ns:22605284 nr:4137868 dw:26750552 dr:3968313 al:10618 bm:687 lo:3 pe:2050 ua:0 ap:2049 oos:0