免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 3923 | 回复: 15
打印 上一主题 下一主题

[系统管理] 2台机器用tcpdump抓包,抓到的包数量不一样,为什么呢? [复制链接]

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-11-09 18:58 |只看该作者 |正序浏览
一台是web,另一台是webbench, 当访问压力小的时候,两边抓的包数量是一样的,但是压力大了。包就对不上了。
而且走的应该是局域网,可能是哪的问题?

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
16 [报告]
发表于 2013-11-20 18:18 |只看该作者
回复 15# q1208c
嗯 是这样。。。  
谢谢你了~

   

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
15 [报告]
发表于 2013-11-20 16:17 |只看该作者
回复 14# g361031315

这没办法了, 看来你至少得换块网卡了.
   

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
14 [报告]
发表于 2013-11-20 15:09 |只看该作者
回复 13# q1208c
跑的nginx。。 60000并发压力的时候 中断和上下文切换应该多的。
主要是这台机器网卡不是太好,优化了 软中断也最多用3个核
有台网卡好的机器,停了irqbalanc服务,然后把8个cpu分别绑到8个网卡queue,软中断是均匀分配到cpu上的。




   

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
13 [报告]
发表于 2013-11-19 10:40 |只看该作者
上下文切换  太多了. 而且, 好象总是在一个CPU上发生, 是不是你的服务是单进程的呀? 所以, 只跑在了一颗CPU上 ?

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
12 [报告]
发表于 2013-11-19 10:35 |只看该作者
回复 11# q1208c
  1. [root@uic ~]# sar -P ALL -u -w 2 10
  2. Linux 2.6.18-308.el5 (htuidc.bgp.ip)         11/19/2013

  3. 10:33:31 AM   cswch/s
  4. 10:33:33 AM     70.50

  5. 10:33:31 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  6. 10:33:33 AM       all      0.00      0.00      0.00      0.00      0.00    100.00
  7. 10:33:33 AM         0      0.00      0.00      0.00      0.00      0.00    100.00
  8. 10:33:33 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  9. 10:33:33 AM         2      0.00      0.00      0.00      0.00      0.00    100.00
  10. 10:33:33 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  11. 10:33:33 AM         4      0.00      0.00      0.00      0.00      0.00    100.00
  12. 10:33:33 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  13. 10:33:33 AM         6      0.00      0.00      0.00      0.00      0.00    100.00
  14. 10:33:33 AM         7      0.00      0.00      0.00      0.00      0.00    100.00

  15. 10:33:33 AM   cswch/s
  16. 10:33:35 AM     69.00

  17. 10:33:33 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  18. 10:33:35 AM       all      0.00      0.00      0.00      0.00      0.00    100.00
  19. 10:33:35 AM         0      0.00      0.00      0.00      0.00      0.00    100.00
  20. 10:33:35 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  21. 10:33:35 AM         2      0.00      0.00      0.00      0.00      0.00    100.00
  22. 10:33:35 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  23. 10:33:35 AM         4      0.00      0.00      0.00      0.00      0.00    100.00
  24. 10:33:35 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  25. 10:33:35 AM         6      0.00      0.00      0.50      0.00      0.00     99.50
  26. 10:33:35 AM         7      0.00      0.00      0.00      0.00      0.00    100.00

  27. 10:33:35 AM   cswch/s
  28. 10:33:37 AM     67.00

  29. 10:33:35 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  30. 10:33:37 AM       all      0.00      0.00      0.00      0.37      0.00     99.63
  31. 10:33:37 AM         0      0.00      0.00      0.00      1.00      0.00     99.00
  32. 10:33:37 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  33. 10:33:37 AM         2      0.00      0.00      0.00      0.00      0.00    100.00
  34. 10:33:37 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  35. 10:33:37 AM         4      0.00      0.00      0.00      0.00      0.00    100.00
  36. 10:33:37 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  37. 10:33:37 AM         6      0.00      0.00      0.00      1.99      0.00     98.01
  38. 10:33:37 AM         7      0.00      0.00      0.00      0.00      0.00    100.00

  39. 10:33:37 AM   cswch/s
  40. 10:33:39 AM   4759.50

  41. 10:33:37 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  42. 10:33:39 AM       all      1.50      0.00      6.62      0.00      0.00     91.88
  43. 10:33:39 AM         0      3.50      0.00      5.00      0.00      0.00     91.50
  44. 10:33:39 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  45. 10:33:39 AM         2      0.00      0.00     29.15      0.00      0.00     70.85
  46. 10:33:39 AM         3      0.00      0.00      3.00      0.00      0.00     97.00
  47. 10:33:39 AM         4      1.50      0.00      3.00      0.00      0.00     95.50
  48. 10:33:39 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  49. 10:33:39 AM         6      2.51      0.00      3.52      0.00      0.00     93.97
  50. 10:33:39 AM         7      4.50      0.00      9.00      0.00      0.00     86.50

  51. 10:33:39 AM   cswch/s
  52. 10:33:41 AM   4437.50

  53. 10:33:39 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  54. 10:33:41 AM       all      0.81      0.00      3.25      0.00      0.00     95.93
  55. 10:33:41 AM         0      2.50      0.00      3.50      0.00      0.00     94.00
  56. 10:33:41 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  57. 10:33:41 AM         2      0.00      0.00     12.50      0.00      0.00     87.50
  58. 10:33:41 AM         3      0.00      0.00      2.00      0.00      0.00     98.00
  59. 10:33:41 AM         4      0.00      0.00      0.00      0.00      0.00    100.00
  60. 10:33:41 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  61. 10:33:41 AM         6      1.00      0.00      1.99      0.00      0.00     97.01
  62. 10:33:41 AM         7      3.00      0.00      6.00      0.00      0.00     91.00

  63. 10:33:41 AM   cswch/s
  64. 10:33:43 AM   4821.00

  65. 10:33:41 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  66. 10:33:43 AM       all      0.69      0.00      2.37      2.31      0.00     94.63
  67. 10:33:43 AM         0      1.00      0.00      2.50     10.00      0.00     86.50
  68. 10:33:43 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  69. 10:33:43 AM         2      0.50      0.00      1.49      0.00      0.00     98.01
  70. 10:33:43 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  71. 10:33:43 AM         4      0.99      0.00      1.98      8.42      0.00     88.61
  72. 10:33:43 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  73. 10:33:43 AM         6      1.50      0.00      9.00      0.00      0.00     89.50
  74. 10:33:43 AM         7      1.50      0.00      3.50      0.00      0.00     95.00

  75. 10:33:43 AM   cswch/s
  76. 10:33:45 AM   6242.29

  77. 10:33:43 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  78. 10:33:45 AM       all      1.06      0.00      4.37      0.00      0.00     94.57
  79. 10:33:45 AM         0      1.00      0.00      1.99      0.00      0.00     97.01
  80. 10:33:45 AM         1      0.00      0.00      0.50      0.00      0.00     99.50
  81. 10:33:45 AM         2      0.00      0.00      0.50      0.00      0.00     99.50
  82. 10:33:45 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  83. 10:33:45 AM         4      2.00      0.00      3.50      0.00      0.00     94.50
  84. 10:33:45 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  85. 10:33:45 AM         6      2.01      0.00     20.10      0.00      0.00     77.89
  86. 10:33:45 AM         7      3.52      0.00      8.04      0.00      0.00     88.44

  87. 10:33:45 AM   cswch/s
  88. 10:33:47 AM   4024.50

  89. 10:33:45 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  90. 10:33:47 AM       all      0.75      0.00      2.19      1.44      0.00     95.62
  91. 10:33:47 AM         0      1.50      0.00      1.50      0.00      0.00     97.00
  92. 10:33:47 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  93. 10:33:47 AM         2      0.50      0.00      0.50      0.00      0.00     99.00
  94. 10:33:47 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  95. 10:33:47 AM         4      1.51      0.00      3.02     11.56      0.00     83.92
  96. 10:33:47 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  97. 10:33:47 AM         6      1.51      0.00      8.54      0.00      0.00     89.95
  98. 10:33:47 AM         7      0.99      0.00      4.46      0.00      0.00     94.55

  99. 10:33:47 AM   cswch/s
  100. 10:33:49 AM   4922.61

  101. 10:33:47 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  102. 10:33:49 AM       all      0.69      0.00      2.68      0.56      0.00     96.07
  103. 10:33:49 AM         0      0.50      0.00      1.51      0.00      0.00     97.99
  104. 10:33:49 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  105. 10:33:49 AM         2      0.00      0.00      0.00      0.00      0.00    100.00
  106. 10:33:49 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  107. 10:33:49 AM         4      1.00      0.00      1.49      2.49      0.00     95.02
  108. 10:33:49 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  109. 10:33:49 AM         6      2.48      0.00     14.36      1.98      0.00     81.19
  110. 10:33:49 AM         7      1.51      0.00      3.52      0.00      0.00     94.97

  111. 10:33:49 AM   cswch/s
  112. 10:33:51 AM   5020.79

  113. 10:33:49 AM       CPU     %user     %nice   %system   %iowait    %steal     %idle
  114. 10:33:51 AM       all      0.94      0.00      3.00      0.00      0.00     96.06
  115. 10:33:51 AM         0      0.50      0.00      0.99      0.00      0.00     98.51
  116. 10:33:51 AM         1      0.00      0.00      0.00      0.00      0.00    100.00
  117. 10:33:51 AM         2      0.00      0.00      0.50      0.00      0.00     99.50
  118. 10:33:51 AM         3      0.00      0.00      0.00      0.00      0.00    100.00
  119. 10:33:51 AM         4      1.50      0.00      2.00      0.00      0.00     96.50
  120. 10:33:51 AM         5      0.00      0.00      0.00      0.00      0.00    100.00
  121. 10:33:51 AM         6      3.02      0.00     14.07      0.00      0.00     82.91
  122. 10:33:51 AM         7      2.49      0.00      6.97      0.00      0.00     90.55

  123. Average:      cswch/s
  124. Average:      3445.70

  125. Average:          CPU     %user     %nice   %system   %iowait    %steal     %idle
  126. Average:          all      0.64      0.00      2.45      0.47      0.00     96.44
  127. Average:            0      1.05      0.00      1.70      1.10      0.00     96.15
  128. Average:            1      0.00      0.00      0.05      0.00      0.00     99.95
  129. Average:            2      0.10      0.00      4.45      0.00      0.00     95.45
  130. Average:            3      0.00      0.00      0.50      0.00      0.00     99.50
  131. Average:            4      0.85      0.00      1.50      2.25      0.00     95.40
  132. Average:            5      0.00      0.00      0.00      0.00      0.00    100.00
  133. Average:            6      1.40      0.00      7.20      0.40      0.00     91.00
  134. Average:            7      1.75      0.00      4.15      0.00      0.00     94.10
复制代码
这个是结果。。系统中断高
   

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
11 [报告]
发表于 2013-11-19 09:35 |只看该作者
回复 10# g361031315
我的机器可没这么多内存, 所以, 参数不太一样.

你可以看一下  CPU 6 上是什么中断 ? 看看是否可以调整一下.
或者看一下 sar -w 的结果.

   

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
10 [报告]
发表于 2013-11-16 12:10 |只看该作者
本帖最后由 g361031315 于 2013-11-16 14:42 编辑

回复 9# q1208c
系统:centos5.8
内核:2.6.18-308.el5   
网卡型号:82574L
用命令看是支持MSI-X的,不过只支持2个队列
http://wenku.baidu.com/link?url= ... kYfGU22m-U8Poh2Rjlu
这个链接里开头说不支持MSI-X,但是下面有图,可以看到是支持,并且queue是2
  1. [root@htuidc ~]# lspci -v|grep MSI-X
  2.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  3.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  4.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  5.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  6.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  7.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  8.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  9.         Capabilities: [80] MSI-X: Enable- Count=1 Masked-
  10.         Capabilities: [a0] MSI-X: Enable+ Count=5 Masked-
  11.         Capabilities: [a0] MSI-X: Enable+ Count=5 Masked-
  12.         Capabilities: [c0] MSI-X: Enable+ Count=15 Masked-     
  13. [root@htuidc ~]# cat /proc/interrupts |grep eth0
  14.            CPU0       CPU1       CPU2       CPU3       CPU4       CPU5       CPU6       CPU7
  15. 122:         84          0   29587853     178639          0          0   12421006     108644       PCI-MSI-X  eth0-rx-0
  16. 130:         32          0     332462   16121369          0          0     197259   73011496       PCI-MSI-X  eth0-tx-0
  17. 138:        612      12299          0         85          0          0          0          0       PCI-MSI-X  eth0
复制代码
  1. Cpu0  :  0.0%us,  0.0%sy,  0.0%ni,100.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
  2. Cpu1  :  0.3%us,  0.0%sy,  0.0%ni, 99.3%id,  0.0%wa,  0.0%hi,  0.3%si,  0.0%st
  3. Cpu2  :  0.7%us,  0.7%sy,  0.0%ni, 98.7%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
  4. Cpu3  :  0.3%us,  0.3%sy,  0.0%ni, 97.7%id,  1.3%wa,  0.0%hi,  0.3%si,  0.0%st
  5. Cpu4  :  0.3%us,  0.7%sy,  0.0%ni, 96.0%id,  3.0%wa,  0.0%hi,  0.0%si,  0.0%st
  6. Cpu5  :  0.7%us,  0.3%sy,  0.0%ni, 99.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st
  7. Cpu6  :  2.7%us,  3.7%sy,  0.0%ni, 68.8%id,  0.0%wa,  0.3%hi, 24.6%si,  0.0%st
  8. Cpu7  :  6.3%us,  4.7%sy,  0.0%ni, 85.7%id,  0.0%wa,  1.0%hi,  2.3%si,  0.0%st
复制代码
测试了多次,压力大的时候(2台机器一起给30000并发压力),每次都是Cpu6的软中断高,这就是没均衡把?但是最高也就30.9%si,没到100%。

tcp_mem你的这个是什么参数呢?
我这个是16G内存的机器

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
9 [报告]
发表于 2013-11-11 13:26 |只看该作者
回复 8# g361031315
tcp.mem 应该已经调整过了吧. 这个数字好象跟我的不是太一样.

分担网卡中断, 不是绑定, 是 多队列. 这需要网卡支持的.

论坛徽章:
3
CU大牛徽章
日期:2013-03-13 15:32:35CU大牛徽章
日期:2013-03-13 15:38:15CU大牛徽章
日期:2013-03-13 15:38:52
8 [报告]
发表于 2013-11-11 12:57 |只看该作者
回复 7# q1208c
目前,调整 webbench上的net.ipv4.tcp_syn_retries 这个能提高成功率。。
这个是 sysctl
  1. net.ipv4.ip_forward = 0
  2. net.ipv4.conf.default.rp_filter = 1
  3. net.ipv4.conf.default.accept_source_route = 0
  4. kernel.sysrq = 0
  5. kernel.core_uses_pid = 1
  6. net.ipv4.tcp_syncookies = 1
  7. kernel.msgmnb = 65536
  8. kernel.msgmax = 65536
  9. kernel.shmmax = 68719476736
  10. kernel.shmall = 4294967296
  11. net.ipv4.netfilter.nf_conntrack_max = 131072
  12. net.ipv4.tcp_max_tw_buckets = 25000
  13. net.ipv4.tcp_sack = 1
  14. net.ipv4.tcp_window_scaling = 1
  15. net.ipv4.tcp_rmem = 4096        87380   4194304
  16. net.ipv4.tcp_wmem = 4096        16384   4194304
  17. net.ipv4.tcp_max_syn_backlog = 200768
  18. net.core.netdev_max_backlog =  200768
  19. net.core.somaxconn = 200768
  20. net.core.wmem_default = 8388608
  21. net.core.rmem_default = 8388608
  22. net.core.rmem_max = 16777216
  23. net.core.wmem_max = 16777216
  24. net.ipv4.tcp_timestamps = 0
  25. net.ipv4.tcp_synack_retries = 2
  26. net.ipv4.tcp_syn_retries = 2
  27. net.ipv4.tcp_tw_recycle = 1
  28. net.ipv4.tcp_tw_reuse = 1
  29. net.ipv4.tcp_mem = 94500000 915000000 927000000
  30. net.ipv4.tcp_max_orphans = 200768
  31. net.ipv4.tcp_tw_recycle = 1
  32. net.ipv4.tcp_keepalive_time = 300
  33. net.ipv4.ip_local_port_range = 1024    65000
复制代码
我觉的没的调了。
分担一下网卡的中断是什么意思?多网卡绑定?
   
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP