在线等，服务器网络异常

chenyx

现在的机器,网卡基本都是集成的,换网卡意味着换主板

晶都小帅

感谢各位大神出手相救，问题已经解决。
当天发帖我还在外面旅游，突然服务器宕掉，用手机发的帖，所以信息不全。
我们用的服务器是dell R710，用rhel5.4 做的DB29.7RHCS集群，服务器运行近一个月。
现象就是网络中断的前两天已经有个别系统出现网路慢得现象，后来7月13日下班后突然网路中断，重启networ就OK了，后来又中断，再后来就来发帖了

废话多了点

不过故障点被各位大神说中了，就是网卡驱动的问题，
具体信息我后来又打电话给dell了，具体如下：
【参考故障现象】

Broadcom的网卡，当使用了默认的网卡驱动，并且运行在高I/O的情况下出现网卡异常DOWN掉的情况，导致业务异常中断。

【故障原因】

  Broadcom网卡采用PCI-MSI-X 的多CPU中断模式，如果没有开启irqbalance 的话问题是不会显示出来的。
  一旦打开了irqbalance ，默认是开启。恰好你又使用了默认的驱动版本，那么会发现这个问题就会显现出来。
更新最新的驱动版本后，网卡采用了PCI-MSI 的中断方法。而且可以正常打开irqbalance 使系统进行均匀的调度。
  我们可以使用的是更新到最新的驱动来解决这个问题和irqbalance 并行的问题.

Linux中对网卡中断方式的选择;
By default, the driver enables MSI if it is supported by the kernel. It runs an interrupt test during initialization to determine if MSI is working. If the test passes, the driver enables MSI. Otherwise, it uses legacy INTx mode.
使用默认网卡驱动：



使用最新网卡驱动：



MSI中断方式和MSI-X中断方式的区别:

MSI Version. This is the Message Signaled Interrupts (MSI) version being used. The option MSI corresponds to the PCI 2.2 specification that supports 32 messages and a single MSI address value. The option MSI-X corresponds to the PCI 3.0 specification that supports 2,048 messages and an independent message address for each message

【解决方案】

  升级最新的网卡驱动和固件。推荐使用DELL官方网卡的网卡驱动。

1. LINUX ,Centos 环境：

如果网卡版本低于：2.0.8  都需要更新到最新版本：

Linux ,Centos 5.4  默认网卡驱动1.9.3

Linux ,Centos 5.5 默认网卡驱动 2.0.2

Release Notes
                        Broadcom bnx2 Linux Driver
                             Version 2.0.8e
                                04/13/2010

                          Broadcom Corporation
                         5300 California Avenue,
                            Irvine, CA 92617

               Copyright (c) 2004 - 2010 Broadcom Corporation
                           All rights reserved

bnx2 v2.0.8e (April 13, 2010) cnic 1.9.13b (Dec 16, 2009)
=========================================================
   Fixes
   -----
   1. Problem: (RHBZ 51136 Driver loses one MSI-X vector after many hours
               of traffic.

      Cause: Chip timing out on write cycle to the MSI-X mask bit, causing
             the unmask operation to be dropped.

      Change: Increase GRC timeout in register 0x8cc.

      Impact: bnx2x MSI-X mode.

   2. Problem: (RHBZ 554706) scheduling while atomic warning when bonding and
               VLANs are used with cnic loaded.

      Cause: bond_del_vlans_from_slave() holds bond->lock when calling
             ndo_vlan_rx_register().  bnx2 calls bnx2_netif_stop() to
             stop the rx handling while changing the vlgrp.  The call
             also calls bnx2_cnic_stop() which has many sleeping functions.

      Change: Do not stop cnic when VLANs are changed.  Since there is no
              reset during VLAN change, there is no need to stop cnic.

      Impact: VLAN and iSCSI.
=========================================================


LINUX环境；最新网驱动版本：2.0.23b    Broadcom网卡最新固件版本：6.4.5



新版网卡驱动下载地址：

ftp://ftp.us.dell.com/network/Bc ... x_Source_A01.tar.gz

驱动安装方法参考 readme

新版网卡固件下载地址：

http://supportapj.dell.com/suppo ... 1&fileid=484491

或

ftp://ftp.us.dell.com/network/NETW_FRMW_LX_R319248.BIN


发布日期        2011/11/2
版本：        6.4.5, A11


附上：17版本的驱动
http://www.dell.com/support/driv ... p;fileId=2961022662

chenyx

楼主问题解决发布解决过程,分享知识,赞一个.