NAT服务器出现dst cache overflow！双眼皮的猪 请进！

feinberg

新进一家公司，公司有2台NAT服务器，系统FC2，2.6.9的内核，平时都正常，但是每隔一段时间就出现异常，察看日至里面都是dst cache overflow，后来将ip_conntrack_max调大一倍，ip_conntrack_tcp_timeout_established的时间调成半天，可是效果还是不明显，有时还是会发生dst cache overflow的情况。请问有办法解决吗？谢谢！

[ 本帖最后由 feinberg 于 2006-3-31 14:01 编辑 ]

kenduest

1. 看看是否有啥特殊的 ip 大量連線。

cat /proc/net/ip_conntrack

那個檔案閱讀不方便，需要更好閱讀格式，請安裝 netstat-nat。

http://tweegy.demon.nl/projects/netstat-nat/

1. 
   
2. [root@nat ~]# netstat-nat  -n
   
3. Proto NATed Address                  Foreign Address                State
   
4. tcp   192.168.1.111:1035             207.46.6.116:1863              ESTABLISHED
   
5. tcp   192.168.1.111:2965             61.56.213.27:80                TIME_WAIT
   
6. tcp   192.168.1.111:2964             220.130.132.195:443            TIME_WAIT
   
7. tcp   192.168.1.111:2971             220.130.132.53:110             TIME_WAIT
   
8. tcp   192.168.1.129:1773             65.54.194.118:80               ESTABLISHED
   
9. tcp   192.168.1.129:1042             207.46.6.51:1863               ESTABLISHED
   
10. tcp   192.168.1.129:1055             211.78.161.178:80              ESTABLISHED
    
11. tcp   192.168.1.129:1774             65.54.194.118:80               ESTABLISHED
    

复制代码

2. 看一下 kernel 內 slab 相關資訊是否有滿載情況。

1. 
   
2. $ cat /proc/slabinfo |grep conntrack
   
3. 
   
4. ip_conntrack_expect      0      0     84   47    1 : tunables  120   60    0 : slabdata      0      0      0
   
5. ip_conntrack          40    160    248   16    1 : tunables  120   60    0 : slabdata     10     10      0
   

复制代码

1. 
   
2. $ cat /proc/slabinfo | grep ip_dst_cache
   
3. [root@lc168 ~]# cat /proc/slabinfo | grep ip_dst_cache
   
4. ip_dst_cache         222    390    256   15    1 : tunables  120   60    0 : slabdata     26     26      0
   

复制代码

3. 另外使用 slabtop 程式觀察一下 cache 量。一般畫面為:

1. 
   
2. Active / Total Objects (% used)    : 457888 / 479487 (95.5%)
   
3. Active / Total Slabs (% used)      : 8868 / 8891 (99.7%)
   
4. Active / Total Caches (% used)     : 82 / 123 (66.7%)
   
5. Active / Total Size (% used)       : 32196.01K / 34882.93K (92.3%)
   
6. Minimum / Average / Maximum Object : 0.01K / 0.07K / 128.00K
   
7. 
   
8.   OBJS ACTIVE  USE OBJ SIZE  SLABS OBJ/SLAB CACHE SIZE NAME
   
9. 366346 366222  99%    0.02K   1621      226      6484K fasync_cache
   
10. 33611  29188  86%    0.13K   1159       29      4636K dentry_cache
    
11. 29856  29151  97%    0.48K   3732        8     14928K ext3_inode_cache
    
12. 13800   6581  47%    0.05K    184       75       736K buffer_head
    

复制代码

4. 看一下 /proc/sys/net/ipv4/route/max_size 內容配置。

1. cat /proc/sys/net/ipv4/route/max_size

复制代码

==

feinberg

目前nat服务器正常的情况下
1、

1. # cat /proc/net/ip_conntrack | wc -l
   
2. 33004

复制代码

确实看到一些机器中病毒在发包

1. # cat /proc/sys/net/ipv4/ip_conntrack_max
   
2. 65528

复制代码

2、

1. # cat /proc/slabinfo |grep conntrack
   
2. ip_conntrack_expect     41    248    128   31    1 : tunables  120   60    0 : slabdata      8      8      0
   
3. ip_conntrack       34204  63590    384   10    1 : tunables   54   27    0 : slabdata   6359   6359      0

复制代码

1. # cat /proc/slabinfo | grep ip_dst_cache
   
2. ip_dst_cache      100110 100200    256   15    1 : tunables  120   60    0 : slabdata   6680   6680      0

复制代码

3、

1. # slaptop
   
2. 100245  99600  99%    0.25K   6683       15     26732K ip_dst_cache

复制代码

4、

1. # cat /proc/sys/net/ipv4/route/max_size
   
2. 131072

复制代码

feinberg

双眼皮的猪 看到你的帖子
http://bbs.chinaunix.net/viewthread.php?tid=450710&highlight=slabinfo 你说是intel提供的网卡驱动的问题，我目前用的驱动

1. cat /etc/modprobe.conf
   
2. alias eth0 bcm5700
   
3. alias eth1 bcm5700
   
4. alias eth2 e1000
   
5. alias eth3 e1000

复制代码

e1000的驱动是intel提供的吗？

kenduest

看起来满了。

另外你的 ram 多少？

==

feinberg

CPU:AMD Opteron(tm) Processor 140
内存1G

cwmould

如果你的网络里有很多用户大量发包，比如震荡波、冲击波之类，如果你只在linux网关进行限制，那对LINUX要求太高了，毕竟他只是网关，应该想法在交换机机利用ACL过滤掉这些包，毕竟那些是硬件实现的