Squid+MRTG实现完善的缓存代理和http服务加速代理

Mirolers

作者：紫天星
时间：2002-9-25
来源：www.hackerabc.com

Squid是一种源代码开放的高性能代理缓存服务器。它可支持FTP，gopher和Http数据对象的代理。另外，Squid也支持SSL，多样化访问控制和代理请求的完整日志功能。通过轻量级的网际缓存协议，Squid以网状或层次的方式分配内存，这样能节省额外的带宽。提供Http服务加速代理，Web服务器把Http数据推到Squid缓存中，外界的请求访问可以通过缓存提取所需数据，实现Web服务器的动态镜像。
另外，为了实现对Squid服务器的监控，采用MRTG。MRTG　是　Multi Router Traffic Grapher 的缩写，它主要的用途是监测网络服务设备的流量，并生成包括图片的HTML文件，可以直观的显示网络服务的流量，以提供Squid缓存服务的监测。
通过Squid+MRTG可以配置一个完善的代理服务提供方案。下面为具体配置步骤：
一．基础准备
Squid下载地址：http://www.squid-cache.org
版本：squid-2.4.STABLE4-src.tar.gz
MRTG下载地址：http://people.ee.ethz.ch/~oetiker/webtools/mrtg/pub/
版本：mrtg-2.9.22.tar.gz
机器配置为：256M内存，9G硬盘（其中4G分区专用缓存目录），PII433。

二．安装步骤
解压Squid(一般做法，把软件包括在/opt目录下)
#tar zxvf squid-2.4.STABLE4-src.tar.gz
#cd squid
//进行编译
#./configure --prefix=/usr/local/squid --enable-delay-pools --enable-snmp --enable-cache-digests --enable-auth-modules=”NCSA”
#make all
#make install
*对编译项目的解释：
--prefix 为编译Squid所存放的目录，这里为/usr/local/squid
--enable-delay-pools 此选项使能一个延时池，这样能对某些特定的请求限制额定带宽。
--enable-snmp 此选项可以让MRTG使用SNMP协议对服务器的流量状态进行监测，因此必须选择此项，使Squid支持SNMP接口。
--enable-cache-digests 使能缓存摘要，本来此项目的是为了在Squid集群服务之间迅速发现缓存对象，这里在本地使用，可以加快请求时，检索缓存内容的速度。
--enable-auth-modules 此编译选项启用认证模块，可以对访问代理用户进行授权。

安装MRTG
#tar zxvf mrtg-2.9.22.tar.gz
#cd mrtg*
#./configure --prefix=/usr/local/mrtg-2
#make
#make install
/* 几点说明：
1．MRTG大部分程序是用Perl脚本写成，需要Perl版本为5.005以上才能运行，RH 7.2带有perl版本为v5.6.0，非常满足要求。（如果版本不够，请到www.perl.com下载安装。）
2．MRTG需要zlib，gd和libpng三个处理图形的库支持，RH7.2满足此要求。（如果没有安装，请到http://www.boutell.com/gd/ http://www.libpng.org/pub/png/src/ http://www.gzip.org/zlib 下载安装）

三．具体配置
lSquid配置(仅对必要选项配置并说明)：
http_port 80
此选项用于Squid代理所侦听的端口，由于要实现Http加速代理，则侦听端口80
tcp_outgoing_address 255.255.255.255
此句法指定了远程服务器的IP地址，这里我们使用255.255.255.255来指定为所有地址
tcp_incoming_address
这里可以使用http_port语法进行绑定端口和IP地址。表示客户端的请求。可以不使用。
cache_mem 64 MB
由于Squid在读写磁盘，I/O通道，数据转贮等需要大量内存，我们可以把内存值稍微设置大一些，这样可以提供服务器性能。

cache_swap_low 95
这用做表示缓存内部对象的替换的衡量基线。当交换分区的磁盘利用率超越这个基线，那么缓存对象替换也就随之开始。这里是用百分率做衡量标准。

cache_swap_high 98
此标记用于缓存对象替换的最高程度，当交换分区磁盘利用率接近此设置，则表示对象的更新程度更为剧烈。这里由于我的缓存区设置比较大，因此设置为98%。

下面几个配置标记采用系统默认配置。
{ maximum_object_size 4096 KB
{ 超过此尺寸的对象将不缓存。
{ minimum_object_size 0 KB
{ 小于此尺寸的对象将不缓存。
{ maximum_object_size_in_memory 8 KB
{ 内存中能缓存的最大对象尺寸。
{ ipcache_size 1024
{ 指定IP缓存大小。
{ ipcache_low 90
{ 缓存IP地址的最低基线。
{ ipcache_high 95
{ 缓存IP地址的最高极限。
{ fqdncache_size 1024
{ 缓存DNS全域名解析的尺寸。

cache_replacement_policy lru
此标记用于当缓存新对象时，使用缓存策略来清除缓存中特定对象。这里使用lru表示：它只替换长时间没有被访问过的对象。其他策略请参看配置文档介绍。

memory_replacement_policy lru
此用法同上，区别在于替换内存对象。

cache_dir ufs /cache 4000 16 256
设置缓存根目录为/cache，类型为ufs，缓存区大小为4G，可以有16个二级子目录，每有二级目录有256个三级子目录。

cache_access_log /var/log/squid/access.log
cache_log /var/log/squid/cache.log
cache_store_log /var/log/squid/store.log
cache_swap_log /var/log/squid/swap.log
上面几项是缓存日志记录的路径和文件名。

log_ip_on_direct on
记录客户端主机的IP地址。

log_fqdn on
记录全DNS域名解析。

mime_table /usr/local/squid/etc/mime.conf
Squid所用mime的文件路径

pid_filename /usr/local/squid/logs/squid.pid
Squid进程ID的文件。

ftp_user Squid@ynst.net.cn
这里可以使用匿名登陆FTP服务器。

ftp_list_width 32
FTP文件列表长度，超过长度则截断文件名。
ftp_passive on
允许主动连接FTP服务器。

dns_nameservers 202.98.187.1
指定代理的域名解析服务器。

authenticate_program  /usr/local/squid/bin/ncsa_auth
/usr/local/squid/etc/passwd
代理认证程序，这里在/usr/local/squid/etc使用htpasswd产生一个密码文件，具体方法如下：
#htpasswd –cdb passwd auth_usr1 pass1
#htpasswd –db passwd auth_usr2 pass2
#htpasswd –db passwd auth_usr3 pass3
创建passwd文件，并添加auth_usr1，auth_usr2，auth_usr3三个认证用户。

authenticate_children 5
所需要要产生的认证进程数。

authenticate_ttl 3600
此标记设置认证保持时间。

authenticate_ip_ttl 1800
此标记设置认证绑定IP地址的时间长度。

authenticate_ip_ttl_is_strict on
此标记可在authenticate_ttl时间内，拒绝其他非认证IP地址访问。

request_header_max_size 10 KB
request_body_max_size 1 MB
设置了Http请求的包头和数据大小。

request_body_max_size 0
这里，请求所返回的数据大小为0，意义为没有任何限制。

connect_timeout 180 seconds
read_timeout 15 minutes
request_timeout 20 seconds
上面几项是代理服务几个超时设置，这里使用配置文件默认值。

下面是访问控制列表一些配置，这里对访问的IP地址，域名，访问类型极其访问代理的权限做的限制：
acl acldomain dstdomain .ynst.net.cn
acl acceleratedport port 80
acl acceleratedhost dst 202.98.187.17/255.255.255.255
acl aclprotocol proto HTTP FTP
acl aclmethod method GET POST

acl aclauth proxy_auth required  
（注：这里使用required表示任何passwd文件中存在的合法用户才授予访问权限。）

acl aclsnmp snmp_community secrect
MRTG可以使用snmp协议检测此代理服务运行状态。

acl aclconn maxconn 20
可并行连接的最大数量。

启用定义的访问控制列表
http_access allow manager localhost
http_access deny manager
http_access allow aclauth
http_access allow acceleratedport acceleratedhost
http_access deny all

下面为缓存管理设置
cache_mgr admin@ynst.net.cn
设置缓存管理者的接受邮件地址。

cache_effective_user squidusr
cache_effective_group squidgrp
设置执行Squid的用户和用户组。
{注：设置用户和用户组及其权限修改方法如下：
#groupadd squidgrp
#useradd –g squidgrp –d /home/squidusr squidusr
修改log日志权限属性，使squidusr有写权限。
#chown squidusr /var/log/squid
#chgrp squidgrp /var/log/squid
#chown squidusr /var/log/squid/*.log
#chown squidgrp /var/log/squid/*.log
}

下面配置Http服务加速代理
httpd_accel_host 202.98.187.17
httpd_accel_port 80
httpd_accel_with_proxy on
(注：如果配置代理和加速服务，必须httpd_accel_with_proxy选项打开。如果需要配置多个加速，可以使用虚拟的概念。)

snmp_port 3401
此标记设置snmp_port端口为3401，可以使MRTG监测服务运行状态。

snmp_access allow aclsnmp localhost
snmp_access deny all
snmp_incoming_address 0.0.0.0
snmp_outgoing_address 0.0.0.0

以上选项用于配置和MRTG交互信息的Snmp设置。

digest_generation on
digest_rebuild period 1 hour
digest_rewrite_period 1 hour
digest_swapout_chunk_size 4096 bytes
digest_rebuild_chunk_percentage 10
产生缓存摘要，并设置摘要重构所需要的时间及其相关设置，这里采用系统默认设置。缓存摘要使的庞大的缓存内容形成一个微型检索，提高代理性能。

最后我们进行延迟队列池进行配置
延迟队列池可以基于一定规则对特定请求数据的进行限制，这样可以防止恶意用户发送非正规数据串攻击服务器。
以下选项只在必要处进行说明，配置如下：
delay_pools 1   #定义一个池
delay_class 1 1  #池为1类型
delay_access 1 allow all #允许类型1的所有请求访问
delay_parameters 1 128000/128000  #限制访问的128k/s
delay_initial_bucket_level 50 #Squid启动时，初始化池所用的带宽数量。
   
运行Squid代理服务：
#squid –z  /*创建Squid所使用的缓存目录结构
如果想在前台运行
#squid –NCdl
如果想在后台运行
#squid
检查Squid是否运行
#squid –k check




lMRTG配置：
首先测试SNMP服务是否启动：
#snmpwalk -p 3401 hostname communitystring .1.3.6.1.4.1.3495.1.1
如果看到如下输出：
enterprises.nlanr.squid.cacheSystem.cacheSysVMsize = 7970816
       enterprises.nlanr.squid.cacheSystem.cacheSysStorage = 2796142
       enterprises.nlanr.squid.cacheSystem.cacheUptime = Timeticks: (766299) 2:07:42.99
  则说明SNMP正常工作。
  按照mrtg.hdl.com的文档，使用cfgmaker和indexmaker就可以生成MRTG所需要的Web发布文件。使用cfgmaker可以创建配置MRTG所需要的配置文件，而Indexmaker则是检索MRTG生成的Web文件，制作一个Index.html。这里，我提供一种更为简洁的办法：
（感谢Chris提供的mrtg-squid.cfg文件和index.html，可到http://www.psychofx.com/chris/unix/mrtg/ 下载这两个文件。）
修改mrtg-squid.cfg文件选项如下：
修改 WorkDir 和 LoadMIBs 路径设置
修改所有出现在文件中的"hostname" 为你实际服务器名字
修改所有 "chris"字段为你需要的名字和地址
修改community 字串属性
这里配置如下：
WorkDir: /home/www/mrtg/squid
LoadMIBs: /usr/local/squid/etc/mib.txt
所有public@hostname修改secrect@proxysvr

创建/home/www/mrtg/squid这样一个目录。
#mkdir /home/www/mrtg/squid
#cd /home/www/mrtg/squid
#cp /opt/mrtg-squid.cfg .
#mrtg mrtg-squid.cfg
#cp /opt/index.html .

修改/etc/httpd/conf/httpd.conf如下几个选项
Listen 8000
Port 8000
Documentroot /home/www/mrtg/squid

由于mrtg读取文件需要资源，因为合理设置读取间隔,这里我设置为5分钟：
crontab –e
*/5 * * * * /usr/local/mrtg-2/bin/mrtg /home/www/mrtg/squid/mrtg-squid.cfg

这样，我们就建立了一个完善的代理加速访问服务器，通过mrtg的强大监控，可以统计服务器运行时设备运行状态。由于以上软件遵从GNU，因此一种强大而有经济的建站手段。通过认证控制，允许特定用户使用代理服务。而Web加速服务器则成为服务器镜像的方便手段。

不存在的妖精

请问使用squid+mysql的外部认证实现，谁有相关经验？