免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 4193 | 回复: 4
打印 上一主题 下一主题

gfarm文件系统配置 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2007-11-22 14:27 |只看该作者 |倒序浏览
目  录
1        GFARM系统介绍       
2        基础环境配置       
2.1        服务器角色列表       
2.2        基础环境各组成部分的版本列表,以及安装目录       
2.3        详细安装及设置       
2.3.1        CentOS-4.4-i386-binDVD.iso安装       
2.3.1.1        分区规划       
2.3.1.2        禁只root直接登陆       
2.3.1.3        修改各服务器hosts文件       
2.3.1.4        修改运行级别为3       
2.3.1.5        禁用selinux       
2.3.1.6        设置服务,只保留以下服务       
2.3.1.7        设置系统语言环境       
2.3.1.8        检查时区与时间是否正确设置       
2.3.1.9        用户iptables策略       
2.3.1.10        重启服务器,查看上述设置是否生效       
2.3.2        Jdk安装       
2.3.3        Ant安装       
2.3.4        Postgresql安装       
2.3.5        globus安装       
2.3.6        mpi安装       
2.3.7        openssl安装       
2.3.8        openldap安装       
2.3.9        gfarm 安装       
2.3.10        glibu-not-hidden安装       
3        Gfarm metadata server配置       
4        Gfarm metadata cache servers配置       
5        Gfarm filesystem node配置       
6        Gfarm client node配置       
7        检证配置是合正确       
8        更先进的功能举例       







1        GFARM系统介绍
Gfarm 是一个并行的,分步式文件系统,只是一种虚拟的文件系统.
详细参考 http://datafarm.apgrid.org/document/#whats
2        基础环境配置
2.1        服务器角色列表
   服务器IP地址及主机名        承载应用                  操作系统                基础软件环境
172.20.20.161/metadata  Gfarm metadata server  centos Jdk, ant, postgresql, globus, MPI ,penssl, openldap, gfarm,
                                                                                           glibc-not-hidden
172.20.20.152/cache  Gfarm metadata cache servers centos Jdk, ant, postgresql, globus, MPI ,penssl, openldap, garrm,
glibc-not-hidden
172.20.20.224/file            Gfarm filesystem node         centos        Jdk, ant, postgresql, globus, MPI ,penssl, openldap, gfarm,
glibc-not-hidden
172.20.21.29/client            Gfarm client node                        centos        Jdk, ant, postgresql, globus, MPI ,penssl, openldap, gfarm,
glibc-not-hidden
2.2        基础环境各组成部分的版本列表,以及安装目录
名称           版本号                                       软件包名称                              安装路径
centos           CentOS-4.4-i386-binDVD.iso        CentOS-4.4-i386-binDVD.iso       
jdk           jdk-1_5_0_10                        jdk-1_5_0_10-linux-i586-rpm.bin        /usr/local/
ant           apache-ant-1.7.0                        apache-ant-1.7.0-bin.tar.bz2                        /usr/local
postgresql   postgresql-8.2.5                        postgresql-8.2.5.tar.bz2                        /usr/local/pgsql
globus            gt4.0.5                                       gt4.0.5-x86_rhas_4-installer.tar.gz        /usr/local/globus
mpi            mpich2-1.0.6p1                        mpich2-1.0.6p1.tar.gz                        /usr/local/mpi
openssl            openssl-0.9.8g                        openssl-0.9.8g.tar.gz                        /usr/local/openssl
openldap            openldap-stable-20070831        openldap-stable-20070831.tgz        /usr/local/openldap
gfarm            gfarm-1.4.1                        gfarm-1.4.1.tar.gz                                        /usr/local/gfarm
glibc-not-hidden        glibc-not-hidden-2.3.4-2.25        glibc-not-hidden-2.3.4-2.25.i686.rpm       
2.3         详细安装及设置
2.3.1         CentOS-4.4-i386-binDVD.iso安装
2.3.1.1         分区规划
/boot    100M
/                  5G
/usr          10G
/var          10G
/tmp          2G
swap          4G
2.3.1.2         禁只root直接登陆
vi /etc/ssh/sshd_config
加入:
PermitRootLogin no
UseDNS no
执行:
service sshd restart
2.3.1.3         修改各服务器hosts文件
# vi /etc/hosts
127.0.0.1               localhost.localdomain localhost
172.20.20.161           metadata
172.20.20.152           cache
172.20.20.224           file
172.20.21.29            client
2.3.1.4         修改运行级别为3
vi /etc/inittab,修改如下:
id:3:initdefault:
2.3.1.5         禁用selinux
编辑/etc/selinux/config 并更改设置为 SELINUX=disabled
2.3.1.6         设置服务,只保留以下服务
sysstat
kudzu
cpuspeed
arptables_jf
iptables
network
syslog
irqbalance
portmap
netfs
smartd
snmpd
acpid
sshd
rawdevices
xinetd
crond
nscd
2.3.1.7        设置系统语言环境
vi /etc/sysconfig/i18n
LANG="zh_CN.GBK"
SUPPORTED="zh_CN.GBK:zh:zh_CN.GB2312:zh:zh_CN.UTF-8:zh_CN:zh:en_US.UTF-8:en_US:en"
SYSFONT="latarcyrheb-sun16"
2.3.1.8        检查时区与时间是否正确设置
执行cat /etc/sysconfig/clock看是否有以下3行显示,如果不是的话则需要做下面的修改步骤(或者执行timeconfig)
ZONE="Asia/Shanghai"
UTC=false
ARC=false
修改步骤:
#mv /etc/localtime /etc/localtime.bak
# ln -sf /usr/share/zoneinfo/Asia/Shanghai  /etc/localtime
将时区文件(/etc/sysconfig/clock)更改为以下内容:
ZONE=Asia/Shanghai
UTC=false
ARC=false
2.3.1.9        用户iptables策略
(以后再继)
2.3.1.10        重启服务器,查看上述设置是否生效
2.3.2        Jdk安装
# mv /usr/bin/java /usr/bin/java_bak
# mv /usr/bin/javac /usr/bin/javac_bak
# chmod 700 jdk-1_5_0_10-linux-i586-rpm.bin
# ./jdk-1_5_0_10-linux-i586-rpm.bin
# vi /etc/profile (以下为添加的内容)
JAVA_HOME=/usr/java/jdk1.5.0_10
CLASSPATH=$JAVA_HOME/jre/lib/tools.jar:$JAVA_HOME/jre/lib/rt.jar
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$JAVA_HOME/jre/bin
export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE INPUTRC JAVA_HOME CLASSPATH
# su –
# java –version (查看java安装是否正常)
2.3.3        Ant安装
# tar jxvf apache-ant-1.7.0-bin.tar.bz2
# vi /etc/profile (红色部分为新增内容)
ANT_HOME=/usr/local/apache-ant-1.7.0
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$ANT_HOME/bin
export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE INPUTRC JAVA_HOME CLASSPATH ANT_HOME
# su –
# ant –version (查看ant是否正常运行)
2.3.4        Postgresql安装
# yum remove posgresql
# useradd postgres
# mkdir /usr/local/pgsql
# chown -R postgres:postgres /usr/local/pgsql/
# mkdir /usr/local/src/pgsql
# chown -R postgres:postgres /usr/local/src/pgsql/
# su – postgres
$ cd /usr/local/src/pgsql
$ tar jxvf postgresql-8.2.5.tar.bz2
$ cd postgresql-8.2.5
$ ./configure --prefix=/usr/local/pgsql/
$ gmake
$ gmake install
$ vi /home/postgres/.bashrc (增加以下内容)
PATH=$PATH:/usr/local/pgsql/bin
export POSTGRES_HOME=/usr/local/pgsql
export PGLIB=$POSTGRES_HOME/lib
export PGDATA=$POSTGRES_HOME/data
export ANPATH=$MANPTH:$POSTGRES_HOME/man
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$PGLIB
$ su – root
# vi /etc/profile
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$ANT_HOME/bin:/usr/local/pgsql/bin
2.3.5        globus安装
# useradd globus
# mkdir /usr/local/globus
# chown -R globus:globus /usr/local/globus/
# vi /home/globus/.bashrc(新增)
export GLOBUS_LOCATION=/usr/local/globus
# su – globus
$ tar zxvf gt4.0.5-x86_rhas_4-installer.tar.gz
$ cd gt4.0.5-x86_rhas_4-installer
$ ./configure --prefix=$GLOBUS_LOCATION
$ make
$ make install
2.3.6        mpi安装
#  mv /usr/bin/mpicc /usr/bin/mpicc_bak
# tar zxvf mpich2-1.0.6p1.tar.gz
# cd mpich2-1.0.6p1
# mkdir /usr/local/mpi
# ./configure --prefix=/usr/local/mpi/
# make
# make install
2.3.7        openssl安装
# mkdir /usr/local/openssl
# mkdir /usr/local/openssldir
# tar zxvf openssl-0.9.8g.tar.gz
# cd openssl-0.9.8g
# ./config --prefix=/usr/local/openssl/ --openssldir=/usr/local/openssldir/
# make
# make test
# make install
2.3.8        openldap安装
# mkdir /usr/local/openldap
# tar zxvf openldap-stable-20070831.tgz
# cd openldap-2.3.38/
# ./configure --prefix=/usr/local/openldap/ --enable-slapd -enable-cleartext --enable-slapi --enable-sl --enable-wrappers --enable-modules --enable-crypt  --enable-lmpasswd --enable-backends --enable-bdb  --enable-ldap  --enable-ldbm  --enable-monitor --enable-passwd  --enable-perl  --enable-shell --enable-sql  --enable-accesslog --enable-slurpd  --enable-static --enable-shared --enable-fast-install --disable-dependency-tracking
# make depend
# make
# make test
# make install
2.3.9        gfarm 安装
# mkdir /usr/local/gfarm
# tar zxvf gfarm-1.4.1.tar.gz
# cd gfarm-1.4.1
# ./configure --sysconfdir=/etc --prefix=/usr/local/gfarm/ --with-gfshook --with-mpi=/usr/local/mpi/ -with-openssl=/usr/local/openssl/ --with-postgresql=/usr/local/pgsql/ --with-openldap=/usr/local/openldap/
# make
# su
# make install
# vi /etc/profile
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$ANT_HOME/bin:/usr/local/gfarm/bin:/usr/local/gfarm/sbin
# su –
2.3.10        glibu-not-hidden安装
# rpm –Uhv glibc-not-hidden-2.3.4-2.25.i686.rpm
3        Gfarm metadata server配置
# gfkey –c
# scp /root/.gfarm_shared_key cache:/root/
# scp /root/.gfarm_shared_key file:/root/
# scp /root/.gfarm_shared_key client:/root/
# config-gfarm
# chown –R postgres:postgres /var/gfarm-pgsql
# chmod 700 /var/gfarm-pgsql
# su – postgres
$ initdb -D /var/gfarm-pgsql
$ pg_ctl -D /var/gfarm-pgsql -l logfile2 restart
4        Gfarm metadata cache servers配置
# scp metadata:/etc/gfarm.conf /etc/
# config-agent
5        Gfarm filesystem node配置
# scp cache:/etc/gfarm.conf /etc/
# config-gfsd
# chmod 1777 /var/gfarm-spool
6        Gfarm client node配置
# scp metadata:/etc/gfarm.conf /etc/
# gfmkdir gfarm:~
# gfmkdir root:~
# vi /root/.bashrc(新增以下内容)
LD_PRELOAD='/usr/local/gfarm/lib/libgfs_hook.so.0 /usr/lib/gfarm/librt-not-hidden.so /usr/lib/gfarm/libpthread-not-hidden.so /usr/lib/gfarm/libc-not-hidden.so'
export LD_PRELOAD
# su –
7        检证配置是合正确
# gfls –la
drwxr-xr-x root     *                 0 Nov 22 11:46 .
drwxrwxrwx root     gfarm             0 Jan  1  1970 ..
drwxr-xr-x root     *                 0 Nov 22 11:46 root:~
# gfhost –M
i386-centos4.4-linux 1 file
# gfhost –l
0.00/0.00/0.00 s i386-centos4.4-linux 1 file(172.20.20.224)
# gfps(此命令运行完成后如果没有任何显示则配置没有问题)
(以上几个命令分别在所有服务器运行)
# ls -l /gfarm(此命令只在Gfarm client node运行)
total 0
drwxr-xr-x  32000 root root 0 Nov 22 11:46 root
# bash
# cd /gfarm/~
# ls -la
# pwd
# vi test
This is a test
# cd /var/gfarm-spool/root/(此命令在Gfarm filesystem node运行)
# ls(此命令在Gfarm filesystem node运行)
test:0
# more test\:0(此命令在Gfarm filesystem node运行)
This is a test
(至此配置成功)
8        更先进的功能举例
(待续)

[ 本帖最后由 zdszdszds 于 2007-11-23 14:40 编辑 ]

gfarm配置手册.rar

19.56 KB, 下载次数: 140

论坛徽章:
0
2 [报告]
发表于 2007-11-22 21:27 |只看该作者
但是原创么? 我修改了一下你的帖子,没有修改内容,把笑脸符号去掉了.

论坛徽章:
0
3 [报告]
发表于 2007-11-22 21:38 |只看该作者
噢,谢谢NNTP,刚刚研究这个文件系统,不知道性能怎么样,还在研究中.安装配置文档帖出来供大家共享一下

论坛徽章:
0
4 [报告]
发表于 2007-11-22 21:52 |只看该作者
晕死在word里排好版了,到这里就乱了

论坛徽章:
0
5 [报告]
发表于 2008-04-24 12:27 |只看该作者
性能
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP