ZZ：浅谈在VMWare环境下Solaris + VxVM + VCS 的NFS双机服务安装测试过程

seegmar

昨天终于把虚拟机vmware下的solaris 10 x86 + vxvm + vcs 双机给安装起来了，还测试了一把NFS failover服务！折腾到半夜1点多，
总结的教训就是没细看随软件包文档，走了一些弯路，特别是配置NFS 服务组的时候，online 资源发现一些问题，
现在都已经完美解决了！废话少说，把整个过程总结如下。
一、硬件环境配置
1). 笔记本, AMD Turion 64 CPU, 3G内存，至少留20G空间安装solaris x86 虚拟机.
二、软件版本
1). VMWare workstation 6.5 for windows ---->网上可下载
2). solaris 10 x86 u6 版本 --->SUN网站下载
3). Veritas Storage Foundation HA 5.0 for solaris x86-64. 软件包包含了VCS和VxVM. ---> Symantec 网站可以下载试用版。
   需要另外具备vcs和vxvm liense key.
三、最终安装结果
1). 虚拟出共享阵列/磁盘，并让VxVM控制管理，在DG上划出一个Volume，作为VCS双机下NFS双机共享目录，实现Failover 机制。
四、安装与配置过程
1 前提条件：
1). 如果机器CPU不是支持64位的，Veritas套件肯定是无法安装起来的，我在symantec网站查阅过版本信息，目前还没有支持x86 32位
的版本，如果您机器不是64位的，请立刻放弃这个想法，所有的后续安装都是徒劳无功的。
2). 具备第一条件后，还需要vcs和vxvm的license，没license就没得用，不一定要正式的，demo的也行。
2 安装Solaris系统，配置共享磁盘
按照常规步骤安装Solaris，一共装2个做双机。一个个安装，复制的方式大概也行，我没试过，很多人说不能用，
也许引起了冲突。所以安装solaris别怕麻烦，耐心地安装出2个系统。
2个系统都装完后参考以下配置，没列出的基本是默认，不指明了。简称A，B机
1) 增加网卡
   A,B机配置
    分别有4个虚拟网卡，全部Custom模式，选择一个虚拟网络，配置成host-only.
2) 创建虚拟共享磁盘/阵列
   A，B系统全部停掉，在A系统上增加若干个磁盘，比如我增加了9个，挺爽！
   最好都选scsi接口，并分配空间。然后在B系统上导入这些增加的磁盘，参数都选默认。
   接下来要修改虚拟系统的参数，首先退出vmware，进入到A,B系统的存放目录，打开后缀名为 .vmx文件，
   修改配置如下, 下面的配置只挑其中一个说明，另外一个参考此文件很容易改了。
   
说明：虚线内的内容复制到vmx文件
----------------
disk.locking = "FALSE"
diskLib.dataCacheMaxSize = "0"
----------------
scsi0.sharedBus = "virtual"
scsi0:1.present = "TRUE"
scsi0:1.fileName = "D:\shared_disks\coordinator01.vmdk"
说明：虚线内的内容复制到vmx文件
------------------------------
scsi0:1.mode = "persistent"
scsi0:1.shared = "TRUE"
scsi0:1.redo = ""
------------------------------
  第二处增加的内容要针对增加的scsi硬盘的挂载位置做相应修改。比如你增加的硬盘内容如下
  
  scsi1:3.present = "TRUE"
  scsi1:3.fileName = "D:\shared_disks\coordinator01.vmdk"
  
  那么就增加下面的三行
  scsi1:3.mode = "persistent"
  scsi1:3.shared = "TRUE"
  scsi1:3.redo = ""
全部修改完成后，这些增加的虚拟硬盘就是作为共享阵列了！还弄不明白的，请搜索一下vmware相关资料。
启动solaris系统，vmware会报什么cluster功能不支持的错误，别管它，照样玩的通！
3.安装VxVM
最省时间的方法就是一次对A，B俩系统同时开始安装VxVM，5.0版本是支持这样做到。具体的配置说明这里就
不说了，总结一下就是
1) 要配置ssh 认证，修改/etc/ssh/sshd_config,允许root登录，另外服务sftp是正常的。
    PermitRootLogin yes
    Subsystem       sftp    /usr/lib/ssh/sftp-server
2) 在存放安装包的系统,假设是A，生成dsa 验证码，并存到B上，这样只要在A上开始安装vxvm，B也可以被照顾到了。
    # ssh-genkey -t dsa
    把/.ssh/id_dsa.pub 文件传到B上，内容复制到/.ssh/authorized_keys 文件。
   
    A系统执行如下2个命令
    # exec /usr/bin/ssh-agent $SHELL
    # ssh-add
    在A系统验证ssh是否无需密码可以直接登录
    # ssh -l root solB uname -a
    如果上面的命令没有提示密码，恭喜！可以开始安装VxVM了。请参考指导书安装。
3) 安装之后发现A，B两个系统识别的共享盘有错误，A正常，B在vxdisk list显示 udid_mismatch, 查证veritas
    资料说是bug，要安装MP3补丁，安装之后果然都好了。
4）另外创建dg和划volume都不说了吧，大把资料可以查，不是这里讲的重点。划出个vol1，然后A，B都deport，import
    一下dg，同步信息。
        
4.安装VCS
其实VxVM和VCS可以同时安装，Storage Foundation的安装菜单已经有这样的选项了，我担心一个安装不成功会干扰其他的，
所以是分开装的。对ssh配置修改和VxVM的安装是一模一样的。指定了cluster的一些参数，比如cluster name，心跳网卡，
安装起来还是挺顺利的。不知道为什么Windows Console客户端连接不上VCS了，这个问题没解决。web方式也联不上，应该是
配置没做好.
总结：心跳网卡一定要A，B各指定2个。
5.配置NFS双机服务
NFS双机服务是VCS完全支持的功能，系统自带了agent，不需要额外再去写启动脚本了，唯一要做的就是把这个NFS通过命令
搭建出来。
需要创建、修改的东西
1) A,B两边都创建一个目录，作为共享挂载。
   # mkdir /nfsshare
2) 对卷vol1创建文件系统
   # newfs /dev/vx/dsk/datadg/vol1   
3) A，B系统上要禁止solaris控制nfs 服务，让vcs来控制, 这步很重要，否则NFS双机服务会很不稳定。
   # svccfg delete -f svc:/network/nfs/server:default     
4) 使用脚本创建NFS，参考以下内容, 符号--->后面都是命令解释, 不属于命令一部分.
   # hagrp -add hanfs    ----->创建service group
   # haconf -makerw      ----->配置文件可读写
   # hagrp -modify hanfs SystemList solarisA 1 solarisB 2  ---->group在solarisA和solarisB上运行
   # hagrp -autoenable hanfs -sys solarisA
   # hares -add nfsNIC NIC hanfs
   VCS NOTICE V-16-1-10242 Resource added. Enabled attribute must be set before agent monitors
   # hares -modify nfsNIC Enabled 1
   # hares -modify nfsNIC Device e1000g0  --->指定网卡，NFS的服务IP会挂在这个网卡上
   # hares -modify nfsIP Enabled 1
   # hares -modify nfsIP Device e1000g0
   # hares -modify nfsIP Address 192.168.152.133  --->指定服务IP
   # hares -modify nfsIP IfconfigTwice 1
   # hares -add nfsDG DiskGroup hanfs             ---->DG, 和vxvm的dg联系起来
   VCS NOTICE V-16-1-10242 Resource added. Enabled attribute must be set before agent monitors  
   # hares -modify nfsDG Enabled 1
   # hares -modify nfsDG DiskGroup datadg         ---->配置属性
   # hares -modify nfsDG StartVolumes 0
   # hares -add nfsVOL Volume hanfs              ---->增加一个Volume, vol1映射到这个resource
   # hares -modify nfsVOL Enabled 1
   # hares -modify nfsVOL Volume vol01           --->配置卷vol01
   # hares -modify nfsVOL DiskGroup datadg      
   # hares -add nfsMOUNT Mount hanfs             --->vol01挂载到/nfsshare
   VCS NOTICE V-16-1-10242 Resource added. Enabled attribute must be set before agent monitors
   # hares -modify nfsMOUNT Enabled 1
   # hares -modify nfsMOUNT MountPoint /nfsshare
   # hares -modify nfsMOUNT BlockDevice /dev/vx/dsk/datadg/vol01
   # hares -modify nfsMOUNT FSType ufs          --->指定挂载文件系统类型, 这步曾经漏掉了，结果服务起不来
   # hares -modify nfsMOUNT FsckOpt %-n         ---->挂载上后不要fsck，这个参数也不能漏
   # hares -add nfsNFS NFS hanfs                --->增加一个NFS resource
   VCS NOTICE V-16-1-10242 Resource added. Enabled attribute must be set before agent monitors
   # hares -modify nfsNFS Enabled 1
   # hares -modify nfsNFS Nservers 24
   # hares -add nfsSHARE Share hanfs
   VCS NOTICE V-16-1-10242 Resource added. Enabled attribute must be set before agent monitors
   # hares -modify nfsSHARE Enabled 1
   # hares -modify nfsSHARE PathName /nfsshare
   # hares -modify nfsSHARE Options rw
   # hares -link nfsIP nfsNIC        ---->link确定resource父子关系
   # hares -link nfsVOL nfsDG
   # hares -link nfsMOUNT nfsVOL
   # hares -link nfsSHARE nfsIP
   # hares -link nfsSHARE nfsMOUNT
   # hares -link nfsSHARE nfsNFS
   # haconf -dump -makero
5) 测试NFS服务
   测试过程比较枯燥，首先每个resource要probe一下，然后再online. 例如，
   # hares -probe nfsDG -sys solarisA
   # hares -online nfsDG -sys solarisA   
   
   把所有resource都这么做一次，在A机probe完了还要做B机的probe, 再online。这样才能保证两边都可以正常切换。
   测试过程中如果发现什么错误，可以在/var/VRTSvcs/log/目录下查看日志。
6) 总结
   有这么一套VCS虚拟双机还是不错滴，在上面可以慢慢玩，不用担心别人和你抢双机环境了！
   就是很耗内存，机器不够强劲的，请谨慎安装。
      
[ 本帖最后由 小鹭 于 2009-3-11 13:43 编辑 ]


本文来自ChinaUnix博客，如果查看原文请点：http://blog.chinaunix.net/u3/105494/showart_2164856.html