[系统管理] GPFS 3.4 硬盘空间问题 “No space left on device” [复制链接]

论坛徽章:: 0

3楼 [报告]

发表于 2013-08-19 16:33 |只看该作者

我重启系统还是一样的问题呀

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

4楼 [报告]

发表于 2013-08-19 16:33 |只看该作者

有用GPFS的朋友，大家交流一下
QQ：267224

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

5楼 [报告]

发表于 2013-08-19 22:51 |只看该作者

运行mmdf <fsname>看看，还有是不是使用了placement policy？ filesystem的replicas设定是多少？如果文件系统名字是 foofs，运行：
  1. mmdf foofs
  2. mmlsdisk foofs -L
  3. mmlsfs foofs

说不定从里面能看出为什么。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

6楼 [报告]

发表于 2013-08-19 23:01 |只看该作者

> [root@mnode isofile2]# cp rhel.iso a.iso
> cp: cannot create regular file `a.iso': No space left on device
>
> 这个错误偶尔提示
> 请问这是什么问题呀？

产生这个错误有可能是：【1】disk 空间不够了，但是你说才用36%。【2】free inode不够了，你是在independent fileset里面拷贝文件？【3】inode或者datablock达到了quota上限，你设置了quota？

对于第一个运行mmdf能看出，对于第二个运行mmlsfileset <fsname> -i -L, 对于第三个运行mmrepquota -j -v -a

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

7楼 [报告]

发表于 2013-08-20 10:21 |只看该作者

谢谢各位的帮助
应该是 free inode不够了，请问怎么解决这个问题，谢谢
查看相关信息如下：
[root@mnode ~]# mmlsdisk  gpfsdev1 -L
disk       driver sector failure holds holds                                  storage
name       type    size group metadata data  status       availability disk id pool       remarks
------------ -------- ------ ------- -------- ----- ------------- ------------ ------- ------------ ---------
HOME_NSD1 nsd       512 4001 yes    yes ready       up                1 system       desc
Number of quorum disks: 1
Read quorum value:    1
Write quorum value:    1
[root@mnode ~]# mmgetstate  -Lsa

Node number  Node name    Quorum  Nodes up  Total nodes  GPFS state  Remarks
------------------------------------------------------------------------------------
   1    mnode             2       3       5    active    quorum node
   2    cnode00          2       3       5    active    quorum node
   3    cnode01          2       3       5    active    quorum node
   4    cnode02          2       3       5    active
   5    master          2       3       5    active

Summary information
---------------------
Number of nodes defined in the cluster:          5
Number of local nodes active in the cluster:    5
Number of remote nodes joined in this cluster:    0
Number of quorum nodes defined in the cluster:    3
Number of quorum nodes active in the cluster:    3
Quorum = 2, Quorum achieved

[root@mnode ~]# mmlsfs  all

File system attributes for /dev/gpfsdev1:
=========================================
flag             value                   description
------------------- ------------------------ -----------------------------------
-f                16384                   Minimum fragment size in bytes
-i                512                   Inode size in bytes
-I                16384                   Indirect block size in bytes
-m                1                      Default number of metadata replicas
-M                2                      Maximum number of metadata replicas
-r                1                      Default number of data replicas
-R                2                      Maximum number of data replicas
-j                cluster                Block allocation type
-D                nfs4                   File locking semantics in effect
-k                all                   ACL semantics in effect
-n                32                      Estimated number of nodes that will mount file system
-B                524288                Block size
-Q                none                   Quotas enforced
                  none                   Default quotas enabled
--filesetdf       no                      Fileset df enabled?
-V                12.10 (3.4.0.7)       File system version
--create-time    Fri May  3 12:08:56 2013 File system creation time
-u                yes                   Support for large LUNs?
-z                no                      Is DMAPI enabled?
-L                4194304                Logfile size
-E                yes                   Exact mtime mount option
-S                no                      Suppress atime mount option
-K                whenpossible          Strict replica allocation option
--fastea          yes                   Fast external attributes enabled?
--inode-limit    2286592                Maximum number of inodes
-P                system                Disk storage pools in file system
-d                HOME_NSD1             Disks in file system
-A                yes                   Automatic mount option
-o                none                   Additional mount options
-T                /home                   Default mount point
--mount-priority 0                      Mount priority
[root@mnode ~]# mmlsconfig
Configuration data for cluster mnode.pcm:
-----------------------------------------
myNodeConfigNumber 1
clusterName mnode.pcm
clusterId 13837812371931994210
autoload yes
minReleaseLevel 3.4.0.7
dmapiFileHandleSize 32
adminMode central

File systems in cluster mnode.pcm:
----------------------------------
/dev/gpfsdev1

[root@mnode ~]# mmdf  gpfsdev1
disk             disk size  failure holds holds             free KB          free KB
name                   in KB group metadata data       in full blocks       in fragments
--------------- ------------- -------- -------- ----- -------------------- -------------------
Disks in storage pool: system (Maximum disk size allowed is 18 TB)
HOME_NSD1       2340665408    4001 yes    yes    1560202752 ( 67%)    3768080 ( 0%)
            -------------                      -------------------- -------------------
(pool total)    2340665408                                           1560202752 ( 67%)    3768080 ( 0%)

            =============                      ==================== ===================
(total)          2340665408                                 1560202752 ( 67%)    3768080 ( 0%)

Inode Information
-----------------
Number of used inodes:       2279357
Number of free inodes:          7235
Number of allocated inodes: 2286592
Maximum number of inodes:    2286592

[root@mnode ~]# mmlsfileset gpfsdev1 -i -L
Collecting fileset usage information ...
Filesets in file system 'gpfsdev1':
Name                         Id    RootInode  ParentId Created                   InodeSpace    MaxInodes AllocInodes    UsedInodes Comment
root                            0             3       -- Fri May  3 12:08:54 2013       0             2286592       2286592       2280529 root fileset

[root@mnode ~]# mmrepquota  -j -v -a
No quota enabled file system found.
mmrepquota: Command failed.  Examine previous error messages to determine cause.
[root@mnode ~]#

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

8楼 [报告]

发表于 2013-08-20 15:44 |只看该作者

增加inodespace 0的max inode。运行mmchfs gpfsdev1 --inode-limit <newValue, larger than 2286592>，如果提示disk不够，那就需要增加新的NSD，然后在mmchfs gpfsdev1 --inode-limit <new Value.

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

9楼 [报告]

发表于 2013-08-20 15:44 |只看该作者

增加inodespace 0的max inode。运行mmchfs gpfsdev1 --inode-limit <newValue, larger than 2286592>，如果提示disk不够，那就需要增加新的NSD，然后在mmchfs gpfsdev1 --inode-limit <new Value.

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？