- 论坛徽章:
- 0
|
lustre、hadoop、PNFS、Moosefs等集群文件存储方案,你觉得哪个好?
我觉得Moosefs好,比较容易配置,不像前几种配置复杂
Lustre,是开放源代码的集群文件系统, 采取 GPL 许可协议,集群计算机里,计算机与磁盘间数据交换速度的提升无法跟上微处理器和内存增长的速度,从而也拖累了应用程序的性能。是一款基于目标的集群文件系统,但是它并不支持T10 OSD,而且底层存储分配管理也是基于块的。它的配置包括Lustre MetaDataServer和Lustre Object Storage Servers。文件操作绕过MetaDataServer,利用集群中的并行数据路径访问ObjectServer。服务器是以备援目的而配合成对的。Lustre可以在不同类型的网络下运行,其中包括IP网络和InfiniBand网络。
hadoop,采用master/slave架构。一个集群里有一个Namenode和一定数目的Datanode组成。Namenode是一个中心服务器,负责管理文件系统的namespace和客户端对文件的访问。(见附件)Datanode在集群中一般是一个节点一个,负责管理节点上它们附带的存储。在内部,一个文件其实分成一个或多个block,这些block存储在Datanode集合里。Namenode执行文件系统的namespace操作,例如打开、关闭、重命名文件和目录,同时决定block到具体Datanode节点的映射。Datanode在Namenode的指挥下进行block的创建、删除和复制。Namenode和Datanode都是设计成可以跑在普通的廉价的运行linux的机器上。采用java语言开发,因此可以部署在很大范围的机器上。一个典型的部署场景是一台机器跑一个单独的Namenode节点,集群中的其他机器各跑一个Datanode实例。这个架构并不排除一台机器上跑多个Datanode,不过这比较少见。
PNFS,(Parallel NFS,并行 NFS)是同OpenSolaris开,它为客户机提供了独立访问文件数据(文件内容)和元数据(有关文件的信息,如名称、位置和大小)的功能。这种分离功能使文件数据可按照所需的方式进行存储
Moosefs,一个具备容错功能的网络分布式文件系统,它将数据分布在网络中的不同服务器上,MooseFS 通过FUSE使之看起来就是一个 Unix 的文件系统。 |
|