有关存储一些问题的开放讨论

nhuczp

原帖由 冬瓜头 于 2008-9-11 00:02 发表


是的，小文件对于这类FS来说都是梦魇。由于开销过大，往往不能二者兼顾。

我晕,是MDS的大小大于他本身文件的大小所以,小文件慢!!!


这里面涉及到两种不同的架构,一种是有专门的MDS管理服务器(PVFS2);一种是没有专门的服务器去管理,而是通过软件去专门同步(GFS2).

nhuczp

原帖由 liaoboda 于 2008-9-4 18:04 发表
今天有几个计算所的学生来我们这里找课题，正好这几天我和几个朋友在讨论一些有关现在存储的问题。由于我这里资源比较好（几百台机器，而且和各个厂商关系也不错，要几台测试的机器还是没问题的），我也一直想把 ...

2.大量持续的读写，软raid速度比硬raid好。

这句话我想你是测的单线程,而且CPU压力不大的时候得出来的.

你可以测一下大量并发时的结果.其次软raid是没有cach的.这个你可以看代码.

nhuczp

原帖由 liaoboda 于 2008-9-11 15:25 发表

这个能解释下吗？“据我所知linux下的cp或者dd都是单一线程的同步阻塞io”

dd 的代码很简单,就一千多行!!
看懂了强过于别人说!!

liaoboda

原帖由 nhuczp 于 2008-9-20 23:31 发表
外理小文件是目前并行文件系统的通病!!!

不知你们的集群是多少台机器??

是采用哪种架构??

现在集群还好才100台计算节点，存储大概50台 15T一台。

liaoboda

原帖由 nhuczp 于 2008-9-20 23:51 发表


2.大量持续的读写，软raid速度比硬raid好。

这句话我想你是测的单线程,而且CPU压力不大的时候得出来的.

你可以测一下大量并发时的结果.其次软raid是没有cach的.这个你可以看代码.

这个不是我说的，是别人说的。我现在每个存储服务器的CPU很浪费。2个45纳米的那种四核的。

liaoboda

原帖由 nhuczp 于 2008-9-20 23:35 发表


raid5会比单块盘慢,哪就做raid50.

你用的是软raid还是硬raid??????????

现在大部分是硬raid 有8台是软的。raid的cache有用吗？如你所说。
我需要试验证明你说的

abo8000

你所列出的硬盘的IOPS的结论基本认同，阵列的cache大小对数据库文件，基本无效，2GB和512GB的盘阵实际测试效果都是一样的，关于这个问题无需再测和讨论了，已经得出结论了。
楼主提出的这些问题非常到位，果然是行家，关于这些问题，我仔细研究研究，再回复，互相讨论。

abo8000

关于硬盘的IOPS问题，和存储的IOPS问题，我最近正在研究，比较有意思，有个好的解决办法了已经。

liaoboda

原帖由 abo8000 于 2008-9-22 16:11 发表
关于硬盘的IOPS问题，和存储的IOPS问题，我最近正在研究，比较有意思，有个好的解决办法了已经。

你可以发发 我可以做试验

冬瓜头

原帖由 nhuczp 于 2008-9-20 23:34 发表

cache只对顺序读写有用!!!
混合读写没有意义!!!

说反了吧？用“没有意义”这四个字也太过了吧？