有关存储一些问题的开放讨论

qqeyes

先挺一下冬瓜兄，书从8月开始等，一定会买的。

最近忙，很少看帖，说说我的想法。

1：raid0比raid5快？
   这个我觉得要看raid5的大小和实现方法，较大规模的raid5和高性能的raid卡，性能一定强过2快盘的raid0.
     但是如果四块raid0和四块raid5比，肯定raid5慢了。raid5有冗余。raid0有么？安全性能平衡才好。
2：磁盘自身缓存。
    对于写：貌似一般来说存储都有内置的几十个G的cache了。如果写一个文件，要先写到存储缓存，在写到磁盘缓存，最后再写到磁盘上，效果肯定不会太好。应该是让大量的请求集中到cache里，让磁盘认为那是一个连续写的请求，性能才会好。ssd请忽略此处。
    对于读：都是电子结构，没必要设两层吧。
    所以如果某存储说禁用磁盘自身缓存，我觉得是可以理解的。
3：sas盘的速度。
    我们这里有测出近160M/s吞吐量的sas，觉得很快，后来去查型号，厂商确实有标称最大速度160M/s
4：软raid和硬raid
     这完全决定于客观条件。那个奔腾3和高档raid卡比比。。。。
   很多中高端存储号称某某功能用硬件实现，代替原来软件处理，性能提高***，必定是有道理的。否则那些做专业处理芯片的人都要下岗了。

5：关于文件大小。
   好像上m的文件都归结为小文件了。。。。
   我觉得文件大小应该接近实际。。。。。嘿嘿，老是拿些极端的测未必能得到我们想要的结果。不太喜欢物理学的原因就是放到生活中全挂--考虑问题全是理想状态。
   最常见的应该是k，十几k级别的小文件吧，而且不是大量，是海量，也不是需要几个p那么玄。如果你们能研究下几个T的k级小文件，倒是相当有用的，门户啊，什么的，都有用到的。嘿嘿。
   再有就是几十m的文件。一直觉得在线视频是个不错的东西，如果能优化，有前途。

6：ssd
     还是看环境了，没有绝对的绝对。
   ssd很多还是并发的速度标称，intel好想用的业内某家芯片的来着，性能不错。但是不要和1块硬盘比随机，真的没意义。

[ 本帖最后由 qqeyes 于 2008-10-8 16:58 编辑 ]

liaoboda

<三>
Raid0
[root@test1 data]# du -sh yangliping.tmp1

101G    yangliping.tmp1

[root@test1 data]# time cp -a yangliping.tmp1 dir/



real    17m3.927s

user    0m15.989s

sys     2m52.843s

平均速度：98.7MB/s



Raid5
[root@EAS333 md0]# time cp -a a dir/

real    21m53.682s
user    0m13.157s
sys     2m19.321s
[root@EAS333 md0]# du -sh a
96G     a
平均速度：73.1MB/s

liaoboda

单个大文件 速度还是会快点  不知道前边的是因为文件小 还是文件多 我继续实验中  另外 发现dd 速度也有不同

qqeyes

原帖由 liaoboda 于 2008-10-9 11:41 发表

Raid0
[root@test1 data]# du -sh yangliping.tmp1

101G    yangliping.tmp1

[root@test1 data]# time cp -a yangliping.tmp1 dir/



real    17m3.927s

user    0m15.989s

sys     2m52.8 ...

这是几块盘的啊？总要有测试环境的说明吧，否则没意义。。。。

qqeyes

原帖由 liaoboda 于 2008-10-9 11:43 发表
单个大文件 速度还是会快点  不知道前边的是因为文件小 还是文件多 我继续实验中  另外 发现dd 速度也有不同

在测试的时候，除了文件大小和盘等硬件本身，文件系统也是个很关键的因素。。。。。。
比如wafl在空间足够的情况下，写性能很好，这就是文件系统的优势。。。
冬瓜兄可以详细解释下，嘿嘿，你最专业了

liaoboda

原帖由 qqeyes 于 2008-10-9 13:47 发表


这是几块盘的啊？总要有测试环境的说明吧，否则没意义。。。。

15块750G SATA

liaoboda

准备采取 ramdisk+SSD+硬盘的方法解决。

qqeyes

原帖由 liaoboda 于 2008-10-9 16:32 发表
准备采取 ramdisk+SSD+硬盘的方法解决。

在搞点芯片和软件，弄个山寨dmx出来

对了，有15块盘的话，你应该用14块盘做raid10l来和14块的raid5比。。。。。。。

如果是单纯raid0的话实际商业环境又不用。一定要打散又是分布式文件系统的活。。。。。

liaoboda

种类	1M小文件（MB/s）	100G大文件                        硬盘写速度(MB/s)	硬盘读写 100G 文件                         (MB/s)
Raid0	183	154	60.8
Raid5	185	155	58.6

liaoboda

上边的结果 第一个是1M的 直接比cahe还小所以很快
                 第二个是dd 一个上百G的文件到硬盘
                 第三个是先读一个上百G的文件 再dd到另外一个地方
结论：一个奇怪的问题 raid0 和raid5差别不大。另外怎么解释读写比写要慢一半以上？