免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 4020 | 回复: 5
打印 上一主题 下一主题

求500T文件和目录的存储方案? [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-02-17 13:14 |只看该作者 |倒序浏览
要求如下:\r\n\r\n1.假设我有500T内容.将来有可能更多.我想利用普通的服务器(带有多个串口硬盘)来分布存储.如实现.\r\n\r\n2.我的构想是这样的.但不知有什么软件可以实现.\r\nA.有一台索引服务器.作用是组织和管理普通服务器.通过它数据访问者可能定位数据在那台服务器.是在AA,还是CC上.\r\nB.普通服务器(很多,如AA,BB,CC,DD.....).用来存储数据的.\r\nC.上面的结构必须同时也能做到冗余和集群.如索引服务器.如果死机了.也必须有另一台替代马上替代.必须有很好的扩展性.将来加一台或是减一台服务器不影响整个系统的使用.\r\n\r\n有什么好的软件方案吗?当然是开源最好的.\r\n\r\n我了解过HADOOP HDFS.不过了解不深.皮毛.说白了,目前也不知这东西具体干什么呢?\n\n[ 本帖最后由 todayhero 于 2009-2-17 13:20 编辑 ]

论坛徽章:
0
2 [报告]
发表于 2009-02-17 13:24 |只看该作者
抢个沙发!\r\n\r\n这个好像是一个视频网站的需求啊!现在可以使用StorNext来做共享存储软件,但是你说的肯定需要进一步开发才可以完成。建议存储还是购买存储厂商的存储吧,不要自己拿服务器挂硬盘当成存储了!这样不好的!

论坛徽章:
0
3 [报告]
发表于 2009-02-17 13:48 |只看该作者
1.普通服务器不是便宜吗?\r\n\r\n2.关于视频网站.更不会买存储设备了.他们主要还是使用服务器挂大硬盘的.经济实用.

论坛徽章:
0
4 [报告]
发表于 2009-02-17 14:43 |只看该作者
你的构想其实就是一个分布式系统的初始。但是现在的开源的分布式系统好像成熟的也不太多,很多都要进行修改的,特别是要和你的使用环境和内容进行配合,仅仅想把开源的拿来用的话,挺难。\r\n\r\n500T的初始数据,一开始容量至少要1500T吧,而且还要同步的。这个同步的问题是很难解决的。。倒不是一定是技术上的,成本也下不来的。\r\n\r\n而且你这500T的文件类型和大小也会影响选择的。

论坛徽章:
0
5 [报告]
发表于 2009-02-17 15:19 |只看该作者
但是hadoop也有他自身的缺点的,不是适合所有的地方,这个你要结合你自己的实际情况。另外貌似hadoop使用java写的吧,效率不太清楚的对pB级的支持是什么样的。

论坛徽章:
0
6 [报告]
发表于 2009-02-18 17:36 |只看该作者
1.是的.只适合一次写入,多次读的文件.并是大文件.才好.\r\n\r\n2.不过也可以使用mogilefs,这个是perl写的.不过也是适合一次写入.多次读出的东西.
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP