免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 4859 | 回复: 2
打印 上一主题 下一主题

[FastDFS] dolt131943:指定group进行存储 [复制链接]

论坛徽章:
4
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:11IT运维版块每日发帖之星
日期:2016-08-11 06:20:00IT运维版块每日发帖之星
日期:2016-08-15 06:20:00
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-02-21 11:37 |只看该作者 |倒序浏览
dolt131943:
最近在寻找一个DFS系统进行文件存储,暂时考虑的就是FastDFS和MogileFS,

对于FastDFS有一个问题:
根据看到的java client api,好像FastDFS不支持保存文件到指定group(volumn?),具体保存到哪个group是由tracker服务器的配置决定的,有三种策略.

这样是不是就无法实现不同重要程度的文件存放在在不同group的功能,因为有些group可能是三台机子冗余用来保存比较重要的资料,有些可能一台两台就够了.

如果确实不能指定group来保存文件,那么是否有增加这个功能的打算?允许指定group保存文件以实现类似MogileFS将不同文件保存为不同class的功能?

谢谢.


happy_fish100:
你说的这个要求,可以变通方法实现:
目前实现的客户端可以直接指定上传到的服务器,但需要客户端知道服务器的分组情况。
我们可以在FastDFS tracker server中新增一个接口,返回指定group中active的服务器列表,然后由客户端选择其中的一台服务器进行文件上传。

以上是我给出的一个解决方案,大家可以充分发表一下意见和建议。

论坛徽章:
4
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:11IT运维版块每日发帖之星
日期:2016-08-11 06:20:00IT运维版块每日发帖之星
日期:2016-08-15 06:20:00
2 [报告]
发表于 2009-02-21 11:50 |只看该作者

lgc653:请问上传文件的时候能够在客户端指定group吗?

lgc653:
现在好像是随机返回或者在服务器配置文件中强行指定。无法在客户端指定。
还有能否在一台机器上建立多个同名的group(端口不同),这样在一台机器上就可以做同步备份(挂接多个硬盘)

happy_fish100:
上传文件时,group name不能由客户端指定,由服务器配置文件指定选择group的方式:roundrobin(轮流)、固定组、剩余空间最大的组。
目前的设计是同组的存储服务器的端口号必须相同,主要是出于便于管理的考虑。

lgc653:
目前的设计是同组的存储服务器的端口号必须相同,主要是出于便于管理的考虑。
那么请问同一台机器上能否能够设定两个同组的存储,比如都是group1(端口号相同),这样单机就能备份?
比如我想区分存储,比如图片都存放在一处,mp3都存在另外一处,是否只有增加tracker server来实现?


happy_fish100:
一台服务器上可以划分为多个group,每个group需要一个单独的配置文件,即一个group需要启动一份程序。一台服务器上不能模拟两个同组的storage server。
如果要区分存储,采用多套FastDFS好了。比如图片使用一套,mp3使用另外一套。


lgc653:
那么实际应用中,我无法将访问量大的文件存储到备份多的group下面(因为是随机的),当然另外安装一套fastdfs能够解决这个问题,但是这样一个tracker server支持多个group的设定是不是显得有些鸡肋呢?不知道作者能否考虑一下这个功能(能从客户端指定group保存,没有指定group的情况下则根据配置文件采用随机或者指定的group保存)。感觉逻辑上修改比较小而实际作用还比较大(^-^)。


happy_fish100:
目前提供的客户端API可以直接指定上传到的storage server,你可以指定为特定group的一台storage server,这样就可以达到你想要的的结果。


lgc653:
如果指定上传到某个Group的storage是不是即无法实现负载均衡
也无法实现自动的冗余复制?

happy_fish100:
>>如果指定上传到某个Group的storage是不是即无法实现负载均衡
>>也无法实现自动的冗余复制?
冗余复制是自动的,没有任何问题。以这种变通方式,负载均衡只能由客户端来实现了。

lgc653:个人建议
个人觉得从便于管理的角度,还是提供一个指定group的功能比较好,而且从系统设计的角度也并不和您的设计理念相冲突。虽然在大规模应用中多添置几台tracker server是必须的,但是在一些小型应用中如果想利用FastDFS做一些基本的文件存储、备份工作,可能就没有那么多硬件资源。

您提到可以采用“我们可以在FastDFS tracker server中新增一个接口,返回指定group中active的服务器列表,然后由客户端选择其中的一台服务器进行文件上传。”的方法,如果active的tracker server中不止包括指定group这唯一一个组,是否还是会随机选择组存储?而且这样设计是否将tracker server和group的功能有所混淆,tracker server应该主要工作是调度,他不应该起到分类管理的功能。group才应该是对storage起到一个管理作用。

以上仅仅是个人观点,希望有机会和您做更多讨论。谢谢!


happy_fish100:近期将支持这个功能,敬请期待。

happy_fish100:刚推出的FastDFS V1.16,支持客户端指定上传到的分组。大家可以到google code下载最新版本。

lgc653:非常感谢
非常感谢您的努力。期望FastDFS越来越好

论坛徽章:
4
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:11IT运维版块每日发帖之星
日期:2016-08-11 06:20:00IT运维版块每日发帖之星
日期:2016-08-15 06:20:00
3 [报告]
发表于 2009-02-23 14:11 |只看该作者

lgc653:顺便请教一下

lgc653:store_path有什么作用,添加新的store_path,能否增加存储容量,还是只有增加group才能增加存储容量。

happy_fish100:引入store_path的目的是在一台存储服务器上管理多个单独mount的硬盘(即支持多个mount点)。通常通过增加group来增加系统的存储容量。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP