免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3828 | 回复: 4
上一主题 下一主题

关于多个服务器集群资源共享的问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-05-29 22:29 |只看该作者 |倒序浏览
我打算把我的网络采集软件FMiner移植到服务器上,为用户提供远程采集的服务。需求是这样的:
1.每个用户独立,不需要互相联系,因此可以为每个用户单独建立数据库。
2.每个用户可能有多个采集任务运行,长时间占用CPU和内存。
3.Web访问量不大,但数据库读写较大,因为在采集时,要频繁写数据。

想用VPS做服务器,方便维护和备份。但当用户、采集任务增加时,一个服务器肯定不够,需要增加,如何合理利用多服务器资源?

开始我的设想是这样的:固定每N个用户用一台服务器,服务器安装各自的数据库,采集的数据存在这些数据库中,一台独立的web服务器根据用户名定位找到各自数据库地址,提供web服务。

但这存在的问题是:可能某些时间一台服务器上N个用户都是空闲的,而另一台服务器任务过重。如何较好地分配任务?

现在的设想是这样的:数据库放在一台服务器A上,给其他服务器合理分配采集任务,所有采集数据都存在A服务器上。但这样会不会造成数据库服务器过载太大?

如果数据库可以无限扩展,第二种方案是最好的。因为没做过集群,对这些完全不了解,请大家给些建议。

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
2 [报告]
发表于 2014-05-30 08:29 |只看该作者
不知道楼主说的FMiner 是什么东东.

单从楼主的需求来看. 比较合适的解决方案是每个用户一个虚拟机, 独立部署整套系统.
所有的虚拟机放在 VMware ESXi 上. 配置 动态负载调节.
其它的虚拟平台, 我不是太清楚有没有动态调节功能.

论坛徽章:
0
3 [报告]
发表于 2014-05-30 09:11 |只看该作者
FMiner是我做的采集软件,http://www.fminer.com/ , 每个用户一个虚拟机,这样不行吧,成本太大。采集任务我可以自己用程序分配到不同的服务器运行,只是数据库方面,所有进程都写一个数据库,可能负载太大,还没有想到好的办法,如果数据库性能可以无限扩展就好了。

其实现在问题可以简化为:有大量进程(在不同服务器上)写同一个数据库,读数据库操作较轻,能否用数据库集群,或什么方法解决这个问题?

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
4 [报告]
发表于 2014-05-30 10:04 |只看该作者
回复 3# flyaflyaa

每个用户一个虚拟机成本也算大?  

论坛徽章:
0
5
发表于 2014-06-14 18:16
对这些完全不了解









自多宝平台 :http://www.mbo3688.com
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP