免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: pipihappy8888
打印 上一主题 下一主题

[存储网络] 【大话IT】电商突击战:流量高峰如何破解IO瓶颈? [复制链接]

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
81 [报告]
发表于 2015-01-22 14:51 |只看该作者
回复 51# jxzkin


内存数据库倒不失为一种解决性能瓶颈的应对之策,把数据库的读写IO放到内存中,大大降低IO瓶颈,很不错。
但是在数据的易失性方面,要考虑全面。
其实数据库这一层面优化的余地还不少,读写分离,在线日志与归档日志隔离,OS层面LVM做条带,最大限度增强IO响应能力

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
82 [报告]
发表于 2015-01-22 14:55 |只看该作者
回复 57# qingduo04


集群化的分布式数据库跟传统关系型数据库最大的缺点就是不一致性问题,但是还是可以在很多层面可以降低这种问题发生的概率,甚至可以规避它。
只要它不影响我正常的交易即可。
比如实时交易是一定要保持一致性的,但非实时的查询类就不需要保持实时一致,也没太大必要。
云计算这一块儿是趋势,阿里云已经非常厉害了,看看今年的12306网站吧,你会发现阿里技术团队的牛逼之处。

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
83 [报告]
发表于 2015-01-22 16:10 |只看该作者
回复 44# qingduo04


嗯,OLAP环境中,对于MPP数据库来说,其实主要瓶颈在于各节点数据同步的带宽,这一点建议使用万兆网络或IB网络,而对外提供服务的网络其实千兆基本足够。
hadoop也是如此,至少要是万兆网。

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
84 [报告]
发表于 2015-01-22 16:15 |只看该作者
回复 32# 孙轩


    淘宝就是通过应用层面实现了读写分离,在传统扩展节点已经无法实现更高IO性能的时候,找到了这一优化措施,值得很多企业借鉴。

论坛徽章:
18
卯兔
日期:2013-09-27 17:41:0615-16赛季CBA联赛之佛山
日期:2016-07-09 17:34:45操作系统版块每周发帖之星
日期:2015-12-02 15:01:04IT运维版块每日发帖之星
日期:2015-12-02 06:20:00IT运维版块每日发帖之星
日期:2015-10-07 06:20:00IT运维版块每日发帖之星
日期:2015-10-03 06:20:00IT运维版块每日发帖之星
日期:2015-10-01 06:20:00羊年新春福章
日期:2015-04-01 17:56:06拜羊年徽章
日期:2015-04-01 17:56:062015年迎新春徽章
日期:2015-03-04 09:49:452015年辞旧岁徽章
日期:2015-03-03 16:54:15天秤座
日期:2015-01-14 06:39:28
85 [报告]
发表于 2015-01-22 18:34 |只看该作者
回复 83# michael1983


     最新测试结果,IB交换机配置的内容较多,否则很容易服务器的异常........

论坛徽章:
18
卯兔
日期:2013-09-27 17:41:0615-16赛季CBA联赛之佛山
日期:2016-07-09 17:34:45操作系统版块每周发帖之星
日期:2015-12-02 15:01:04IT运维版块每日发帖之星
日期:2015-12-02 06:20:00IT运维版块每日发帖之星
日期:2015-10-07 06:20:00IT运维版块每日发帖之星
日期:2015-10-03 06:20:00IT运维版块每日发帖之星
日期:2015-10-01 06:20:00羊年新春福章
日期:2015-04-01 17:56:06拜羊年徽章
日期:2015-04-01 17:56:062015年迎新春徽章
日期:2015-03-04 09:49:452015年辞旧岁徽章
日期:2015-03-03 16:54:15天秤座
日期:2015-01-14 06:39:28
86 [报告]
发表于 2015-01-27 07:04 |只看该作者
回复 81# michael1983


    学习了..........

论坛徽章:
18
卯兔
日期:2013-09-27 17:41:0615-16赛季CBA联赛之佛山
日期:2016-07-09 17:34:45操作系统版块每周发帖之星
日期:2015-12-02 15:01:04IT运维版块每日发帖之星
日期:2015-12-02 06:20:00IT运维版块每日发帖之星
日期:2015-10-07 06:20:00IT运维版块每日发帖之星
日期:2015-10-03 06:20:00IT运维版块每日发帖之星
日期:2015-10-01 06:20:00羊年新春福章
日期:2015-04-01 17:56:06拜羊年徽章
日期:2015-04-01 17:56:062015年迎新春徽章
日期:2015-03-04 09:49:452015年辞旧岁徽章
日期:2015-03-03 16:54:15天秤座
日期:2015-01-14 06:39:28
87 [报告]
发表于 2015-01-27 07:11 |只看该作者
本帖最后由 qingduo04 于 2015-01-27 07:13 编辑

当前我们系统就遇到IO瓶颈,主要是流向为: a小型机上联到6509交换机为单千兆光纤,通过6509交换机到9312交换机为双千兆,9312交换机到b刀片服务器为双千兆交换机,当前b从a ftp文件,速度只有30MB/S,太慢了。
如果说” a小型机上联到6509交换机为单千兆光纤“是瓶颈,单千兆峰值应该能达到100MB/s的,但是现在却30MB/s,百思不得其解啊!

其中a为P570,外挂存储为DS8800,存储性能很高; b为刀片服务器,性能100万tpmC,压测本地盘,性能也能达到400MB/s; 所以服务器应该都没有问题。

当前只能是先走一步,把” a小型机上联到6509交换机为单千兆光纤“ 再增加一对光纤到6509上,组成双千兆。



哪位大侠可以帮分析分析。

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
88 [报告]
发表于 2015-01-27 12:48 |只看该作者
回复 87# qingduo04


    建议分节点定位问题,传输速度不满足要求,这个是有很多因素造成的。
是不是有带宽争用?看看别的应用是不是占用了大量带宽。
是不是数据传输时a或b上资源繁忙,导致处理不过来。
可以尝试到每一个节点交换机上测试传输速度,最终定位到哪一环节的问题。

论坛徽章:
18
卯兔
日期:2013-09-27 17:41:0615-16赛季CBA联赛之佛山
日期:2016-07-09 17:34:45操作系统版块每周发帖之星
日期:2015-12-02 15:01:04IT运维版块每日发帖之星
日期:2015-12-02 06:20:00IT运维版块每日发帖之星
日期:2015-10-07 06:20:00IT运维版块每日发帖之星
日期:2015-10-03 06:20:00IT运维版块每日发帖之星
日期:2015-10-01 06:20:00羊年新春福章
日期:2015-04-01 17:56:06拜羊年徽章
日期:2015-04-01 17:56:062015年迎新春徽章
日期:2015-03-04 09:49:452015年辞旧岁徽章
日期:2015-03-03 16:54:15天秤座
日期:2015-01-14 06:39:28
89 [报告]
发表于 2015-01-27 12:53 |只看该作者
回复 88# michael1983


    恩,是的,谢谢提醒,当前就在各个子服务器上进行测试,由于是生产,所以在小型机A到交换机6509的链路上不好测,
打算先增加光纤链路,再观察一下。

论坛徽章:
0
90 [报告]
发表于 2015-01-28 15:12 |只看该作者
奖品奖品,有刺激性
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP