免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
1234下一页
最近访问板块 发新帖
查看: 14336 | 回复: 39
打印 上一主题 下一主题

[容灾] 崩溃,异地灾备遇到巨大难题,请大家帮助 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2010-08-20 07:21 |只看该作者 |倒序浏览
选用国际大牌存储做异地灾备,方案是LUN级别的镜像,镜像的LUN上存放着数据库的LDF和MDF。
实际使用这种方案存在巨大的问题,同步的数据量太大。

数据量变化量在操作系统上看是100M。实际同步的数据量是10倍以上,网络带宽全部堵死。

我分析原因如下:
操作系统层面的数据量变化程度与存储设备block的变化量没有直接关系。
1、例如操作系统的D盘50G是存储上的一个LUN,使用了10MB,如果D盘做磁盘碎片整理,虽然使用空间10MB没有发生变化,
但意味着几乎所有block都发生了变化(移动),对于灾备来说,这个LUN几乎要全部同步到异地存储上,数据量是50GB。

2、比如D盘是一个在存储上的LUN(50G),我在D盘创建一个50GB的文件,然后删除,这是D盘可用空间仍然是50G,
操作系统层面数据没有发生变动,但是存储认为这50G大小的block都发生了变化,都需要同步到异地的存储上。

请问以上2点是否正确,另外为了解决这些问题,我不知道如何入手了。

存储厂商说复制数据量大大超过预期,和存储设备本身没有关系,原因是存储设备对操作系统就是一块硬盘,LUN镜像数据量大肯定与数据库和操作系统有关。
数据库厂家说不能开这个CASE,数据库对磁盘的读写算法等数据库保密。

论坛徽章:
0
2 [报告]
发表于 2010-08-20 07:25 |只看该作者
我现在还想知道一个LUN与RAID组中的磁盘是什么对应关系?不要回答逻辑映射关系。
要具体的。
比如3块100G 硬盘盘做RAID5 ,可用容量200G,创建A\B 两个LUN,
我怎么能知道lunA的读写使用的是RAID组中那块硬盘的那个条带?是一种什么映射算法?

论坛徽章:
2
2015年迎新春徽章
日期:2015-03-04 09:49:45IT运维版块每日发帖之星
日期:2016-07-29 06:20:00
3 [报告]
发表于 2010-08-20 08:07 |只看该作者
第二个说法有问题。删除文件也只是删除metadata,间接块等,更新的block很少,同步过去的也很少。第一种说法是对的。

lun在raid组上的分布方式,我总结了几种,这里就不重复打字了,详见《大话存储》第二版。不同厂商实现不同,但是无外乎我总结的那一些。传统方式一般使用横向定死分布方式。

论坛徽章:
2
2015年迎新春徽章
日期:2015-03-04 09:49:45IT运维版块每日发帖之星
日期:2016-07-29 06:20:00
4 [报告]
发表于 2010-08-20 08:09 |只看该作者
数据库该变量与底层该变量发生相差很大的情况时,考虑一下block边界不对齐问题,用io监控工具检测fs、卷各层的io状况,发现原因不难。

论坛徽章:
0
5 [报告]
发表于 2010-08-20 08:13 |只看该作者
第二版已经出版了?

论坛徽章:
2
2015年迎新春徽章
日期:2015-03-04 09:49:45IT运维版块每日发帖之星
日期:2016-07-29 06:20:00
6 [报告]
发表于 2010-08-20 08:28 |只看该作者
大概年底出版吧。

论坛徽章:
0
7 [报告]
发表于 2010-08-20 08:36 |只看该作者
要加油啊,实在等的很辛苦

论坛徽章:
2
2015年迎新春徽章
日期:2015-03-04 09:49:45IT运维版块每日发帖之星
日期:2016-07-29 06:20:00
8 [报告]
发表于 2010-08-20 08:51 |只看该作者
呵呵,要不谁开一家私人出版社,咱自己印自己卖

论坛徽章:
10
处女座
日期:2015-01-22 16:08:50技术图书徽章
日期:2018-09-13 11:25:52技术图书徽章
日期:2018-09-13 11:25:45技术图书徽章
日期:2018-09-13 11:25:37技术图书徽章
日期:2018-09-13 11:25:29黑曼巴
日期:2018-06-04 09:03:192017金鸡报晓
日期:2017-01-10 15:19:56极客徽章
日期:2016-12-07 14:03:402015年迎新春徽章
日期:2015-03-04 09:50:28技术图书徽章
日期:2018-09-13 11:26:01
9 [报告]
发表于 2010-08-20 09:53 |只看该作者
存储底层block的变化与文件系统的变化没有什么很线性的关系的。
文件增多,则block增多
文件减少,block未必减少

不过大多数情况下,操作系统上的普通文件,对应到底层block,增加一个文件,block增加基本也是一个文件的大小(当然,这跟block大小有关系)
但有些情况就很特殊,比如说有些程序产生的是加密文件,例如notes数据库,产生的邮箱.nsf文件,你只发送了一封邮件,但整个nsf文件会整个发生重组,对应到lun上就是所有的block都会发生改变。
所以就会产生楼主上面的问题了。

论坛徽章:
12
CU大牛徽章
日期:2013-09-18 15:20:4815-16赛季CBA联赛之同曦
日期:2016-02-01 20:28:25IT运维版块每日发帖之星
日期:2015-11-10 06:20:00操作系统版块每日发帖之星
日期:2015-10-28 06:20:002015亚冠之塔什干棉农
日期:2015-06-04 11:41:56丑牛
日期:2014-05-10 16:11:33技术图书徽章
日期:2013-09-23 13:25:58CU大牛徽章
日期:2013-09-18 15:21:17CU大牛徽章
日期:2013-09-18 15:21:12CU大牛徽章
日期:2013-09-18 15:21:06CU大牛徽章
日期:2013-09-18 15:20:58数据库技术版块每日发帖之星
日期:2016-02-08 06:20:00
10 [报告]
发表于 2010-08-20 09:54 |只看该作者
感觉没问在点子上。
你用的是哪家的存储产品?双中心距离有多远?中间用的是什么线路?带宽是多少?
另外你的操作系统是什么?跑什么应用?
ps 你说的数据变化量在操作系统看来是100M。你是用什么方法来看的?
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP