免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: tech11
打印 上一主题 下一主题

[备份软件] 含几个上百G文件的目录怎么备份比较快啊? [复制链接]

论坛徽章:
0
11 [报告]
发表于 2009-01-02 17:33 |只看该作者
系统是linux,直接备份到磁带怎么浪费空间和不安全了啊?请教10楼

论坛徽章:
0
12 [报告]
发表于 2009-01-03 19:43 |只看该作者
原帖由 tech11 于 2009-1-2 17:33 发表
系统是linux,直接备份到磁带怎么浪费空间和不安全了啊?请教10楼


你直接备份需要用到磁带分段技术,否则每盘磁带只能放一段tar数据,并且即使你手动分段,你也需要很繁琐的手动记录分段信息。

例如:tar1,EOD,tar2,EOD......使用时使用不回卷设备,卷到指定位置恢复指定数据块。

然后,文件系统是文件越大越有效率,备份数据要验证,定期恢复测试。

可以采用备份管理软件,例如bakbone。

如果不是几kb的文件不必担心性能。

论坛徽章:
0
13 [报告]
发表于 2009-01-04 09:34 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
14 [报告]
发表于 2009-01-04 11:41 |只看该作者
原帖由 soway 于 2009-1-4 09:34 发表
对于小文件备份目前似乎确实没有更理想的手段了。
我元旦放假前,将一个600多G的目录使用最简单的cp方式到另外一个地方。

结果花费了3600分钟,也就是60小时。里边全是小文件,我都不敢去统计到底是多少个文 ...

对于小文件的备份的软件还是有的,像EMC  disk Xtend,

论坛徽章:
9
技术图书徽章
日期:2014-10-14 15:48:13数据库技术版块每日发帖之星
日期:2015-06-04 22:20:00数据库技术版块每日发帖之星
日期:2015-06-10 22:20:00数据库技术版块每日发帖之星
日期:2015-06-11 22:20:00数据库技术版块每日发帖之星
日期:2015-06-13 22:20:00IT运维版块每日发帖之星
日期:2015-09-22 06:20:00IT运维版块每日发帖之星
日期:2015-12-08 06:20:00综合交流区版块每日发帖之星
日期:2016-02-02 06:20:00IT运维版块每日发帖之星
日期:2016-07-25 06:20:00
15 [报告]
发表于 2009-01-04 12:39 |只看该作者
原帖由 tech11 于 2008-12-29 23:44 发表
本来是直接备份到磁带机的,老板觉得磁带在公司隔夜不安全,一定要把数据先备份到另一台机器上,到周五的时候,在白天来备份这一周的数据到磁带上。目前是每周一个全备,其他时间增量,数据量近200G。如果想白天 ...


可以利用夜间时间把数据tar到其它服务器上.怕停电就配UPS,8块松下电池足够你两台服务器挺24小时了,加个APC的UPS,3KW的就足够了,一共才一万多。

论坛徽章:
0
16 [报告]
发表于 2009-01-04 13:03 |只看该作者
现在有ups,一个很大的电池柜,不过只能支持1小时,我是觉得备份到另一个服务器,缺点是:
再备到磁带机麻烦,而且恢复时需要恢复两次;
也担心备份大文件时出错;
将来数据量大了备份窗口不够;
白天备份也会影响大家工作

论坛徽章:
9
技术图书徽章
日期:2014-10-14 15:48:13数据库技术版块每日发帖之星
日期:2015-06-04 22:20:00数据库技术版块每日发帖之星
日期:2015-06-10 22:20:00数据库技术版块每日发帖之星
日期:2015-06-11 22:20:00数据库技术版块每日发帖之星
日期:2015-06-13 22:20:00IT运维版块每日发帖之星
日期:2015-09-22 06:20:00IT运维版块每日发帖之星
日期:2015-12-08 06:20:00综合交流区版块每日发帖之星
日期:2016-02-02 06:20:00IT运维版块每日发帖之星
日期:2016-07-25 06:20:00
17 [报告]
发表于 2009-01-04 15:19 |只看该作者
原帖由 tech11 于 2009-1-4 13:03 发表
现在有ups,一个很大的电池柜,不过只能支持1小时,我是觉得备份到另一个服务器,缺点是:
再备到磁带机麻烦,而且恢复时需要恢复两次;
也担心备份大文件时出错;
将来数据量大了备份窗口不够;
白天备份也 ...


用SAMBA稳定性就够用了,经常用它拷文件,下班前开始拷,第二天上班的时候就拷完了,经常很多碎文件,不掉线,大文件就更没问题了。你可以在备份用的服务器上设置这个服务,然后MOUNT到你的数据服务器某个目录上,再在数据服务器上把数据TAR到这个目录,用ATD自动运行TAR备份或者下班前手工启动TAR备份。

我这里用的是松下电池,粗略估算平均一块电池一台服务器用能坚持5到6个小时,才1000块多点,很便宜的,有条件就多配点。
还有哦,备份的是什么类型的数据?如果是ORACLE的数据库文件,听天由命吧,数据杀手……

[ 本帖最后由 bbjmmj 于 2009-1-4 15:20 编辑 ]

论坛徽章:
0
18 [报告]
发表于 2009-01-06 11:47 |只看该作者
oracle数据库文件怎么是数据杀手啊?没用过不懂

NBU备份大文件时对内存有要求么?比如一个200G的文件,内存+swap才不到100G,不知道这个备份过程是怎样的,需要写入缓存么?白天备份大文件对内存的占用不知道怎么样

论坛徽章:
1
CU十二周年纪念徽章
日期:2013-10-24 15:41:34
19 [报告]
发表于 2009-01-06 11:53 |只看该作者
原帖由 tech11 于 2009-1-6 11:47 发表
oracle数据库文件怎么是数据杀手啊?没用过不懂

NBU备份大文件时对内存有要求么?比如一个200G的文件,内存+swap才不到100G,不知道这个备份过程是怎样的,需要写入缓存么?白天备份大文件对内存的占用不知道 ...


NBU备份的时候用的是share memory,这个值和你做的NBU配置参数有关系,和文件大小没有关系。

NBU按network buffer大小读的数据(这是NBU的参数和OS无关),缺省是64K,所以和swap的大小也无关。

备份的时候对内存影响不到,主要的影响是系统I/O的影响。

论坛徽章:
0
20 [报告]
发表于 2009-01-06 12:02 |只看该作者
原帖由 edision 于 2009-1-4 11:41 发表

对于小文件的备份的软件还是有的,像EMC  disk Xtend,


DiskXtend如何备份小文件呢?据我知它主要做文件迁移归档。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP