免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3018 | 回复: 6
打印 上一主题 下一主题

1000w数据量表做接口问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2008-09-05 17:55 |只看该作者 |倒序浏览
需求:1000w数据量表做接口问题,字段数量在20左右,没有text(不仅仅一张表,还有其他表只不过数据量相对小一些)
可能要和其他表做一定关联操作。要做一组接口,最强的用户几乎需要全部数据,
目前想法是把数据先计算出保存到单独新建库中的一张表中,建立索引什么的。
问题:在做数据插入时log太大,而这张表是做配置的表也没有主键。
有没有牛人给个好的建议----
现在有点蒙-----老大也给不出什么好的办法
注:目前 log空间为400M左右(能容忍的范围为小于1G),不想在括log上做文章

论坛徽章:
4
2015年亚洲杯之阿联酋
日期:2015-03-10 10:32:022015年亚洲杯之阿曼
日期:2015-03-10 14:53:222015亚冠之水原三星
日期:2015-07-18 15:40:262015亚冠之塔什干棉农
日期:2015-07-27 20:52:05
2 [报告]
发表于 2008-09-05 22:38 |只看该作者
没说明白,是要复制数据吗?select into行吗?

论坛徽章:
0
3 [报告]
发表于 2008-09-06 10:07 |只看该作者
1、可以用bcp out 然后 bcp in
2、分段select into , 表中肯定有数据可以将1000万分成几份的,比如时间,比如机构代码,或者交易号。

论坛徽章:
0
4 [报告]
发表于 2008-09-06 10:19 |只看该作者

回复 #3 tyrone.dev 的帖子

“分段select into , 表中肯定有数据可以将1000万分成几份的,比如时间,比如机构代码,或者交易号。”这中方法也想过这个表主要是是做 资源关联的 都没有什么 区分度太好的字段,
“可以用bcp out 然后 bcp in”的话可能不错,我试试先

论坛徽章:
0
5 [报告]
发表于 2008-09-06 10:24 |只看该作者

回复 #2 1017of 的帖子

是要把数据 倒换到一个新建的库中做基础表,然后
做一些权限控制,然后将这些数据以建不同逻辑的view的形式给各个用户访问,
用户会定时取相应权限的view中的数据,不具有修改删除权限,只是做接口。不同用户取不同类型的数据。
我们是买数据的

论坛徽章:
4
2015年亚洲杯之阿联酋
日期:2015-03-10 10:32:022015年亚洲杯之阿曼
日期:2015-03-10 14:53:222015亚冠之水原三星
日期:2015-07-18 15:40:262015亚冠之塔什干棉农
日期:2015-07-27 20:52:05
6 [报告]
发表于 2008-09-08 11:24 |只看该作者
400M的log空间是在原始库还是在新建库中?把新建库的log放大不行吗?

论坛徽章:
0
7 [报告]
发表于 2008-09-09 17:08 |只看该作者
快速bcp做
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP