免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12
最近访问板块 发新帖
楼主: badeager
打印 上一主题 下一主题

【讨论中】遇到个大数据表的问题 1个月的数据在2G左右 [复制链接]

论坛徽章:
8
CU大牛徽章
日期:2013-09-18 15:20:48CU大牛徽章
日期:2013-09-18 15:20:58CU大牛徽章
日期:2013-09-18 15:21:06CU大牛徽章
日期:2013-09-18 15:21:12CU大牛徽章
日期:2013-09-18 15:21:17天秤座
日期:2013-10-30 14:01:03摩羯座
日期:2013-11-29 18:02:31luobin
日期:2016-06-17 17:46:36
11 [报告]
发表于 2012-09-19 12:35 |只看该作者
其实看楼主的描述,这个应该是他的一个测试,不是业务环境。应该最大的问题是硬件。

论坛徽章:
154
2022北京冬奥会纪念版徽章
日期:2015-08-07 17:10:5720周年集字徽章-年
日期:2022-10-26 16:44:2015-16赛季CBA联赛之深圳
日期:2022-11-02 14:02:4515-16赛季CBA联赛之八一
日期:2022-11-28 12:07:4820周年集字徽章-20	
日期:2023-07-19 08:49:4515-16赛季CBA联赛之八一
日期:2023-11-04 19:23:5115-16赛季CBA联赛之广夏
日期:2023-12-13 18:09:34
12 [报告]
发表于 2012-09-19 12:48 |只看该作者
chinafenghao 发表于 2012-09-19 12:35
其实看楼主的描述,这个应该是他的一个测试,不是业务环境。应该最大的问题是硬件。


对,跑这么大的业务舍不得花钱是心病{:3_188:}

论坛徽章:
0
13 [报告]
发表于 2012-09-19 13:15 |只看该作者
select  a from  testtable group by a
这种在八千万的表上能快才怪   建议把结果集记录在小表上  没十分钟执行一次  把执行结果覆盖

论坛徽章:
0
14 [报告]
发表于 2012-09-22 21:03 |只看该作者
呵呵,现在只是测试,不过,以后会是业务的,机器不是问题,但是性能肯定是个问题,所以决定最后肯定需要分表,可能会涉及到分区。
这样应该可以解决这个问题。

论坛徽章:
1
2015亚冠之本尤德科
日期:2015-06-05 17:25:48
15 [报告]
发表于 2012-09-24 10:18 |只看该作者
具体思路:

(1)先通过索引优化。

(2)如果不成功,可以,分区,清除历史数据,或者把表直接拆分出来。单独做OLAP。

论坛徽章:
223
2022北京冬奥会纪念版徽章
日期:2015-08-10 16:30:32操作系统版块每日发帖之星
日期:2016-05-10 19:22:58操作系统版块每日发帖之星
日期:2016-02-18 06:20:00操作系统版块每日发帖之星
日期:2016-03-01 06:20:00操作系统版块每日发帖之星
日期:2016-03-02 06:20:0015-16赛季CBA联赛之上海
日期:2019-09-20 12:29:3219周年集字徽章-周
日期:2019-10-01 20:47:4815-16赛季CBA联赛之八一
日期:2020-10-23 18:30:5320周年集字徽章-20	
日期:2020-10-28 14:14:2615-16赛季CBA联赛之广夏
日期:2023-02-25 16:26:26CU十四周年纪念徽章
日期:2023-04-13 12:23:10操作系统版块每日发帖之星
日期:2016-05-10 19:22:58
16 [报告]
发表于 2012-09-28 17:32 |只看该作者
zhangshengdong 发表于 2012-09-24 10:18
具体思路:

(1)先通过索引优化。


OLAP是什么哦?好用不?

论坛徽章:
0
17 [报告]
发表于 2012-10-04 10:58 |只看该作者
后来发现,硬件问题固然是一个点,但是硬件绝对没有办法完全解决这个问题。
现在采用了分表的方式,很好的解决了两个多月,近三个月的数据查询。
但是下一步还是需要分区, 以保证每个区的数据大小需要维持在这个状态即可。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP