免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
› 论坛 › 数据库技术 › MySQL › 如何对一个亿级数据的表按照一个没有索引的字段进行统计
最近访问板块 发新帖
查看: 5490 | 回复: 8
打印 上一主题 下一主题

如何对一个亿级数据的表按照一个没有索引的字段进行统计 [复制链接]

skypeleo

论坛徽章:
0
跳转到指定楼层
1楼 [收藏(0)] [报告]
发表于 2014-11-21 11:04 |只看该作者 |倒序浏览
如何对一个亿级数据的表按照一个没有索引的字段进行统计
action08

论坛徽章:
224
2022北京冬奥会纪念版徽章 日期:2015-08-10 16:30:32操作系统版块每日发帖之星 日期:2016-02-18 06:20:00操作系统版块每日发帖之星 日期:2016-03-01 06:20:00操作系统版块每日发帖之星 日期:2016-03-02 06:20:0015-16赛季CBA联赛之上海 日期:2019-09-20 12:29:3219周年集字徽章-周 日期:2019-10-01 20:47:4815-16赛季CBA联赛之八一 日期:2020-10-23 18:30:5320周年集字徽章-20 日期:2020-10-28 14:14:2615-16赛季CBA联赛之广夏 日期:2023-02-25 16:26:26CU十四周年纪念徽章 日期:2023-04-13 12:23:1015-16赛季CBA联赛之四川 日期:2023-07-25 16:53:45操作系统版块每日发帖之星 日期:2016-05-10 19:22:58
2楼 [报告]
发表于 2014-11-21 15:59 |只看该作者
big date大数据技术不要太多

貌似mysql不给力的说呀
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
action08

论坛徽章:
224
2022北京冬奥会纪念版徽章 日期:2015-08-10 16:30:32操作系统版块每日发帖之星 日期:2016-02-18 06:20:00操作系统版块每日发帖之星 日期:2016-03-01 06:20:00操作系统版块每日发帖之星 日期:2016-03-02 06:20:0015-16赛季CBA联赛之上海 日期:2019-09-20 12:29:3219周年集字徽章-周 日期:2019-10-01 20:47:4815-16赛季CBA联赛之八一 日期:2020-10-23 18:30:5320周年集字徽章-20 日期:2020-10-28 14:14:2615-16赛季CBA联赛之广夏 日期:2023-02-25 16:26:26CU十四周年纪念徽章 日期:2023-04-13 12:23:1015-16赛季CBA联赛之四川 日期:2023-07-25 16:53:45操作系统版块每日发帖之星 日期:2016-05-10 19:22:58
3楼 [报告]
发表于 2014-11-25 17:42 |只看该作者
怎么没大牛出来分享啊？？
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
淡定与洒脱

论坛徽章:
2
2015年辞旧岁徽章 日期:2015-03-03 16:54:152015年迎新春徽章 日期:2015-03-04 09:58:11
4楼 [报告]
发表于 2014-11-25 23:34 |只看该作者
表玩到1亿记录，不应该啊，跟领导诉诉苦，多买几台服务器进行分表。或者让公司上单独的hadoop分布式日志分析系统。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
rock0018

论坛徽章:
0
5楼 [报告]
发表于 2014-11-26 18:35 |只看该作者
回复 4# 淡定与洒脱


    记得mysql 有列式数据库 inforbright .不过比较费神
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
psufnxk2000

论坛徽章:
1
2015年亚洲杯之阿联酋 日期:2015-03-11 18:03:25
6楼 [报告]
发表于 2014-11-27 23:23 |只看该作者
对于mysql来说，没啥好办法，
分表 可以更好的用并行
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
苏州微信

论坛徽章:
0
7楼 [报告]
发表于 2014-12-09 23:54 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
909413335

论坛徽章:
0
8楼 [报告]
发表于 2014-12-10 12:16 |只看该作者
1）如果你只是一次性的统计操作，在备份的时候，带上--skip-extended-insert，这样每条记录就是一行了，然后用AWK去统计。
2）如果是经常性的统计操作，另外建个表用来做计数器，对大表做操作的时候同步更新这个计数器表，统计的时候就直接读计数器表。统计信息存MYSQL,REDIS都可以实现。
3）如果不能改代码，就升级服务器硬件，提高磁盘转速，换SSD磁盘。
4）再不行，就只有慢慢等了。

楼上说partition+索引的， partition了的字段，必然已经是有索引了。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
归隐乡村

论坛徽章:
0
9楼 [报告]
发表于 2014-12-17 15:13 |只看该作者
学习了。多谢分享。回复 8# 909413335


   
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP