免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
› 论坛 › 操作系统 › Linux新手园地 › 菜鸟求助
最近访问板块 发新帖
查看: 1529 | 回复: 7
打印 上一主题 下一主题

[学习分享] 菜鸟求助 [复制链接]

genius04121

论坛徽章:
0
跳转到指定楼层
1楼 [收藏(0)] [报告]
发表于 2013-06-17 20:02 |只看该作者 |倒序浏览
问个问题 比如郭 我读取数据库 读取很多记录之后写到文件中，每个文件都有限制的容量。大小不能超过一个固定值。我现在是先全写到一个文件 之后在split 问下 有什么更好的办法吗
lbseraph

论坛徽章:
48
15-16赛季CBA联赛之青岛 日期:2021-01-07 13:41:2315-16赛季CBA联赛之上海 日期:2020-12-01 18:02:0720周年集字徽章-20 日期:2020-10-28 14:14:2620周年集字徽章-20 日期:2020-10-28 14:04:3015-16赛季CBA联赛之天津 日期:2020-10-18 22:51:412016猴年福章徽章 日期:2016-02-18 15:30:3415-16赛季CBA联赛之北控 日期:2015-12-22 13:30:48操作系统版块每日发帖之星 日期:2015-12-07 06:20:00操作系统版块每日发帖之星 日期:2015-09-04 06:20:002015亚冠之德黑兰石油 日期:2015-08-05 18:46:082015年亚洲杯之巴勒斯坦 日期:2015-04-19 10:42:502015年亚洲杯之巴林 日期:2015-04-09 08:03:23
2楼 [报告]
发表于 2013-06-17 22:32 |只看该作者
没明白你想做什么~
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
genius04121

论坛徽章:
0
3楼 [报告]
发表于 2013-06-18 09:10 |只看该作者
回复 2# lbseraph


   
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
genius04121

论坛徽章:
0
4楼 [报告]
发表于 2013-06-18 09:14 |只看该作者
就是说我从数据库中读出了几百万条的记录。之后要把这些记录写到文件中。文件大小的要求是30M 超过30M就要创建一个新的文件。之后写到新的文件中。如果每写入一条就判断一次 开销太大了。我现在的做法是把所有记录先写到一个文件中。之后再用split 分割成一个一个小文件 就是问下 还有什么更好的办法吗
回复 2# lbseraph


   
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
lbseraph

论坛徽章:
48
15-16赛季CBA联赛之青岛 日期:2021-01-07 13:41:2315-16赛季CBA联赛之上海 日期:2020-12-01 18:02:0720周年集字徽章-20 日期:2020-10-28 14:14:2620周年集字徽章-20 日期:2020-10-28 14:04:3015-16赛季CBA联赛之天津 日期:2020-10-18 22:51:412016猴年福章徽章 日期:2016-02-18 15:30:3415-16赛季CBA联赛之北控 日期:2015-12-22 13:30:48操作系统版块每日发帖之星 日期:2015-12-07 06:20:00操作系统版块每日发帖之星 日期:2015-09-04 06:20:002015亚冠之德黑兰石油 日期:2015-08-05 18:46:082015年亚洲杯之巴勒斯坦 日期:2015-04-19 10:42:502015年亚洲杯之巴林 日期:2015-04-09 08:03:23
5楼 [报告]
发表于 2013-06-18 10:17 |只看该作者
可考虑用logrotate吧，至于谁的开销大，你最好在你的环境里面测一下看看。

参考链接：http://unix.stackexchange.com/qu ... log-file-size-using
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
zongg

论坛徽章:
21
白羊座 日期:2013-08-23 15:49:17金牛座 日期:2013-10-08 17:00:03处女座 日期:2013-10-12 11:54:11CU十二周年纪念徽章 日期:2013-10-24 15:41:34午马 日期:2013-11-27 14:07:21巨蟹座 日期:2013-12-04 10:56:03水瓶座 日期:2013-12-04 15:58:00亥猪 日期:2014-05-24 16:02:3115-16赛季CBA联赛之辽宁 日期:2016-11-07 13:52:53戌狗 日期:2013-08-23 16:15:31白羊座 日期:2013-08-24 21:59:24巨蟹座 日期:2013-08-25 16:34:24
6楼 [报告]
发表于 2013-06-18 10:28 |只看该作者
你用什么软件读取的？还是在命令行？如果在命令行的话只能想到split
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
XanaduNWH

论坛徽章:
0
7楼 [报告]
发表于 2013-06-18 11:27 |只看该作者
最后做split应该是最省资源的办法了吧
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
Shell_HAT

论坛徽章:
33
ChinaUnix元老 日期:2015-02-02 08:55:39CU十四周年纪念徽章 日期:2019-08-20 08:30:3720周年集字徽章-周 日期:2020-10-28 14:13:3020周年集字徽章-20 日期:2020-10-28 14:04:3019周年集字徽章-CU 日期:2019-09-08 23:26:2519周年集字徽章-19 日期:2019-08-27 13:31:262016科比退役纪念章 日期:2022-04-24 14:33:24
8楼 [报告]
发表于 2013-06-18 13:30 |只看该作者
你的split方案就挺好，简洁实用。
实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？
返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP