免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
123下一页
最近访问板块 发新帖
查看: 3518 | 回复: 24
打印 上一主题 下一主题

求程序或者思路 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-03-28 16:53 |只看该作者 |倒序浏览
现在有一个大文本文件,对文本文件的每行进行相关的处理后,输出到一个文本中去,
现在中间的处理过程需要消耗大量的时候,怎么处理才能使处理过程时间大大缩短,
求程序~~

论坛徽章:
0
2 [报告]
发表于 2013-03-28 18:27 |只看该作者
没人知道你所谓的中间处理是什么处理,也不知道这些处理是不是都是必要的,所以怎么可能知道如何缩短时间呢?更别提程序了。
sinian126 该用户已被删除
3 [报告]
发表于 2013-03-28 20:50 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
4 [报告]
发表于 2013-03-28 21:19 |只看该作者
picbhan 发表于 2013-03-28 18:27
没人知道你所谓的中间处理是什么处理,也不知道这些处理是不是都是必要的,所以怎么可能知道如何缩短时间呢 ...

中间的处理过程基本上优化空间不大,就是想能不对文件进行文件拆分或者存进数组在内存中拆分,并行处理。。
就是一个文件多线程写进另一个文本的程序。。

论坛徽章:
0
5 [报告]
发表于 2013-03-28 21:20 |只看该作者
sinian126 发表于 2013-03-28 20:50
来个 数据 或是 代码  告诉我们你要实现 什么啊

来个多线程并行处理的程序。。。
sinian126 该用户已被删除
6 [报告]
发表于 2013-03-28 21:31 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
3
CU十二周年纪念徽章
日期:2013-10-24 15:41:34子鼠
日期:2013-12-14 14:57:19射手座
日期:2014-04-25 21:23:23
7 [报告]
发表于 2013-03-28 21:50 |只看该作者
用hadoop吧{:3_186:}  大数据 都用它。。然后加上脚本  快速解决大数据问题

论坛徽章:
0
8 [报告]
发表于 2013-03-29 08:24 |只看该作者
mcshell 发表于 2013-03-28 21:50
用hadoop吧  大数据 都用它。。然后加上脚本  快速解决大数据问题

好像不行,这件分割匹配处理的太多了,用数据库好像不太现实。。。

论坛徽章:
3
CU十二周年纪念徽章
日期:2013-10-24 15:41:34子鼠
日期:2013-12-14 14:57:19射手座
日期:2014-04-25 21:23:23
9 [报告]
发表于 2013-03-29 09:04 |只看该作者
回复 8# zhangmaocun


    hadoop是一个云计算架构....

论坛徽章:
42
19周年集字徽章-周
日期:2019-10-14 14:35:31平安夜徽章
日期:2015-12-26 00:06:30数据库技术版块每日发帖之星
日期:2015-12-01 06:20:002015亚冠之首尔
日期:2015-11-04 22:25:43IT运维版块每日发帖之星
日期:2015-08-17 06:20:00寅虎
日期:2014-06-04 16:25:27狮子座
日期:2014-05-12 11:00:00辰龙
日期:2013-12-20 17:07:19射手座
日期:2013-10-24 21:01:23CU十二周年纪念徽章
日期:2013-10-24 15:41:34IT运维版块每日发帖之星
日期:2016-01-27 06:20:0015-16赛季CBA联赛之新疆
日期:2016-06-07 14:10:01
10 [报告]
发表于 2013-03-29 09:35 |只看该作者
既然已经有了文件
不明白你要多线程干什么用
直接多进程,从不同的偏移量开始读就ok了
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP