免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2592 | 回复: 2
打印 上一主题 下一主题

[Linux] 最快的方法,把大型的数据结构从内存写入硬盘。 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-08-09 09:09 |只看该作者 |倒序浏览
大神们  
请你们想个最快的方法,把大型的数据结构从内存写入硬盘。
注意这个数据结构大部分都处于虚拟内存。
如果直接写的话,写的同时会出现很多缺页

假如物理内存20g,数据40g,写前20g比写后面虚存里的20g快10倍是少的。
linux哪些系统调用可以实现控制页面换出优先级和换出时机?

另外有没有方法直接把前20g从内存拷入硬盘文件,后20g直接DMA从硬盘复制追加到文件

另外还有别人提出的几个方案,大家看看效率各有多大提高?

1.索引+数据文件。可以对数据建索引,索引全内存,数据放磁盘,而且可以开一定的空间做cache ,索引比较小全内存dump到磁盘不是问题,数据分块append写是最高效的

2write时,加上O_DIRECT
3 mmap

论坛徽章:
4
水瓶座
日期:2013-09-06 12:27:30摩羯座
日期:2013-09-28 14:07:46处女座
日期:2013-10-24 14:25:01酉鸡
日期:2014-04-07 11:54:15
2 [报告]
发表于 2013-08-09 17:27 |只看该作者
索引的方案不错的.

论坛徽章:
0
3 [报告]
发表于 2013-08-10 13:06 |只看该作者
回复 2# linux_c_py_php

能请教一下具体怎么索引么 给个教程也好


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP