免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3739 | 回复: 7
打印 上一主题 下一主题

发一个私货:TreapDB [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2010-12-15 10:48 |只看该作者 |倒序浏览
TreapDB是一个开源项目,采用了Treap作为其索引结构,主要有以下特点:

  • 支持大数据量(1亿以内的key-value pair,在SATA硬盘,64位服务器上8200tps随机key写入,12000tps顺序key写入,16000tps读取)
           最新采用的批量更新技术,可以达到1.7万条随机写入每秒
           key是"thing1"~"thing10000000"这样的字符串,value是100字节的字符串
  • 不仅支持GET和PUT操作,还支持取前缀,取区间(开区间、闭区间),K个最小值,K个最大值
  • 支持主从复制,从而实现读写分离和灾备
  • 同时支持Memcached的协议和基于Thrfit的协议(后者可以支持轻松生成各种语言的客户端)
  • 可以把TreapDB的索引数据结构嵌入自己的代码,就一个jar包,完全可以不用使用RPC服务器


这个项目目前两个人开发,闭门造车,幼稚之处难免,还请各位高手指正,谢谢!


地址:http://code.google.com/p/treapdb/

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2016-03-12 06:20:00
2 [报告]
发表于 2010-12-15 10:52 |只看该作者
有没有做成MySQL的引擎
我知道有不少公司在做这类东西

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2016-03-12 06:20:00
3 [报告]
发表于 2010-12-15 10:53 |只看该作者
有没有做成MySQL的引擎
我知道有不少公司在做这类东西

论坛徽章:
0
4 [报告]
发表于 2010-12-15 10:58 |只看该作者
@qlks, 你这个思路对我很有启发啊。

我们是用Java写的,改成MySQL的引擎不知道好不好弄啊

论坛徽章:
9
每日论坛发贴之星
日期:2016-01-04 06:20:00数据库技术版块每日发帖之星
日期:2016-01-04 06:20:00每日论坛发贴之星
日期:2016-01-04 06:20:00数据库技术版块每日发帖之星
日期:2016-01-04 06:20:00IT运维版块每日发帖之星
日期:2016-01-04 06:20:00IT运维版块每日发帖之星
日期:2016-01-04 06:20:00综合交流区版块每日发帖之星
日期:2016-01-04 06:20:00综合交流区版块每日发帖之星
日期:2016-01-04 06:20:00数据库技术版块每周发帖之星
日期:2016-03-07 16:30:25
5 [报告]
发表于 2010-12-15 13:26 |只看该作者
看来是独立key-value的存储产品咯~~~
可以考虑和同类产品做个横向评测~~

论坛徽章:
0
6 [报告]
发表于 2010-12-16 16:58 |只看该作者
可以考虑做基于key-values的 values可以多列的.估定大小的列, 然后下面挂DB, 直接对Cache更新,然后更新完了Cache写DB.

思路就是把MySQL的表 转化到Cache中,这样比较有实用性了.

单纯的key-values很难和memcached这类产品比了.

论坛徽章:
0
7 [报告]
发表于 2010-12-23 16:18 |只看该作者
TreapDB 2.0 RC1改进内容:
  • 新增操作:"bulkPrefix", "removePrefix"(批量按前缀索取,按前缀删除)
  • 删除的节点的磁盘空间可以复用
  • 体积大的Value用QuickLZ算法压缩后存储
  • 新的操作: "optimize",可以将顶层节点置换到内存映射区域(当内存比索引文件小时有用)
  • 操作"prefix"可以自定义排序是正序还是倒序
  • 一个分页的bug被修复
  • 一个批量写的bug被修复
  • 更易使用的python客户端


http://code.google.com/p/treapdb

论坛徽章:
0
8 [报告]
发表于 2010-12-23 22:44 |只看该作者
很强大,首先对此表示敬佩。
我觉得你要做这个,假如是想做成产品而不是为了学习或者练手的话,不妨研究一下同类型的数据库产品,比如mongodb等等,假如mongodb跟你们的需求完全吻合的话,我觉得与其自己写,不如去了解mongodb,同时也想开源贡献自己的力量。
这样也等于珍惜了有限的生命
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP