免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 17404 | 回复: 0

[其他DFS] FastCFS V3.0发布,支持百亿级海量文件 [复制链接]

论坛徽章:
4
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:11IT运维版块每日发帖之星
日期:2016-08-11 06:20:00IT运维版块每日发帖之星
日期:2016-08-15 06:20:00
发表于 2021-12-28 15:59 |显示全部楼层
本帖最后由 happy_fish100 于 2021-12-28 16:00 编辑

    经过整整5个月的潜心研发,FastCFS v3.0终于发布了。FastCFS 3.0 主要改进:核心组件FastDIR通过插件方式实现数据存储引擎,采用binlog + 存储引擎插件,按需加载inode数据,单机以有限内存(如64GB)支持100亿级的海量文件。

    通过binlog实现的数据持久化比较简单,程序重启时通过binlog重放将inode数据全部加载到内存中,这种方式存储海量文件存在如下两个问题:
    1. 程序启动就绪时间长(每秒加载大约200万个inode);
    2. 对内存空间要求非常高(一个inode占用大约300个字节)。

    V3.0引入的存储引擎插件,很好地解决了单纯通过binlog实现数据持久化的两大问题。后续会有技术文章详细介绍FastDIR存储引擎的原理和特点,敬请期待。

    另外,FastCFS 3.0 修复了如下3个bug:
     [fdir] increase/decrease parent's nlink on rename operation
     [fdir] set dentry->kv_array->count to 0 correctly
     [fstore] should init barray->count to 0

    FastCFS开源项目托管在github和gitee,欢迎大家安装使用最新版本的FastCFS,有任何疑问和建议随时交流。


您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP