happy_fish100 发表于 2021-12-28 15:59

FastCFS V3.0发布,支持百亿级海量文件

本帖最后由 happy_fish100 于 2021-12-28 16:00 编辑

    经过整整5个月的潜心研发,FastCFS v3.0终于发布了。FastCFS 3.0 主要改进:核心组件FastDIR通过插件方式实现数据存储引擎,采用binlog + 存储引擎插件,按需加载inode数据,单机以有限内存(如64GB)支持100亿级的海量文件。

    通过binlog实现的数据持久化比较简单,程序重启时通过binlog重放将inode数据全部加载到内存中,这种方式存储海量文件存在如下两个问题:
    1. 程序启动就绪时间长(每秒加载大约200万个inode);
    2. 对内存空间要求非常高(一个inode占用大约300个字节)。

    V3.0引入的存储引擎插件,很好地解决了单纯通过binlog实现数据持久化的两大问题。后续会有技术文章详细介绍FastDIR存储引擎的原理和特点,敬请期待。

    另外,FastCFS 3.0 修复了如下3个bug:
    increase/decrease parent's nlink on rename operation
    set dentry->kv_array->count to 0 correctly
    should init barray->count to 0

    FastCFS开源项目托管在github和gitee,欢迎大家安装使用最新版本的FastCFS,有任何疑问和建议随时交流。

页: [1]
查看完整版本: FastCFS V3.0发布,支持百亿级海量文件