免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: flysever
打印 上一主题 下一主题

[其他] 求大量小图片存储方案 [复制链接]

论坛徽章:
0
11 [报告]
发表于 2011-06-07 15:30 |只看该作者
我不懂,200t,用iscsi存储挺好,不过关键是文件太多。。。我也不懂了

论坛徽章:
0
12 [报告]
发表于 2011-06-07 15:44 |只看该作者
揭秘淘宝286亿海量图片存储与处理架构


偶采访淘宝的文章可以参考下的哦亲,淘宝用的分布式文件系 ...
夜的小宇宙 发表于 2011-06-01 14:02



    好厉害呀亲,页面打不开哦亲

论坛徽章:
9
技术图书徽章
日期:2014-10-14 15:48:13数据库技术版块每日发帖之星
日期:2015-06-04 22:20:00数据库技术版块每日发帖之星
日期:2015-06-10 22:20:00数据库技术版块每日发帖之星
日期:2015-06-11 22:20:00数据库技术版块每日发帖之星
日期:2015-06-13 22:20:00IT运维版块每日发帖之星
日期:2015-09-22 06:20:00IT运维版块每日发帖之星
日期:2015-12-08 06:20:00综合交流区版块每日发帖之星
日期:2016-02-02 06:20:00IT运维版块每日发帖之星
日期:2016-07-25 06:20:00
13 [报告]
发表于 2011-06-07 23:02 |只看该作者
回复  bbjmmj
现在是为了解决存储这些小图片的问题。目前所有图片的地址路径是保存在数据库里面
flysever 发表于 2011-06-01 08:41



    reiserfs处理小文件速度比较快,我试过GLUSTERFS +REISERFS,挺HIGH的。
    外网读取图片,要做SQUID反向代理,SQUID节点内存要大,使用插卡式固态盘,这样性能会很好,价格也在可接受的范围之内。实际上这样一搞之后,数据被分成三级,内存、固态盘和硬盘,再结合集群文件系统和REISERFS,性能会很不错,不过系统结构多少有点让人头大。

论坛徽章:
1
处女座
日期:2013-08-19 15:17:06
14 [报告]
发表于 2011-06-09 17:55 |只看该作者
硬件存储采用NAS来处理吧 , 访问通过nfs或者cifs。

论坛徽章:
0
15 [报告]
发表于 2011-06-10 16:54 |只看该作者
集群存储吧……GFS之类的。应对海量小图片有优势……

看看http://www.loongstore.com.cn/index.action这个吧。这个便宜……国产的。

论坛徽章:
0
16 [报告]
发表于 2011-06-12 18:38 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
7
双子座
日期:2013-09-09 15:55:31CU大牛徽章
日期:2013-09-18 15:22:06CU大牛徽章
日期:2013-09-18 15:22:20CU大牛徽章
日期:2013-09-18 15:22:26CU大牛徽章
日期:2013-09-18 15:22:31CU大牛徽章
日期:2013-09-18 15:22:37CU大牛徽章
日期:2013-09-18 15:22:46
17 [报告]
发表于 2011-06-12 18:43 |只看该作者
最近看BTRFS的文档,对海量文件的搜索比传统的线性表文件系统据说看很多。楼主可以参考参考。ZFS应该也是有这样特性的

论坛徽章:
12
数据库技术版块每日发帖之星
日期:2015-07-08 22:20:00IT运维版块每日发帖之星
日期:2016-05-01 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44IT运维版块每月发帖之星
日期:2016-03-07 16:25:25IT运维版块每日发帖之星
日期:2016-02-21 06:20:00IT运维版块每日发帖之星
日期:2016-02-20 06:20:00数据库技术版块每日发帖之星
日期:2016-02-06 06:20:00IT运维版块每日发帖之星
日期:2016-01-30 06:20:00IT运维版块每日发帖之星
日期:2016-01-03 06:20:00IT运维版块每日发帖之星
日期:2015-11-29 06:20:00IT运维版块每日发帖之星
日期:2015-08-10 06:20:00数据库技术版块每日发帖之星
日期:2016-06-16 06:20:00
18 [报告]
发表于 2011-06-12 20:47 |只看该作者
有钱就gpfs这类的商业化的文件系统 没钱就自己找开源的分布式文件系统吧 前提是你自己能这个能力玩得转 有能力的话看看plan9的东西  到了一定层次就不单单是软件或者硬件的问题了 是整个构架的问题 最起码国内的环境没几个人能搞的定 不是没人 是没人让你做!

论坛徽章:
4
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:11IT运维版块每日发帖之星
日期:2016-08-11 06:20:00IT运维版块每日发帖之星
日期:2016-08-15 06:20:00
19 [报告]
发表于 2011-06-17 11:38 |只看该作者
即将发布FastDFS 3.0可以很好的解决LZ的问题。
详情参见:http://bbs.chinaunix.net/thread-1916943-1-1.html

论坛徽章:
0
20 [报告]
发表于 2011-06-17 12:23 |只看该作者
图片,视频等文件经过压缩,多多少少对像素都有影响吧,如果单纯的存储的话,就布iSCSI的磁盘阵列,如果还有一些其他的需求,比如前端应用跨平台等,用NAS也可以,预算高的话还可以选集群NAS,以后扩容也方便。ashuntx@126.com 有兴趣的话私聊给你参谋参谋,呵呵
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP