免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: send_linux
打印 上一主题 下一主题

架构师之旅之---设计大型分布式网站可能遇到的问题(获奖名单已公布-2014-10-24) [复制链接]

论坛徽章:
0
11 [报告]
发表于 2014-09-25 09:56 |只看该作者
mark 学习学习

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
12 [报告]
发表于 2014-09-25 12:31 |只看该作者
回复 8# Shell_HAT

牛,学习了!先顶再看!
   

论坛徽章:
16
IT运维版块每日发帖之星
日期:2015-10-02 06:20:00IT运维版块每月发帖之星
日期:2015-09-11 19:30:52IT运维版块每周发帖之星
日期:2015-09-11 19:20:31IT运维版块每日发帖之星
日期:2015-08-26 06:20:00每日论坛发贴之星
日期:2015-08-20 06:20:00IT运维版块每日发帖之星
日期:2015-08-20 06:20:002015年辞旧岁徽章
日期:2015-03-03 16:54:15金牛座
日期:2014-05-04 16:58:09双子座
日期:2013-12-17 16:44:37辰龙
日期:2013-11-22 15:20:59狮子座
日期:2013-11-18 22:55:08射手座
日期:2013-11-12 10:54:26
13 [报告]
发表于 2014-09-25 13:31 |只看该作者
本帖最后由 wenhq 于 2014-09-25 13:47 编辑

1.如何实现基于HTTP协议和TCP协议的RPC调用,它们之间有何差别?
HTTP与RPC存在差异是:
HTTP请求是使用具有标准语义的通用的接口定向到资源的,这些语义能够被中间组件和提供服务的来源机器进行解释。结果是使得一个应用支持分层的转换(layers of transformation)和间接层(indirection),并且独立于消息的来源,这对于一个Internet规模、多个组织、无法控制的可伸缩性的信息系统来说,是非常有用的。而TCP协议的RPC的机制是根据语言的API(language API)来定义的,而不是根据基于网络的应用来定义的。
2.常见的分布式系统存储解决方案有哪些?
存储有fastdfs,glusterfs,hdfs,ceph,sheepdog,nfs,lustre,
cache  repli-memcache, redis+twemproxy,ssdb
文档存储, mongoDB+replicset+sharding,riak
列存储: Hbase
RMDB数据库  mysql m/s  ,mysql proxy.

3.常见的Web攻击手段和防御方法?
SQL注入,解决办法就是强化SQL的语句的判断以及相应字段的校验。
DDos  服务器需要开启sync_cookies以便减少服务攻击
SSRF a. 过滤返回信息,验证远程服务器对请求的响应是比较容易的方法。b. 统一错误信息,避免用户可以根据错误信息来判断远端服务器的端口状态. c.黑名单内网ip。避免应用被用来获取获取内网数据,攻击内网。d.禁用不必要的协议。等。

4.如何进行集群的监控?
zabbix,ganglia,再加服务器本身脚本监控以及修复措施。

5.  说说您读完试读样章后的启发
书写的挺好,对细节的描述有些地方不够详细。。

论坛徽章:
224
2022北京冬奥会纪念版徽章
日期:2015-08-10 16:30:32操作系统版块每日发帖之星
日期:2016-02-18 06:20:00操作系统版块每日发帖之星
日期:2016-03-01 06:20:00操作系统版块每日发帖之星
日期:2016-03-02 06:20:0015-16赛季CBA联赛之上海
日期:2019-09-20 12:29:3219周年集字徽章-周
日期:2019-10-01 20:47:4815-16赛季CBA联赛之八一
日期:2020-10-23 18:30:5320周年集字徽章-20	
日期:2020-10-28 14:14:2615-16赛季CBA联赛之广夏
日期:2023-02-25 16:26:26CU十四周年纪念徽章
日期:2023-04-13 12:23:1015-16赛季CBA联赛之四川
日期:2023-07-25 16:53:45操作系统版块每日发帖之星
日期:2016-05-10 19:22:58
14 [报告]
发表于 2014-09-25 21:24 |只看该作者
本帖最后由 action08 于 2014-09-25 21:25 编辑

(4)假消息攻击

DNS高速缓存污染
防御:在防火墙上过滤入站的DNS更新,外部DNS服务器不应能更改你的内部服务器对内部机器的认识。


这个有详细的研究么??貌似外部dns压根就不管内部服务器的认识吧

所谓dns高速缓存污染,比如8888就肯定被污染了,

论坛徽章:
42
19周年集字徽章-周
日期:2019-10-14 14:35:31平安夜徽章
日期:2015-12-26 00:06:30数据库技术版块每日发帖之星
日期:2015-12-01 06:20:002015亚冠之首尔
日期:2015-11-04 22:25:43IT运维版块每日发帖之星
日期:2015-08-17 06:20:00寅虎
日期:2014-06-04 16:25:27狮子座
日期:2014-05-12 11:00:00辰龙
日期:2013-12-20 17:07:19射手座
日期:2013-10-24 21:01:23CU十二周年纪念徽章
日期:2013-10-24 15:41:34IT运维版块每日发帖之星
日期:2016-01-27 06:20:0015-16赛季CBA联赛之新疆
日期:2016-06-07 14:10:01
15 [报告]
发表于 2014-09-26 16:33 |只看该作者
1.如何实现基于HTTP协议和TCP协议的RPC调用,它们之间有何差别?
http是基于tcp之上的,web service,RESTful,xml-rpc,json-rpc都是典型的基于http的rpc调用
优点是有很多现成的高性能webserver, 底层接口通用,适合不同系统之间的调用。
http是现有的使用广泛的tcp协议之一 .proxy,keep-alive,route这些都是现成的。
二进制,流媒体,分块下载这些也都可以支持。

tcp就底层一些,开发工作量也大。如果有http做不了的特殊场合,可以考虑tcp实现。不过通用性肯定会差一些

5.  说说您读完试读样章后的启发
样章主要介绍了mysql.hbase,redis,lucene的一些基本功能和原理。希望多一些实际应用的经验和例子。

论坛徽章:
0
16 [报告]
发表于 2014-09-27 06:39 |只看该作者
本帖最后由 蓝色蜻蜓 于 2014-09-27 06:41 编辑

分布式存储方式:使用缓存进行存储中 ,memcache没怎么用到,但是在实际项目中使用了另外一个和这个相似的产品(商用产品名字就不用说了,免得有做广告的嫌疑),用来存储基础数据和session; 这个产品的提供了一部分数据库的功能,通过将一些基本参数表存储到缓存中,减少数据库的访问,以低成本的内存缓存节省数据库资源;将session数据存放于缓存中,实现分布式访问,以前应用的session数据存放在jvm内存中,负载均衡通过F5等网络负载的服务器实现请求数据的分发,并且随着在线用户量的增加需要扩大jvm内存和系统session数据的优化来提高系统的承载。
通过看书中部分章节的内容能够开拓分布式架构的思路,对一些开源的框架和技术有了大体了解,实际使用中还需要对每个技术方面进行深入研究。

求职 : Linux运维
论坛徽章:
19
CU大牛徽章
日期:2013-03-13 15:15:0815-16赛季CBA联赛之山东
日期:2016-10-31 10:40:10综合交流区版块每日发帖之星
日期:2016-07-06 06:20:00IT运维版块每日发帖之星
日期:2016-02-08 06:20:00数据库技术版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-10 06:20:00黄金圣斗士
日期:2015-11-24 10:45:10IT运维版块每日发帖之星
日期:2015-09-01 06:20:00IT运维版块每日发帖之星
日期:2015-08-13 06:20:00IT运维版块每日发帖之星
日期:2015-07-30 09:40:012015年亚洲杯之巴勒斯坦
日期:2015-05-05 10:19:03
17 [报告]
发表于 2014-09-28 08:08 |只看该作者
本帖最后由 niao5929 于 2014-09-28 08:10 编辑

我一直在想能不能再LINUX内核中定义一套管理命令子集,让集群系统节点能有那种自动加入集群组群并进行任务自动分摊的功能。避免现在的双机热备模式带来的系统资源浪费。同时避免那种主备切换带来的应用离线。以及传统模式中那种集权主控节点压力巨大的问题

求职 : Linux运维
论坛徽章:
19
CU大牛徽章
日期:2013-03-13 15:15:0815-16赛季CBA联赛之山东
日期:2016-10-31 10:40:10综合交流区版块每日发帖之星
日期:2016-07-06 06:20:00IT运维版块每日发帖之星
日期:2016-02-08 06:20:00数据库技术版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-10 06:20:00黄金圣斗士
日期:2015-11-24 10:45:10IT运维版块每日发帖之星
日期:2015-09-01 06:20:00IT运维版块每日发帖之星
日期:2015-08-13 06:20:00IT运维版块每日发帖之星
日期:2015-07-30 09:40:012015年亚洲杯之巴勒斯坦
日期:2015-05-05 10:19:03
18 [报告]
发表于 2014-09-28 08:33 |只看该作者
感觉数据库要真的集群化部署,现在的关系型数据库系统很难上任。目前的传统数据库多采用主备模式,而实际上访问的压力还是需要由当前主系统来承担,而备机基本属于没什么事干的主。如何真正的实现那种多主机对等服务的并行和分布式系统一直是我最感兴趣的。这样的话传统集群系统就不存在所谓的下线时间了。

求职 : Linux运维
论坛徽章:
19
CU大牛徽章
日期:2013-03-13 15:15:0815-16赛季CBA联赛之山东
日期:2016-10-31 10:40:10综合交流区版块每日发帖之星
日期:2016-07-06 06:20:00IT运维版块每日发帖之星
日期:2016-02-08 06:20:00数据库技术版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-15 06:20:00IT运维版块每日发帖之星
日期:2016-01-10 06:20:00黄金圣斗士
日期:2015-11-24 10:45:10IT运维版块每日发帖之星
日期:2015-09-01 06:20:00IT运维版块每日发帖之星
日期:2015-08-13 06:20:00IT运维版块每日发帖之星
日期:2015-07-30 09:40:012015年亚洲杯之巴勒斯坦
日期:2015-05-05 10:19:03
19 [报告]
发表于 2014-09-28 08:38 |只看该作者
对MEMCACHE架构最感兴趣,不知道这种架构是否确实已经实现了主机节点的自动加入和退出集群。同时群系统也可以感知到它的退出并进行删除操作。这样的集群系统如何扩展又如何收缩呢??!!应用场景实例又是个什么样子。能不能举个实例说说便于理解。

论坛徽章:
49
15-16赛季CBA联赛之福建
日期:2016-06-22 16:22:002015年亚洲杯之中国
日期:2015-01-23 16:25:12丑牛
日期:2015-01-20 09:39:23未羊
日期:2015-01-14 23:55:57巳蛇
日期:2015-01-06 18:21:36双鱼座
日期:2015-01-02 22:04:33午马
日期:2014-11-25 09:58:35辰龙
日期:2014-11-18 10:40:07寅虎
日期:2014-11-13 22:47:15申猴
日期:2014-10-22 15:29:50摩羯座
日期:2014-08-27 10:49:43辰龙
日期:2014-08-21 10:47:58
20 [报告]
发表于 2014-09-28 09:10 |只看该作者
niao5929 发表于 2014-09-28 08:38
对MEMCACHE架构最感兴趣,不知道这种架构是否确实已经实现了主机节点的自动加入和退出集群。同时群系统也可 ...


@南非蚂蚁帮忙看看~
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP