集美建设局中心网站,海外网三农频道,哪个网站可以做立体字的模板,网页版梦幻西游五色石组合本文是学习大型分布式网站架构的技术总结。对架构一个高性能#xff0c;高可用#xff0c;可伸缩#xff0c;可扩展的分布式网站进行了概要性描述#xff0c;并给出一个架构参考。一部分为读书笔记#xff0c;一部分是个人经验总结。对大型分布式网站架构有很好的参考价值… 本文是学习大型分布式网站架构的技术总结。对架构一个高性能高可用可伸缩可扩展的分布式网站进行了概要性描述并给出一个架构参考。一部分为读书笔记一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。 本次分享大纲如下 大型网站的特点大型网站架构目标大型网站架构模式高性能架构高可用架构可伸缩架构可扩展架构安全架构敏捷架构大型架构举例 一、大型网站的特点 用户多分布广泛大流量高并发海量数据服务高可用安全环境恶劣易受网络攻击功能多变更快频繁发布从小到大渐进发展以用户为中心免费服务付费体验 二、大型网站架构目标 高性能提供快速的访问体验。高可用网站服务一直可以正常访问。可伸缩通过硬件增加/减少提高/降低处理能力。安全性提供网站安全访问和数据加密安全存储等策略。扩展性方便的通过新增/移除方式增加/减少新的功能/模块。敏捷性随需应变快速响应 三、大型网站架构模式 分层一般可分为应用层服务层数据层管理层分析层分割一般按照业务/模块/功能特点进行划分比如应用层分为首页用户中心。分布式将应用分开部署比如多台物理机通过远程调用协同工作。集群一个应用/模块/功能部署多份如多台物理机通过负载均衡共同提供对外访问。缓存将数据放在距离应用或用户最近的位置加快访问速度。异步将同步的操作异步化。客户端发出请求不等待服务端响应等服务端处理完毕后使用通知或轮询的方式告知请求方。一般指请求——响应——通知 模式。冗余增加副本提高可用性安全性性能。安全对已知问题有有效的解决方案对未知/潜在问题建立发现和防御机制。自动化将重复的不需要人工参与的事情通过工具的方式使用机器完成。敏捷性积极接受需求变更快速响应业务发展需求。 四、高性能架构 以用户为中心提供快速的网页访问体验。主要参数有较短的响应时间较大的并发处理能力较高的吞吐量稳定的性能参数。 可分为前端优化应用层优化代码层优化存储层优化。 前端优化网站业务逻辑之前的部分 浏览器优化减少Http请求数使用浏览器缓存启用压缩Css Js位置Js异步减少Cookie传输 CDN加速反向代理 应用层优化处理网站业务的服务器。使用缓存异步集群 代码优化合理的架构多线程资源复用对象池线程池等良好的数据结构JVM调优单例Cache等 存储优化缓存固态硬盘光纤传输优化读写磁盘冗余分布式存储HDFSNOSQL等 五、高可用架构 大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性分布式廉价服务器开源数据库操作系统等特点。要保证高可用是很困难的也就是说网站的故障是不可避免的。 如何提高可用性就是需要迫切解决的问题。首先需要从架构级别在规划的时候就考虑可用性。行业内一般用几个9表示可用性指标。比如四个999.99一年内允许的不可用时间是53分钟。 不同层级使用的策略不同一般采用冗余备份和失效转移解决高可用问题。 应用层一般设计为无状态的对于每次请求使用哪一台服务器处理是没有影响的。一般使用负载均衡技术需要解决Session同步问题实现高可用。 服务层负载均衡分级管理快速失败超时设置异步调用服务降级幂等设计等。 数据层冗余备份冷热备[同步异步]温备失效转移确认转移恢复。数据高可用方面著名的理论基础是CAP理论持久性可用性数据一致性[强一致用户一致最终一致] 六、可伸缩架构 伸缩性是指在不改变原有架构设计的基础上通过添加/减少硬件服务器的方式提高/降低系统的处理能力。 应用层对应用进行垂直或水平切分。然后针对单一功能进行负载均衡DNS,HTTP[反向代理],IP,链路层。 服务层与应用层类似 数据层分库分表NOSQL等常用算法Hash一致性Hash。 七、可扩展架构 可以方便的进行功能模块的新增/移除提供代码/模块级别良好的可扩展性。 模块化组件化高内聚内耦合提高复用性扩展性。 稳定接口定义稳定的接口在接口不变的情况下内部结构可以“随意”变化。 设计模式应用面向对象思想原则使用设计模式进行代码层面的设计。 消息队列模块化的系统通过消息队列进行交互使模块之间的依赖解耦。 分布式服务公用模块服务化提供其他系统使用提高可重用性扩展性。 八、安全架构 对已知问题有有效的解决方案对未知/潜在问题建立发现和防御机制。对于安全问题首先要提高安全意识建立一个安全的有效机制从政策层面组织层面进行保障。比如服务器密码不能泄露密码每月更新并且三次内不能重复每周安全扫描等。以制度化的方式加强安全体系的建设。同时需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全应用系统安全数据保密安全等。 基础设施安全硬件采购操作系统网络环境方面的安全。一般采用正规渠道购买高质量的产品选择安全的操作系统及时修补漏洞安装杀毒软件防火墙。防范病毒后门。设置防火墙策略建立DDOS防御系统使用攻击检测系统进行 子网隔离等手段。 应用系统安全在程序开发时对已知常用问题使用正确的方式在代码层面解决掉。防止跨站脚本攻击XSS注入攻击跨站请求伪造CSRF错误信息HTML注释文件上传路径遍历等。还可以使用Web应用防火墙比如ModSecurity进行安全漏洞扫描等措施加强应用级别的安全。 数据保密安全存储安全存在在可靠的设备实时定时备份保存安全重要的信息加密保存选择合适的人员复杂保存和检测等传输安全防止数据窃取和数据篡改 常用的加解密算法单项散列加密[MD5,SHA]对称加密[DES,3DES,RC]非对称加密[RSA]等。 九、敏捷性 网站的架构设计运维管理要适应变化提供高伸缩性高扩展性。方便的应对快速的业务发展突增高流量访问等要求。 除上面介绍的架构要素外还需要引入敏捷管理敏捷开发的思想。使业务产品技术运维统一起来随需应变快速响应。 十、大型架构举例 以上采用七层逻辑架构第一层客户层第二层前端优化层第三层应用层第四层服务层第五层数据存储层第六层大数据存储层第七层大数据处理层。 客户层支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问反向代理服务器。 前端层使用DNS负载均衡CDN本地加速以及反向代理服务 应用层网站应用集群按照业务进行垂直拆分比如商品应用会员中心等 服务层提供公用服务比如用户服务订单服务支付服务等 数据层支持关系型数据库集群支持读写分离NOSQL集群分布式文件系统集群以及分布式Cache 大数据存储层支持应用层和服务层的日志数据收集关系数据库和NOSQL数据库的结构化和半结构化数据收集 大数据处理层通过Mapreduce进行离线数据分析或Storm实时数据分析并将处理后的数据存入关系型数据库。实际使用中离线数据和实时数据会按照业务要求进行分类处理并存入不同的数据库中供应用层或服务层使用。
