做网站申请多少类商标,网站开发的案例分析模板,wordpress添加视频插件吗,马边彝族移动网站建设背景 一般生产环境单机所能承受的QPS压力为2w左右#xff0c;过大的压力会导致服务器爆炸。即便是单机能够撑住2w QPS#xff0c;一般也不会这么做#xff0c;生产环境一般会预留50%的冗余能力#xff0c;防止QPS因为某个热门的活动而爆炸。当QPS超过单机所能承受的压力时过大的压力会导致服务器爆炸。即便是单机能够撑住2w QPS一般也不会这么做生产环境一般会预留50%的冗余能力防止QPS因为某个热门的活动而爆炸。当QPS超过单机所能承受的压力时自然而然会想到引入分布式集群。那么某一个请求会被哪台服务器处理呢这是随机的还是说按照一定的规则处理的这就是负载均衡算法所要干的事。 负载均衡器 负载均衡器就是实现一种或者多种负载均衡算法的软件或者硬件设备。负载均衡器根据协议层的不同通常又分为两种第一种在四层传输层实现第二种就是在七层应用层实现。 很多专用的硬件负载均衡器都支持在TCP层实现负载均衡效率高。当然TCP层实现负载均衡有它的缺点如无法保存长连接等。所以一般类似于BAT这种大公司都是多层负载均衡配合的。 一般纯软件实现的通常在应用层来实现这也是应用比较多的一种实现方式。目前比较流行的实现有Nginx、HAProxy、Keepalived等。当然Linux内核自带的LVS(Linux Virtual Server)就是四层的实现。 轮询(Round Robin) 轮询是一种很简单的实现依次将请求分配给后端服务器。 优点实现简单请求均匀分配。 缺点请求均匀分配因为后端服务器通常性能会有差异所以希望性能好的服务器能够多承担一部分。也不适合对长连接和命中率有要求的场景。加权轮询(Weighted Round Robin) 加权本质是一种带优先级的方式加权轮询就是一种改进的轮询算法轮询算法是权值相同的加权轮询。需要给后端每个服务器设置不同的权值决定分配的请求数比例。这个算法应用就相当广泛了对于无状态的负载场景非常适合。 优点解决了服务器性能不一的情况缺点权值需要静态配置无法自动调节。也不适合对长连接和命中率有要求的场景。随机Random 随机把请求分配给后端服务器。请求分配的均匀程度依赖于随机算法了因为实现简单常常用于配合处理一些极端的情况如出现热点请求这个时候就可以random到任意一台后端以分散热点。当然缺点也不言而喻。 哈希Hash 哈希算法想必大家并不陌生应用最为广泛。根据Source IP、 Destination IP、URL、或者其它算hash值或者md5再采用取模。比如有N台服务器: S1、S2、S3……Sn hash值 % N 显然相同的请求会被映射到相同的后端。这非常适合维护长连接和提高命中率。 但是它天生也有一些缺点。比如说现在某个请求通过哈希被映射到S3上去了如果S3宕机了就不得不二次Hash重新计算路由时会剔除宕机的后端。 hash值 % (N - 1) 这样会导致几乎所有请求路由产生变化。由此导致命中率的急剧下降。当然一般生产环境通过提供S3的备机来解决这种问题但是主备之间切换也是需要时间它们之间的数据同步也是有延时的。所以需要根据业务场景来权衡了。 扩容也会有类似的问题计算路由公式变为 hash值 % (N 1) 为了解决这种问题一般生产环境可能采用成倍扩容的方式。N - 2N这样求路由可以做到与原来保持一致。当然必不可少的造成机器资源的浪费。请各位看官自行权衡。 对于热点请求这种Hash算法也可能成在雪崩效应取决于采用何种Hash基于URL还是基于IP等。总之不能把热点请求路由到单机上否则单机撑不住会逐个逐个被打爆也就是雪崩效应。 最小连接数LC 最小连接数(Least Connection)把请求分配给活动连接数最小的后端服务器。它通过活动来估计服务器的负载。比较智能但需要维护后端服务器的连接列表。 加权最小连接数WLC 加权最小连接数(Weighted Least Connection)在后端服务器性能差异较大的情况下可以优化LC的性能高权值的服务可以承受更多的连接负载。 最短响应时间LRT 最短响应时间(Least Response Time)把请求分配给平均响应时间最短的后端服务器。平均响应时间可以通过ping探测请求或者正常请求响应时间获取。 RT(Response Time)是衡量服务器负载的一个非常重要的指标。对于响应很慢的服务器说明其负载一般很高了应该降低它的QPS。 之前有人说使用CPU占用率作为负载均衡的指标只能说没理解CPU占用率的实质。理论上CPU占用率是越高越好说明服务充分利用了CPU资源。但对于设计不合理的程序导致的CPU占用过高这是程序的设计问题并不违背这条理论。 常用「负载均衡」策略优缺点和适用场景 参考文献 深入一致性哈希(Consistent Hashing)算法原理并附100行代码实现 转载于:https://www.cnblogs.com/kaleidoscope/p/9754489.html
