阿里巴巴国际站入驻费用,建设网站的功能定位是什么原因,iis7部署asp网站,企业网站栏目规划的重要性大家好#xff0c;我是磊哥。今天我们来看下微服务中非常重要的一个组件#xff1a;Ribbon。它作为负载均衡器在分布式网络中扮演着非常重要的角色。本篇主要内容如下#xff1a;在介绍 Ribbon 之前#xff0c;不得不说下负载均衡这个比较偏僻的名词。为什么说它偏僻了我是磊哥。今天我们来看下微服务中非常重要的一个组件Ribbon。它作为负载均衡器在分布式网络中扮演着非常重要的角色。本篇主要内容如下在介绍 Ribbon 之前不得不说下负载均衡这个比较偏僻的名词。为什么说它偏僻了因为在面试中聊得最多的是消息队列和缓存来提高系统的性能支持高并发很少有人会问负载均衡究其原因负载均衡的组件选择和搭建一般都是运维团队或者架构师去做的开发人员确实很少接触到。不过没关系我们不止有 CRUD还要有架构思维。简单来说负载均衡就是将网络流量负载分摊到不同的网络服务器可以平均分配也可以不平均系统就可以实现服务的水平横向扩展。那么如果让你设计一个负载均衡组件你会怎么设计我们需要考虑这几个因素如何获取及同步服务器列表涉及到与注册中心的交互。如何将负载进行分摊涉及到分摊策略。如何将客户端请求进行拦截然后选择服务器进行转发涉及到请求拦截。抱着这几个问题我们从负载均衡的原理 Ribbon 的架构来学习如何设计一个负载均衡器相信会带给你一些启发。一、负载均衡1.1 概念之前我详细讲解了何为高可用里面没有涉及到负载均衡机制其实负载均衡也是高可用网络的关键组件。负载均衡的两个基本点选择哪个服务器来处理客户端请求。将客户端请求转发出去。一个核心原理通过硬件或软件的方式维护一个服务列表清单。当用户发送请求时会将请求发送给负载均衡器然后根据负载均衡算法从可用的服务列表中选出一台服务器的地址将请求进行转发完成负载功能。1.2 负载均衡的特性负载均衡的特性高性能可根据不同的分配规则自动将流量进行分摊。可扩展性可以很方便增加集群中设备或链路的数量。高可靠性系统中某个设备或链路发生故障不会导致服务中断。易配置性配置和维护方便。透明性用户感知不到如何进行负载均衡的也不用关心负载均衡。1.3 负载均衡分类负载均衡技术可以按照软件或硬件进行分类也可以按照服务器列表存放的位置划分为服务端负载和客户端负载均衡。1.3.1 硬件负载均衡F5 就是常见的硬件负载均衡产品。优点性能稳定具备很多软件负载均衡不具备的功能如应用交换会话交换、状态监控等。缺点设备价格昂贵、配置冗余没有软件负载均衡灵活不能满足定制化需求。1.3.2 软件负载均衡Nginx性能好可以负载超过 1W。工作在网络的7层之上可以针对http应用做一些分流的策略。Nginx也可作为静态网页和图片服务器。Nginx仅能支持http、https和Email协议。LVSLinux Virtual Server是一个虚拟服务器集群系统采用 IP 地址均衡技术和内容请求分发技术实现负载均衡。接近硬件设备的网络吞吐和连接负载能力。抗负载能力强、是工作在网络4层之上仅作分发之用。自身有完整的双机热备方案如LVSKeepalived。软件本身不支持正则表达式处理不能做动静分离。1.3.3 服务端负载均衡Nginx 和 F5 都可以划分到服务端的负载均衡里面后端的服务器地址列表是存储在后端服务器中或者存在专门的 Nginx 服务器或 F5 上。服务器的地址列表的来源是通过注册中心或者手动配置的方式来的。1.3.4 客户端负载均衡终于轮到 Ribbon 登场了它属于客户端负载均衡器客户端自己维护一份服务器的地址列表。这个维护的工作就是由 Ribbon 来干的。Ribbon 会从 Eureka Server 读取服务信息列表存储在 Ribbon 中。如果服务器宕机了Ribbon 会从列表剔除宕机的服务器信息。Ribbon 有多种负载均衡算法我们可以自行设定规则从而请求到指定的服务器。二、 均衡策略上面已经介绍了各种负载均衡分类接下来我们来看下这些负载均衡器如何通过负载均衡策略来选择服务器处理客户端请求。常见的均衡策略如下。2.1 轮循均衡Round Robin原理如果给服务器从 0 到 N 编号轮询均衡策略会从 0 开始依次选择一个服务器作为处理本次请求的服务器。-场景适合所有父亲都有相同的软硬件配置且请求频率相对平衡。2.2 权重轮询均衡Weighted Round Robin原理按照服务器的不同处理能力给服务器分配不同的权重然后请求会按照权重分配给不同的服务器。场景服务器的性能不同充分利用高性能的服务器同时也能照顾到低性能的服务器。2.3 随机均衡Random原理将请求随机分配给不同的服务器。场景适合客户端请求的频率比较随机的场景。2.4 响应速度均衡Response Time)原理负载均衡设备对每个服务器发送一个探测请求看看哪台服务器的响应速度更快场景适合服务器的响应性能不断变化的场景。注意响应速度是针对负载均衡设备和服务器之间的。三、Ribbon 核心组件接下来就是我们的重头戏了来看下 Ribbon 这个 Spring Cloud 中负载均衡组件。Ribbon 主要有五大功能组件ServerList、Rule、Ping、ServerListFilter、ServerListUpdater。Ribbon 核心组件3.1 负载均衡器 LoadBalancer用于管理负载均衡的组件。初始化的时候通过加载 YMAL 配置文件创建出来的。3.2 服务列表 ServerListServerList 主要用来获取所有服务的地址信息并存到本地。根据获取服务信息的方式不同又分为静态存储和动态存储。静态存储从配置文件中获取服务节点列表并存储到本地。动态存储从注册中心获取服务节点列表并存储到本地3.3 服务列表过滤 ServerListFilter将获取到的服务列表按照过滤规则过滤。通过 Eureka 的分区规则对服务实例进行过滤。比较服务实例的通信失败数和并发连接数来剔除不够健康的实例。根据所属区域过滤出同区域的服务实例。3.4 服务列表更新 ServerListUpdater服务列表更新就是 Ribbon 会从注册中心获取最新的注册表信息。是由这个接口 ServerListUpdater 定义的更新操作。而它有两个实现类也就是有两种更新方式通过定时任务进行更新。由这个实现类 PollingServerListUpdater 做到的。利用 Eureka 的事件监听器来更新。由这个实现类 EurekaNotificationServerListUpdater 做到的。3.5 心跳检测 PingIPing 接口类用来检测哪些服务可用。如果不可用了就剔除这些服务。实现类主要有这几个PingUrl、PingConstant、NoOpPing、DummyPing、NIWSDiscoveryPing。心跳检测策略对象 IPingStrategy默认实现是轮询检测。3.6 负载均衡策略 RuleRibbon 的负载均衡策略和之前讲过的负载均衡策略有部分相同先来个全面的图看下 Ribbon 有哪几种负载均衡策略。再来看下 Ribbon 源码中关于均衡策略的 UML 类图。负载均衡策略由图可以看到主要由以下几种均衡策略线性轮询均衡 RoundRobinRule轮流依次请求不同的服务器。优点是无需记录当前所有连接的状态无状态调度。可用服务过滤负载均衡AvailabilityFilteringRule过滤多次访问故障而处于断路器状态的服务还有过滤并发连接数量超过阈值的服务然后对剩余的服务列表按照轮询策略进行访问。默认情况下如果最近三次连接均失败则认为该服务实例断路。然后保持 30s 后进入回路关闭状态如果此时仍然连接失败那么等待进入关闭状态的时间会随着失败次数的增加呈指数级增长。加权响应时间负载均衡WeightedResponseTimeRule为每个服务按响应时长自动分配权重响应时间越长权重越低被选中的概率越低。区域感知负载均衡ZoneAvoidanceRule更倾向于选择发出调用的服务所在的托管区域内的服务降低延迟节省成本。Spring Cloud Ribbon 中默认的策略。重试负载均衡RetryRule)通过轮询均衡策略选择一个服务器如果请求失败或响应超时可以选择重试当前服务节点也可以选择其他节点。高可用均衡BestAvailableRule)忽略请求失败的服务器尽量找并发比较低的服务器。注意这种会给服务器集群带来成倍的压力。随机负载均衡RandomRule随机选择服务器。适合并发比较大的场景。四、 Ribbon 拦截请求的原理本文最开始提出了一个问题负载均衡器如何将客户端请求进行拦截然后选择服务器进行转发结合上面介绍的 Ribbon 核心组件我们可以画一张原理图来梳理下 Ribbon 拦截请求的原理第一步Ribbon 拦截所有标注loadBalance注解的 RestTemplate。RestTemplate 是用来发送 HTTP 请求的。第二步将 Ribbon 默认的拦截器 LoadBalancerInterceptor 添加到 RestTemplate 的执行逻辑中当 RestTemplate 每次发送 HTTP 请求时都会被 Ribbon 拦截。第三步拦截后Ribbon 会创建一个 ILoadBalancer 实例。第四步ILoadBalancer 实例会使用 RibbonClientConfiguration 完成自动配置。就会配置好 IRuleIPingServerList。第五步Ribbon 会从服务列表中选择一个服务将请求转发给这个服务。五、Ribbon 初始化的原理当我们去剖析 Ribbon 源码的时候需要找到一个突破口而 LoadBalanced 注解就是一个比较好的入口。先来一张 Ribbon 初始化的流程图Ribbon 初始化过程添加注解的代码如下所示LoadBalanced
Bean
public RestTemplate getRestTemplate() {return new RestTemplate();
}第一步Ribbon 有一个自动配置类 LoadBalancerAutoConfigurationSpringBoot 加载自动配置类就会去初始化 Ribbon。第二步当我们给 RestTemplate 或者 AsyncRestTemplate 添加注解后Ribbon 初始化时会收集加了 LoadBalanced 注解的 RestTemplate 和 AsyncRestTemplate 把它们放到一个 List 里面。第三步然后 Ribbon 里面的 RestTemplateCustomizer 会给每个 RestTemplate 进行定制化也就是加上了拦截器LoadBalancerInterceptor。第四步从 Eureka 注册中心获取服务列表然后存到 Ribbon 中。第五步加载 YMAL 配置文件配置好负载均衡配置创建一个 ILoadbalancer 实例。六、Ribbon 同步服务列表原理Ribbon 首次从 Eureka 获取全量注册表后就会隔一定时间获取注册表。原理图如下Ribbon 同步服务列表的原理图之前我们提到过 Ribbon 的核心组件 ServerListUpdater用来同步注册表的它有一个实现类 PollingServerListUpdater 专门用来做定时同步的。默认1s 后执行一个 Runnable 线程后面就是每隔 30s 执行 Runnable 线程。这个 Runnable 线程就是去获取 Eureka 注册表的。七、Eureka 心跳检测的原理我们知道 Eureka 注册中心是通过心跳检测机制来判断服务是否可用的如果不可用可能会把这个服务摘除。为什么是可能呢因为 Eureka 有自我保护机制如果达到自我保护机制的阀值后续就不会自动摘除。这里我们可以再复习下 Eureka 的自我保护机制和服务摘除机制。Eureka 心跳机制每个服务每隔 30s 自动向 Eureka Server 发送一次心跳Eureka Server 更新这个服务的最后心跳时间。如果 180 s 内版本1.7.2未收到心跳则任务服务故障了。Eureka 自我保护机制如果上一分钟实际的心跳次数比我们期望的心跳次数要小就会触发自我保护机制不会摘除任何实例。期望的心跳次数服务实例数量 * 2 * 0.85。Eureka 服务摘除机制不是一次性将服务实例摘除每次最多随机摘除 15%。如果摘除不完1 分钟之后再摘除。说完 Eureka 的心跳机制和服务摘除机制后我们来看下 Ribbon 的心跳机制。八、Ribbon 心跳检测的原理Ribbon 的心跳检测原理和 Eureka 还不一样Ribbon 不是通过每个服务向 Ribbon 发送心跳或者 Ribbon 给每个服务发送心跳来检测服务是否存活的。先来一张图看下 Ribbon 的心跳检测机制Ribbon 心跳检测的原理Ribbon 心跳检测原理对自己本地缓存的 Server List 进行遍历看下每个服务的状态是不是 UP 的。具体的代码就是 isAlive 方法。核心代码isAlive status.equals(InstanceStatus.UP);那么多久检测一次呢默认每隔 30s 执行以下 PingTask 调度任务对每个服务执行 isAlive 方法判断下状态。九、Ribbon 常用配置项9.1 禁用 Eureka# 禁用 Eureka
ribbon.eureka.enabledfalse服务注册列表默认是从 Eureka 获取到的如果不想使用 Eureka可以禁用掉。然后我们需要手动配置服务列表。9.2 配置服务列表ribbon-config-passjava.ribbon.listOfServerslocalhost:8081,localhost:8083这个配置是针对具体服务的前缀就是服务名称配置完之后就可以和之前一样使用服务名称来调用接口了。9.3 其他配置项十、总结本篇深入讲解了 Spring Cloud 微服务中 负载均衡组件 Ribbon 架构原理分为几大块Ribbon 的六大核心组件Ribbon 如何拦截请求并进行转发的。Ribbon 初始化的原理。Ribbon 如何同步 Eureka 注册表的原理。Eureka 和 Ribbon 两种 心跳检测的原理Ribbon 的常用配置项。https://www.cnblogs.com/zhixiang-org-cn/archive/2019/10/31/11769320.htmlhttps://my.oschina.net/u/3748584/blog/4814474往期推荐Spring Boot Admin贼好使扯一把 Spring 的三种注入方式到底哪种注入方式最佳聊聊索引失效的10种场景太坑了
