网站续费问题,做外贸网站注册什么邮箱,营销策略怎么写范文,静态网站开发基础2.2.1 是什么 Sentinel 是阿里中间件团队开源的#xff0c;面向分布式服务架构的轻量级高可用流量控制组件#xff0c;主要以流量为切入点#xff0c;从流量控制、熔断降级、系统负载保护等多个维度来帮助用户保护服务的稳定性。 2.2.2 基本概念 • 资源 (需要被保护的东西…2.2.1 是什么 Sentinel 是阿里中间件团队开源的面向分布式服务架构的轻量级高可用流量控制组件主要以流量为切入点从流量控制、熔断降级、系统负载保护等多个维度来帮助用户保护服务的稳定性。 2.2.2 基本概念 • 资源 (需要被保护的东西)
资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容例如由应用程序提供的服务或由应用程序调用的其它应用提供的服务甚至可以是一段代码。在接下来的文档中我们都会用资源来描述代码块。
只要通过 Sentinel API 定义的代码就是资源能够被 Sentinel 保护起来。大部分情况下可以使用方法签名URL甚至服务名称作为资源名来标示资源。
资源的定义有两种可以通过SentinelResource(value“doTest”)设置如果没有设置的话就默认取请求后面的一截
• 规则限流的规则/熔断规则
围绕资源的实时状态设定的规则可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。
2.2.3 控制台 启动方式
下载jar包通过命令方式
在https://github.com/alibaba/Sentinel/releases下载对应版本的dashboard jar包进入到该jar所在的目录然后通过java命令运行该jar包即可
java -Dserver.port7777 -Dcsp.sentinel.dashboard.serverlocalhost:7777 -Dproject.namesentinel-dashboard-1.8.0 -jar sentinel-dashboard-1.8.0.jar访问地址localhost:7777
默认账号和密码都是sentinel
2.2.4 核心API使用 流量控制(Flow Control)原理是监控应用流量的QPS或并发线程数等指标当达到指定阈值时对流量进行控制避免系统被瞬时的流量高峰冲垮保障应用高可用性。
下面写个简单的示例看看如何使用Sentinel实现限流。
首先写个简单的订单查询接口用于后续接口限流示例
springboot-sentinel项目中demo01
引入Sentinel jar包
dependencygroupIdcom.alibaba.csp/groupIdartifactIdsentinel-core/artifactIdversion1.8.0/version
/dependency启动类
SpringBootApplication
public class SpringbootSentinelApplication {public static void main(String[] args) {initFlowQpsRule();SpringApplication.run(SpringbootSentinelApplication.class, args);}public static void initFlowQpsRule() {ListFlowRule rules new ArrayListFlowRule();FlowRule rule1 new FlowRule();rule1.setResource(queryOrderInfo);// QPS控制在2以内rule1.setCount(2);// QPS限流rule1.setGrade(RuleConstant.FLOW_GRADE_QPS);rule1.setLimitApp(default);rules.add(rule1);FlowRuleManager.loadRules(rules);}
}
Component
public class OrderQueryService {public String queryOrderInfo(String orderId) {System.out.println(获取订单信息: orderId);return return OrderInfo : orderId;}
}
public class OrderControllser {Autowiredprivate OrderQueryService orderQueryService;RequestMapping(/getOrder)ResponseBodypublic String queryOrder1(RequestParam(orderId) String orderId) {return orderQueryService.queryOrderInfo(orderId);}
}正常情况下调用OrderController中订单查询接口会返回订单信息如何控制接口访问的QPS在2以下呢Sentienl限流提供了以下实现方式
Sentienl如何使用 。
首先需要定义限流规则比如对哪个接口进行限流限制的QPS为多少限制调用方app是什么等
public void initFlowQpsRule() {ListFlowRule rules new ArrayListFlowRule();FlowRule rule1 new FlowRule();rule1.setResource(KEY);// QPS控制在2以内rule1.setCount(2);// QPS限流rule1.setGrade(RuleConstant.FLOW_GRADE_QPS);rule1.setLimitApp(default);rules.add(rule1);FlowRuleManager.loadRules(rules);
}限流实现方式有多种这里只列出常见两种
1限流实现方式一: 抛出异常的方式定义资源
此方式对代码侵入性较高需要在接口调用的地方通过try-catch风格的API对代码进行包装
/*** 限流实现方式一: 抛出异常的方式定义资源** param orderId* return*/
RequestMapping(/getOrder2)
ResponseBody
public String queryOrder2(RequestParam(orderId) String orderId) {Entry entry null;// 资源名String resourceName queryOrderInfo;try {// entry可以理解成入口登记entry SphU.entry(resourceName);// 被保护的逻辑, 这里为订单查询接口return orderQueryService.queryOrderInfo(orderId);} catch (BlockException blockException) {// 接口被限流的时候, 会进入到这里blockException.printStackTrace();return 接口限流, 返回空;} finally {// SphU.entry(xxx) 需要与 entry.exit() 成对出现,否则会导致调用链记录异常if (entry ! null) {entry.exit();}}
}测试当QPS2时接口返回
我们可以在日志 ~/logs/csp/${appName}-metrics.log.xxx 里看到下面的输出:
C:\Users\gupao-jingtian\logs\csp
时间戳|格式化的时间戳|资源名|通过的请求|被拒绝的请求|成功数量|异常数量|rt平均响应时间 1600608724000|2020-09-20 21:32:04|helloWorld|5|6078|5|0|5|0|0|0 1600608725000|2020-09-20 21:32:05|helloWorld|5|32105|5|0|0|0|0|0 1600608726000|2020-09-20 21:32:06|helloWorld|5|41084|5|0|0|0|0|0 1600608727000|2020-09-20 21:32:07|helloWorld|5|72211|5|0|0|0|0|0 1600608728000|2020-09-20 21:32:08|helloWorld|5|60828|5|0|0|0|0|0 1600608729000|2020-09-20 21:32:09|helloWorld|5|41696|5|0|0|0|0|0 2限流实现方式二: 注解方式定义资源
上述通过try-catch风格的API可以实现限流但是对代码侵入性太高推荐使用注解的方式来实现。下文若不做注明默认都会采用注解的方式实现。
关于注解的使用见Sentinel注解使用
首先需要引入支持注解的jar包
dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-sentinel/artifactId
/dependency在接口OrderQueryService中使用注解实现订单查询接口的限流
/*** 订单查询接口, 使用Sentinel注解实现限流** param orderId* return*/
SentinelResource(value queryOrderInfo3, blockHandler handleFlowQpsException,fallback queryOrderInfo3Fallback)
public String queryOrderInfo3(String orderId) {// 模拟接口运行时抛出代码异常if (000.equals(orderId)) {throw new RuntimeException();}System.out.println(获取订单信息: orderId);return return OrderInfo3 : orderId;
}/*** 订单查询接口抛出限流或降级时的处理逻辑** 注意: 方法参数、返回值要与原函数保持一致* return*/
public String handleFlowQpsException(String orderId, BlockException e) {e.printStackTrace();return handleFlowQpsException for queryOrderInfo3: orderId;
}/*** 订单查询接口运行时抛出的异常提供fallback处理** 注意: 方法参数、返回值要与原函数保持一致* return*/
public String queryOrderInfo3Fallback(String orderId, Throwable e) {return fallback queryOrderInfo3: orderId;
}• blockHandler handleFlowQpsException用来处理Sentinel 限流/熔断等错误
• fallback queryOrderInfo2Fallback用来处理接口中业务代码所有异常(如业务代码异常、sentinel限流熔断异常等)注以上两种处理方法中方法名、参数都需与受保护的函数保持一致。
测试
/*** 限流实现方式二: 注解定义资源** param orderId* return*/
RequestMapping(/getOrder3)
ResponseBody
public String queryOrder3(RequestParam(orderId) String orderId) {return orderQueryService.queryOrderInfo3(orderId);
}2.2.5 流量控制 流量控制在网络传输中是一个常用的概念它用于调整网络包的发送数据。然而从系统稳定性角度考虑在处理请求的速度上也有非常多的讲究。任意时间到来的请求往往是随机不可控的而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器可以根据需要把随机的请求调整成合适的形状如下图所示 流量控制有以下几个角度:
• 并发数
• QPS
• 资源的调用关系
不管是什么方式流控的核心原理是监控应用流量的QPS或者并发线程数这些指标去判断指标的阈值来实现对流量的控制防止瞬时流高峰流量导致系统被压垮从而保证系统的高可用性。
在Sentinel中限流的直接表现形式是在执行Entry nodeA SphU.entry(resourceName)的时候抛出FlowException异常。FlowException是 BlockException的子类您可以捕捉BlockException来自定义被限流之后的处理逻辑。
同一个资源可以创建多条限流规则。 FlowSlot 会对该资源的所有限流规则依次遍历直到有规则触发限流或者所有规则遍历完毕。
一条限流规则主要由下面几个因素组成我们可以组合这些元素来实现不同的限流效果
• resource 资源名即限流规则的作用对象
• count : 限流阈值
• grade : 限流阈值类型QPS 或并发线程数
• limitApp : 流控针对的调用来源若为 default 则不区分调用来源
• default表示不区分调用者来自任何调用者的请求都将进行限流统计。如果这个资源名的调用总和超过了这条规则定义的阈值则触发限流。
• {some_origin_name}表示针对特定的调用者只有来自这个调用者的请求才会进行流量控制。例如 NodeA 配置了一条针对调用者caller1的规则那么当且仅当来自 caller1 对 NodeA 的请求才会触发流量控制。
• other表示针对除 {some_origin_name} 以外的其余调用方的流量进行流量控制。例如资源NodeA配置了一条针对调用者 caller1 的限流规则同时又配置了一条调用者为 other 的规则那么任意来自非 caller1 对 NodeA 的调用都不能超过 other 这条规则定义的阈值。
• 同一个资源名可以配置多条规则规则的生效顺序为{some_origin_name} other default
• strategy : 调用关系限流策略
• controlBehavior : 流量控制效果直接拒绝、Warm Up、匀速排队
通过这个地址可以查看实时的统计信息 http://localhost:8719/cnode?iddoTest
• thread 代表当前处理该资源的并发数
• pass 代表一秒内到来到的请求
• blocked 代表一秒内被流量控制的请求数量
• success 代表一秒内成功处理完的请求
• total 代表到一秒内到来的请求以及被阻止的请求总和
• RT 代表一秒内该资源的平均响应时间
• 1m-pass 则是一分钟内到来的请求
• 1m-block 则是一分钟内被阻止的请求
• 1m-all 则是一分钟内到来的请求和被阻止的请求的总和
• exception 则是一秒内业务本身异常的总和。
2.2.5.1 并发线程数 并发数控制用于保护业务线程池不被慢调用耗尽。例如当应用所依赖的下游应用由于某种原因导致服务不稳定、响应延迟增加对于调用者来说意味着吞吐量下降和更多的线程数占用极端情况下甚至导致线程池耗尽。为应对太多线程占用的情况业内有使用隔离的方案比如通过不同业务逻辑使用不同线程池来隔离业务自身之间的资源争抢线程池隔离。这种隔离方案虽然隔离性比较好但是代价就是线程数目太多线程上下文切换的 overhead 比较大特别是对低延时的调用有比较大的影响。Sentinel 并发控制不负责创建和管理线程池而是简单统计当前请求上下文的线程数目正在执行的调用数目如果超出阈值新的请求会被立即拒绝效果类似于信号量隔离。并发数控制通常在调用端进行配置。
2.2.5.2 QPS流量 当 QPS 超过某个阈值的时候则采取措施进行流量控制。流量控制的效果包括以下几种直接拒绝、Warm Up、匀速排队。对应 FlowRule 中的 controlBehavior 字段。
2.2.5.3 基于调用关系 调用关系包含调用方和被调用方一个方法有可能会调用其他方法形成一个调用链所谓的调用关系限流就是根据不同的调用纬度来触发流量控制。
• 根据调用方限流
• 根据调用链路入口限流
• 具有关系的资源流量控制
2.2.5.3.1 根据调用方限流 很多场景下根据调用方来限流也是非常重要的。比如有两个服务 A 和 B 都向 Service Provider 发起调用请求我们希望只对来自服务 B 的请求进行限流则可以设置限流规则的 limitApp 为服务 B 的名称。Sentinel Dubbo Adapter 会自动解析 Dubbo 消费者调用方的 application name 作为调用方名称origin在进行资源保护的时候都会带上调用方名称。若限流规则未配置调用方default则该限流规则对所有调用方生效。若限流规则配置了调用方则限流规则将仅对指定调用方生效。
所谓调用方限流就是根据请求来源进行流量控制我们可以设置limitApp属性来配置来源信息它有三个选项
• default 表示不区分调用者来自任何调用者的请求都将进行限流统计。如果这个资源名的调用总和超过了这条规则定义的阈值则触发限流。
• {some_origin_name} 表示针对特定的调用者只有来自这个调用者的请求才会进行流量控制。例如 NodeA 配置了一条针对调用者 caller1 的规则那么当且仅当来自 caller1 对NodeA 的请求才会触发流量控制。
• other 表示针对除 {some_origin_name} 以外的其余调用方的流量进行流量控制。例如资源 NodeA 配置了一条针对调用者 caller1 的限流规则同时又配置了一条调用者为 other 的规则那么任意来自非 caller1 对 NodeA 的调用都不能超过 other 这条规则定义的阈值。
对于同一个资源可以配置多条规则规则的生效顺序为 {some_origin_name} other default
2.2.5.3.2 根据调用链路入口限流 一个被限流的保护方法可能来自于不同的调用链路比如针对资源NodeA入口 Entrance1 和Entrance2的请求都调用到了资源 NodeA Sentinel 允许只根据某个入口的统计信息对资源限流。比如我们可以设置 strategy 为 RuleConstant.STRATEGY_CHAIN 同时设置 refResource 为Entrance1 来表示只有从入口 Entrance1 的调用才会记录到 NodeA 的限流统计当中而不关心经Entrance2 到来的调用 2.2.5.3.3 具有关系的资源流量控制 当两个资源之间具有资源争抢或者依赖关系的时候这两个资源便具有了关联。比如对数据库同一个字段的读操作和写操作存在争抢读的速度过高会影响写得速度写的速度过高会影响读的速度。如果放任读写操作争抢资源则争抢本身带来的开销会降低整体的吞吐量。可使用关联限流来避免具有关联关系的资源之间过度的争抢举例来说 read_db 和 write_db 这两个资源分别代表数据库读写我们可以给 read_db 设置限流规则来达到写优先的目的设置 strategy 为RuleConstant.STRATEGY_RELATE 同时设置 refResource 为 write_db 。这样当写库操作过于频繁时读数据的请求会被限流
2.2.6 熔断降级 2.2.6.1 什么是熔断降级 除了流量控制以外对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。
由于调用关系的复杂性如果调用链路中的某个资源不稳定最终会导致请求发生堆积。Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时例如调用超时或异常比例升高对这个资源的调用进行限制让请求快速失败避免影响到其它的资源而导致级联错误。当资源被降级后在接下来的降级时间窗口之内对该资源的调用都自动熔断默认行为是抛出 DegradeException。 Sentinel 和 Hystrix 的原则是一致的: 当调用链路中某个资源出现不稳定例如表现为 timeout异常比例升高的时候则对这个资源的调用进行限制并让请求快速失败避免影响到其它的资源最终产生雪崩的效果。
2.2.6.2 熔断降级设计理念 在限制的手段上Sentinel 和 Hystrix 采取了完全不一样的方法。
Hystrix 通过线程池的方式来对依赖(在我们的概念中对应资源)进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本还需要预先给各个资源做线程池大小的分配。
Sentinel 对这个问题采取了两种手段:
• 通过并发线程数进行限制
和资源池隔离的方法不同Sentinel 通过限制资源并发线程的数量来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下例如响应时间变长对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。
• 通过响应时间对资源进行降级
除了对并发线程数进行控制以外Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后所有对该资源的访问都会被直接拒绝直到过了指定的时间窗口之后才重新恢复。
下面就使用基于注解的方式实现Sentinel的熔断降级的demo。 springboot-sentinel项目中的demo02 2.2.7 控制策略 2.2.7.1 直接拒绝 直接拒绝 RuleConstant.CONTROL_BEHAVIOR_DEFAULT 方式是默认的流量控制方式当QPS超过任意规则的阈值后新的请求就会被立即拒绝拒绝方式为抛出 FlowException 。这种方式适用于对系统处理能力确切已知的情况下比如通过压测确定了系统的准确水位时。
2.2.7.2 Warm Up Warm Up RuleConstant.CONTROL_BEHAVIOR_WARM_UP 方式即预热/冷启动方式。当系统长期处于低水位的情况下当流量突然增加时直接把系统拉升到高水位可能瞬间把系统压垮。通过冷启动让通过的流量缓慢增加在一定时间内逐渐增加到阈值上限给冷系统一个预热的时间避免冷系统被压垮
如下图所示当前系统所能够处理的最大并发数是480首先在最下面的标记位置系统一直处于空闲状态接着请求量突然直线升高这个时候系统并不是直接将QPS拉到最大值而是在一定时间内逐步增加阈值而中间这段时间就是一个系统逐步预热的过车用。 2.2.7.3 匀速排队 匀速排队 RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER 方式会严格控制请求通过的间隔时间也即是让请求以均匀的速度通过对应的是漏桶算法。
这种方式主要用于处理间隔性突发的流量例如消息队列。想象一下这样的场景在某一秒有大量的请求到来而接下来的几秒则处于空闲状态我们希望系统能够在接下来的空闲期间逐渐处理这些请求而不是在第一秒直接拒绝多余的请求。
