喀什市建设局网站查证件,门户网站排版,网站开发代码交接文档书,免费收录网提交熔断降级 一个服务常常会调用别的模块#xff0c;可能是另外的一个远程服务、数据库#xff0c;或者第三方API等。例如#xff0c;支付的时候#xff0c;可能需要远程调用银联提供的API#xff0c;查询摸个商品的价格#xff0c;可能需要进行数据库查询#xff0c;然而可能是另外的一个远程服务、数据库或者第三方API等。例如支付的时候可能需要远程调用银联提供的API查询摸个商品的价格可能需要进行数据库查询然而这个被依赖服务的稳定性是不能保证的。如果依赖的服务出现了稳定的情况请求的响应时间变长那么调用服务的方法的响应时间也会变长线程会产生堆积最终可能耗尽业务自身的线程池服务本身也变得不可用。 现代微服务架构都是分布式的由于非常多的服务组成。不同服务之间相互调用组成复杂的调用链路。以上的问题在链路调用中会产生放大的效果。复杂链路上的某一环不稳定就可能会层层级联最终导致整个链路都不可用。因此我们需要对不稳定的若依赖服务调用进行熔断降级暂时切断不稳定调用避免局部不稳定因素导致整体的雪崩。熔断降级作为保护自身的手段通常在客户端调用端进行配置。
1、熔断策略
慢调用比例平均响应时间选择以慢调用比例作为阈值需要设置允许的慢调用RT即最大的响应时间请求的响应时间大于该值则统计为慢调用。档单位统计时长statIntervalMs内请求数目大于设置的最小请求数目并且慢调用的比例大于阈值则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测回复状态HALF-OPEN状态若接下来的一个请求响应时间小于设置的慢调用RT则结束熔断若大于设置的慢调用RT则会再次被熔断。异常比例ERROR_RATIO当单位统计时长satIntervalMs内请求数且大于设置的最小请求数目并且异常的比例大于阈值则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态HALF-OPEN状态若接下来的一个请求成功完成没有错误则结束熔断否则会再次被熔断。异常比率的阈值范围是[0.0,1.0]代表0%-100%。异常数ERROR_COUNT当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态HALF-OPEN状态若接下来的一个请求成功完成没有错误则结束熔断否则会再次被熔断。
2、平均响应时间 平均响应时间超过5ms后续的所有请求都会被熔断熔断时间为5s后续有一个请求响应时间小于5ms则结束熔断。 案例定义一个接口休眠1s后返回内容用Jemeter 3s内发送10个请求发现全部处理了设置降级规则后发现只处理了部分请求其他请求被熔断了。 3、异常比例 异常比例超过28%自动熔断熔断时间为3s。
案例
int i 0;
GetMapping(/hel1o1)
public string hello1() (1;//出现异常的概率为1/3if (i % 3 ){throw new RuntimeException();}return hello1;
}
4、异常数 这里需要注意的是异常数量是按照封装来计算的异常比例和平均响应时间都是秒级别的。
热点参数限流
热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的Top K数据并对其访问进行限制。
比如 商品ID为参数统计一段时间内最常购买的商品ID并进行限制 用户ID为参数针对一段时间内频繁访问的用户ID进行限制
热点参数限流会统计传入参数中的热点参数并根据配置限流阈值与模式对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制仅对包含热电参数的资源调用生效。
1、定义接口
GetMapping(/hel1o3)
SentinelResource(he11o3”) // 热点参数需要配置这个注解使用
public string hello3(string str1, string str2){return hello3 --str1,--str2;
}
2、设置限流规则 参数限流规则表示hello3资源中第一个参数1s只能调用一次超过阈值就限流。
3、限流后返回自定义兜底数据
GetMapping(/hello3)
SentinelResource(value hello3,blockHandler hello3Handler) // 热点参数需要配需这个注解使用
public string hello3(string str1, string str2) {return hel1o3 --str1,--str2;
}
// 这个方法只负责参数限流的异常不会处理方法的运行时异常
// hel13Handler方法的参数和返回值要和原方法一直BlockException用来接收方法的异常
public String hello3Handler(string str1, String str2, BlockException e){System.out.println(str1 str1 , str2 str2 , e e);return该资源已被限流”;
}
4、参数列外项 热点参数还可以对不同的参数设置不同的qps的值。 当方法第一个参数值10的时候qps为5。
当方法第一个参数值为11的时候qps为10。
当方法第一个参数值为15的时候qps为15。 系统自适应限流 Sentinel系统自适应限流从整个维度对应用入口流量进行控制结合应用的Load、CPU使用率、总体平均RT、入口QPS和并发线程数等几个维度的监控指标、通过自适应的流控策略让系统的入口流量和系统的负载达到一个平衡让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。
1、系统规则 系统保护规则是从应用级别的入口流量进行控制从单台机器的load、CPU使用率、平均RT、入口QPS和并发线程数等几个维度监控应用指标让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。 系统保护规则是应用整体维度的而不是资源维度的并且**仅对入口流量生效**。入口流量指的是进入应用的流量EntryType.IN比如Web服务或Dubbo服务端接收的请求都属于入口流量。
系统规则支持以下的模式
Load自适应仅对Linux/Unix-like机器生效系统的load作为启发指标进行自适应系统保护。当系统load超过设定的启发值且系统当前的并发线程数超过估算的系统容量时才触发系统保护BBR阶段。系统容量由系统的maxQPS*minRt估算得出。设定参考值一般是CPU cores*2.5。CPU usage1.5.0版本当系统CPU使用率超过阈值即触发系统保护取值范围0.0-1.0比较灵敏。平均RT当单台机器上所有入口流量的平均RT达到阈值即触发系统保护单位是毫秒。并发线程数当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。入口QPS当单台机器上所有入口流量的QPS达到阈值即触发系统保护。 案例测试接口中的所有方法qps都是1。
