产品盘网站建设,马蜂窝旅游网站怎么做,电子商务网站的开发语言,正规网店加盟代理Spring Cloud Gateway#xff08;二#xff09; 文章目录 Spring Cloud Gateway#xff08;二#xff09;Gateway工作原理为什么使用API网关高并发Gateway性能优化 Gateway工作原理
Spring Cloud Gateway旨在为微服务架构提供简单、有效并且统一的API路由管理方式。它不仅…Spring Cloud Gateway二 文章目录 Spring Cloud Gateway二Gateway工作原理为什么使用API网关高并发Gateway性能优化 Gateway工作原理
Spring Cloud Gateway旨在为微服务架构提供简单、有效并且统一的API路由管理方式。它不仅提供了统一的路由方式并且还基于Filter链的方式提供了网关基本的功能比如说安全、监控、埋点和限流等。相比阻塞IO的ZuulGateway使用了webflux中的reactor-netty响应式编程组件底层使用了netty通讯框架。核心处理流程
客户端向网关发起请求后先使用HttpWebHandlerAdapter提取请求组装成网关的上下文然后把网关上下文传递给DispatcherHandler。DispatcherHandler是所有请求的分发处理器分发请求到对应的处理器比如把请求分发到对应路由断言处理器映射器(RoutePredicateHandlerMapping)。路由断言处理器映射器用于路由的查找以及返回对应的FilteringWebHandler。FilteringWebHandler主要负责组装Filter链表并调用Filter执行一系列处理然后把请求转发到后端对应的代理服务处理处理完毕后把响应返回到客户端。在Filter链中过滤器可以在转发请求之前处理或者接收到被代理服务的返回结果之后处理。所有的Pre类型的Filter执行完毕后才会转发请求到被代理的服务处理。被代理的服务把所有请求处理完毕后才会执行Post类型的过滤器。
为什么使用API网关 请求路由API网关可以把客户端请求路由到正确的微服务实例。 负载均衡通过网关分发请求可以实现跨多个微服务实例的负载均衡提升系统的可用性和弹性。 认证授权在网关层可以进行统一认证鉴权简化微服务的安全实现。 服务发现继承网关通常和服务发现机制集成可以动态地发现服务实例的变化并调整路由。 协议转换与适配处理从外部应用到微服务之间协议转换的问题比如把外部的HTTP/REST请求转换为内部RPC调用等。 请求聚合对于需要聚合多个微服务调用返回一个统一响应的情况网关可以减少客户端的请求次数和复杂度。 熔断限流网关可以对流量进行控制包括请求的限流和熔断防止系统过载。 CORS跨域资源处理在网关统一处理CORS问题避免在各个微服务中重复配置。 API版本管理管理API的多个版本和维护向后兼容性甚至可以实现平滑过渡。 缓存提供响应缓存减少对后端微服务的请求次数提升响应速度和减轻后端服务的负载。 监控和日志集中记录请求日志提供统计数据有助于监控API的使用情况和性能。 错误处理和统一的错误返回在网关层统一处理和格式化微服务可能返回的各种错误响应。 安全性增强作为防护层对数据进行预处理比如过滤和验证等。 链路追踪网关是实现链路追踪的理想位置可以为请求加上追踪标识。 网关简化了服务消费者和提供者的交互提升了系统的安全性、可维护性和可伸缩性。
高并发Gateway性能优化
资源配置优化
调整实例大小和数量。根据负载的需求适当调整实例的CPU、内存以及数量。限制并发线程数。
熔断限流
启用限流。防止过载和DoS攻击使用Request Rate Limiter等限流插件限制每秒处理的请求数。熔断回退。对于下游服务调用添加断路器保护系统在高负载下的稳定性并为异常提供回退机制。
负载均衡
优化负载均衡策略。使用Ribbon、Reactor Load Balancer等负载均衡策略进行设计和优化。使用云服务负载均衡器比如AWS ELB。
缓存优化
响应缓存。对于静态资源和可缓存的API响应使用缓存减少对下游服务的请求次数。路由缓存。为常用的路由规则和路径启用缓存减少正则表达式等计算开销。
异步非阻塞
异步处理。网关中的过滤器和路由应该使用异步非阻塞API避免长时间占用线程和响应延迟。提高下游服务性能。确保下游微服务实例能够支持非阻塞和高性能处理以免称为瓶颈。
监控诊断
日志追踪记录详细日志整合Zipkin、Sleuth等进行分布式追踪方便故障排查和性能分析。实时监控使用Prometheus、Grafana等工具监控网关的性能指标及时响应潜在问题。
