Spring Cloud Gateway（二）

Spring Cloud Gateway（二）

Gateway工作原理

1. Spring Cloud Gateway旨在为微服务架构提供简单、有效并且统一的API路由管理方式。它不仅提供了统一的路由方式，并且还基于Filter链的方式提供了网关基本的功能，比如说安全、监控、埋点和限流等。相比阻塞IO的Zuul，Gateway使用了webflux中的reactor-netty响应式编程组件，底层使用了netty通讯框架。
2. 核心处理流程

• 客户端向网关发起请求后，先使用HttpWebHandlerAdapter提取请求组装成网关的上下文，然后把网关上下文传递给DispatcherHandler。
• DispatcherHandler是所有请求的分发处理器，分发请求到对应的处理器，比如把请求分发到对应路由断言处理器映射器(RoutePredicateHandlerMapping)。
• 路由断言处理器映射器用于路由的查找以及返回对应的FilteringWebHandler。
• FilteringWebHandler主要负责组装Filter链表并调用Filter执行一系列处理，然后把请求转发到后端对应的代理服务处理，处理完毕后把响应返回到客户端。
• 在Filter链中，过滤器可以在转发请求之前处理或者接收到被代理服务的返回结果之后处理。所有的Pre类型的Filter执行完毕后才会转发请求到被代理的服务处理。被代理的服务把所有请求处理完毕后，才会执行Post类型的过滤器。

为什么使用API网关

1. 请求路由：API网关可以把客户端请求路由到正确的微服务实例。

2. 负载均衡：通过网关分发请求，可以实现跨多个微服务实例的负载均衡，提升系统的可用性和弹性。

3. 认证授权：在网关层可以进行统一认证鉴权，简化微服务的安全实现。

4. 服务发现继承：网关通常和服务发现机制集成，可以动态地发现服务实例的变化并调整路由。

5. 协议转换与适配：处理从外部应用到微服务之间协议转换的问题，比如把外部的HTTP/REST请求转换为内部RPC调用等。

6. 请求聚合：对于需要聚合多个微服务调用返回一个统一响应的情况，网关可以减少客户端的请求次数和复杂度。

7. 熔断限流：网关可以对流量进行控制，包括请求的限流和熔断，防止系统过载。

8. CORS跨域资源处理：在网关统一处理CORS问题，避免在各个微服务中重复配置。

9. API版本管理：管理API的多个版本和维护向后兼容性，甚至可以实现平滑过渡。

10. 缓存：提供响应缓存，减少对后端微服务的请求次数，提升响应速度和减轻后端服务的负载。

11. 监控和日志：集中记录请求日志，提供统计数据，有助于监控API的使用情况和性能。

12. 错误处理和统一的错误返回：在网关层统一处理和格式化微服务可能返回的各种错误响应。

13. 安全性增强：作为防护层对数据进行预处理比如过滤和验证等。

14. 链路追踪：网关是实现链路追踪的理想位置，可以为请求加上追踪标识。

15. 网关简化了服务消费者和提供者的交互，提升了系统的安全性、可维护性和可伸缩性。

高并发Gateway性能优化

1. 资源配置优化

• 调整实例大小和数量。根据负载的需求，适当调整实例的CPU、内存以及数量。
• 限制并发线程数。

2. 熔断限流

• 启用限流。防止过载和DoS攻击，使用Request Rate Limiter等限流插件限制每秒处理的请求数。
• 熔断回退。对于下游服务调用添加断路器保护系统在高负载下的稳定性，并为异常提供回退机制。

3. 负载均衡

• 优化负载均衡策略。使用Ribbon、Reactor Load Balancer等负载均衡策略进行设计和优化。
• 使用云服务负载均衡器，比如AWS ELB。

4. 缓存优化

• 响应缓存。对于静态资源和可缓存的API响应使用缓存，减少对下游服务的请求次数。
• 路由缓存。为常用的路由规则和路径启用缓存，减少正则表达式等计算开销。

5. 异步非阻塞

• 异步处理。网关中的过滤器和路由应该使用异步非阻塞API，避免长时间占用线程和响应延迟。
• 提高下游服务性能。确保下游微服务实例能够支持非阻塞和高性能处理，以免称为瓶颈。

6. 监控诊断

• 日志追踪，记录详细日志，整合Zipkin、Sleuth等进行分布式追踪，方便故障排查和性能分析。
• 实时监控，使用Prometheus、Grafana等工具监控网关的性能指标，及时响应潜在问题。