架构师：如何提高web网站的请求并发响应量？

一、提出问题

今天，突然想到一个问题，双十一，那些电商网站的并发量是多大？

简单查了一下，说天猫双十一的并发请求量，在50多万请求每秒的处理能力。
那么，我们如何提高网站的请求响应能力？

二、相关概念

这里，可能需要了解两个概念，QPS和TPS

QPS的定义
QPS（Queries Per Second），即每秒查询率，是衡量系统处理查询请求能力的一个重要指标。它通常用于评估搜索引擎、数据库、API等系统的性能。QPS越高，表示系统在单位时间内能处理的查询请求越多，处理能力越强。

TPS的定义
TPS（Transactions Per Second），即每秒事务处理率，是衡量系统在单位时间内处理事务数量的一个重要指标。它通常用于评估数据库系统、交易系统等需要处理复杂事务的系统的性能。TPS越高，表示系统在单位时间内能处理的事务越多，处理能力越强。

参考：深入解析QPS和TPS：理解与优化系统性能

三、如何提高网站请求响应能力？

我们一般会用到NGINX+服务集群来提高网站的响应并发量
但是，我有想到，NGXIN的最大并发量是5万
那这样，网站的并发量最大就在5万了吗？

显然不是的。

于是，问了一波同学。
建议是，加一层IP负载均衡，配合NGINX集群，提高并发响应量。
同时也给出了说明，这是运维组的工作。

四、负载均衡有那些方式？

最后，查到了这样一张图片


参考：五大类型负载均衡的原理场景详解

五、常用微服务架构图及推荐书籍