软件开发中的常用性能指标

大家好！我是今越。在软件开发中我们经常会遇到一些性能指标，下面就带大家一起来看看。

QPS

Queries Per Second，每秒查询率，一台服务器每秒能够响应的查询次数。它是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准, 即每秒的响应请求数，也即是最大吞吐能力。

在互联网中，作为域名系统服务器的机器的性能经常用每秒查询率来衡量。

如何估算自己项目的 QPS？

使用日志估算即可，比如在中间件里记录访问日志，最终统计 1s 内有多少个访问，QPS 就是多大。一个接口的 QPS 跟业务流程有关，跟是否使用缓存有关。

不使用缓存：大约 8 核 16g 机器，QPS 400 多，如果横向扩展，10 台 8 核 16g 的机器，QPS 大约 4000 多；

使用缓存：大约 8 核 16g 机器，QPS 破千没问题；

TPS

Transactions Per Second，每秒处理的事务数，包括一条消息入和一条消息出，加上一次用户数据库访问。

一个事务是指一个客户端向服务器发送请求然后服务器做出反应的过程。客户端在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。

TPS 的过程包括：客户端请求服务端、服务端内部处理、服务端返回客户端。

QPS VS TPS

QPS 基本类似于 TPS，但是不同的是，对于一个页面的一次访问，形成一个 TPS；但一次页面请求，可能产生多次对服务器的请求，服务器对这些请求，就可计入 QPS。

例如，访问一个 index 页面会请求服务器 3 次，包括一次 html，一次 css，一次 js，那么访问这一个页面就会产生一个 T，产生三个 Q。

RT

Response Time，响应时间，指执行一个请求从开始到最后收到响应数据所花费的总体时间，即从客户端发起请求到收到服务器响应结果的时间。它是一个系统最重要的指标之一，它的数值大小直接反应了系统的快慢。

并发数

并发数，指系统同时处理的请求或事务数，可以直接理解为：系统同时处理的请求数量。它反应了系统的负载能力。

吞吐量

吞吐量是指系统在单位时间内处理请求的数量，TPS、QPS 都是吞吐量的常用量化指标。

系统吞吐量要素

一个系统的吞吐量（承压能力）与 request（请求）对 CPU 的消耗，外部接口，IO 等等紧密关联。单个 request 对 CPU 消耗越高，外部系统接口，IO 影响速度越慢，系统吞吐能力越低，反之越高。

系统吞吐量几个重要参数：QPS / TPS、并发数、响应时间。

QPS / TPS：每秒请求/事务数
并发数：系统同时处理的请求/事务数
响应时间：一般取平均响应时间

三者的关系

QPS = 并发数 / 平均响应时间
并发数 = QPS * 平均响应时间

1）例如，系统 QPS 为 1w，每个请求的响应时间都是 2s，那么并发数就是 2w。

2）例如，按二八定律来看，如果每天 80% 的访问集中在 20% 的时间里，这 20% 时间就叫做峰值时间。

公式：( 总 PV 数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间 QPS
机器：峰值时间 QPS / 单台机器的 QPS = 需要的机器数

每天 300w PV 在单台机器上，这台机器需要多少 QPS？
( 3000000 * 0.8 ) / ( 86400 * 0.2 ) = 139 (QPS)

如果一台机器的 QPS 是 58，需要几台机器来支持？
139 / 58 = 3

PV

Page View，页面访问量，即页面浏览量或点击量，用户每次刷新即被计算一次。可以统计服务一天的访问日志得到。

UV

Unique Visitor，独立访客，统计 1 天内访问某站点的用户数。可以统计服务一天的访问日志并根据用户的唯一标识去重得到。

DAU

Daily Active User，日活跃用户数量。常用于反映网站、APP、网游的运营情况。DAU 通常统计一日（统计日）之内，登录或使用了某个产品的用户数（去除重复登录的用户），与 UV 概念相似。

MAU

Month Active User，月活跃用户数量，指网站、APP 等去重后的月活跃用户数量。

服务端性能影响的因素

衡量服务性能的指标，主要有两个：

1）QPS（Query Per Second，每秒请求数）
2）响应时间（Response Time，RT），它可以理解为服务器处理响应的耗时。

正常情况下，响应时间越短，QPS 则越高。

在单线程的情况下，是呈线性关系。但也不是无限增长，RT 总会有极限值。

单线程 QPS = 1000ms / RT
多线程 QPS = (1000ms / 响应时间) * 线程数

最佳线程数

刚好消耗完服务器的瓶颈资源的临界线程数，公式如下

最佳线程数 = ( ( 线程等待时间 + 线程 CPU 时间 ) / 线程 CPU 时间 ) * CPU 数量

特点

1）在达到最佳线程数后，线程数量继续递增，QPS 不变，而响应时间变长，持续递增线程数量，QPS 开始下降；

2）每个系统都有其最佳线程数量，但是不同状态下，最佳线程数量是会变化的；

3）瓶颈资源可以是 CPU，可以是内存，可以是锁资源，IO 资源。超过最佳线程数会导致资源的竞争，超过最佳线程数会使响应时间增加；

唯有热爱可抵岁月漫长。我是今越，欢迎大家点赞、收藏和评论，感谢支持！