并发、并行、吞吐量、延迟、响应时间 含义理解

并发、并行、吞吐量、延迟、响应时间 知识点了解

1. 响应时间(RT)

理解：响应时间是指系统对请求作出响应的时间。例如一个正在运行的服务，服务内程序接受到参数请求开始，到程序计算完，并将结果返回出去结束，这段时间就是响应时间。
一个系统通常会提供许多功能，而不同功能的处理逻辑也千差万别，因而不同功能的响应时间也不尽相同，甚至同一功能在不同输入数据的情况下响应时间也不相同。所以，在讨论一个系统的响应时间时，人们通常是指该系统所有功能的平均相应时间或者所有功能的最大响应时间。
人们普遍认为响应时间是一个合理且准确的性能指标，但是响应时间的绝对值并不能直接反映软件的性能的高低，软件性能的高低实际上取决于用户对该响应时间的接受程度。
对于一个游戏软件来说，响应时间小于100毫秒应该是不错的，响应时间在1秒左右可能属于勉强可以接受，如果响应时间达到3秒就完全难以接受了。
而对于编译系统来说，完整编译一个较大规模软件的源代码可能需要几十分钟甚至更长时间，但这些响应时间对于用户来说都是可以接受的。

2.延迟

理解：客户端发出请求到接收到反馈结果的延迟时间。与相应时间类似，但是 延迟时间=响应时间+网络延迟。

3.吞吐量（TPS 每秒吞吐量）

吞吐量是指系统在单位时间内处理请求的数量。
对于无并发的应用系统而言，吞吐量与响应时间成严格的反比关系，实际上此时吞吐量就是响应时间的倒数。
对于单用户的系统，响应时间可以很好地度量系统的性能，但对于并发系统，通常需要用吞吐量作为性能指标。
对于一个多用户的系统，如果只有一个用户使用时系统的平均响应时间是t，当有你n个用户使用时，每个用户看到的响应时间通常并不是n×t，而往往比n×t小很多。
这是因为在处理单个请求时，在每个时间点都可能有许多资源被闲置，当处理多个请求时，如果资源配置合理，每个用户看到的平均响应时间并不随用户数的增加而线性增加。

4.并发

一个处理器同时处理多个任务，多个任务线程抢占一个处理器资源，资源很少会有浪费，但是耗时不会大量减少。

5.并行

n个处理器同时处理n个任务，n个任务线程同时在运行，资源会有较多浪费，但时会极大地减少耗时。