1. 背景

最早是阿里提出来的，天猫双十一…

QPS等概念

• QPS：Queries Per Second意思是“每秒查询率”，是一台服务器每秒能够相应的查询次数
• TPS：是TransactionsPerSecond的缩写，也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。
• RT(Response-time):响应时间：执行一个请求从开始到最后收到响应数据所花费的总体时间,即从客户端发起请求到收到服务器响应结果的时间
• 并发数是指系统同时能处理的请求数量，这个也是反应了系统的负载能力。

• 系统的吞吐量（承压能力）与request对CPU的消耗、外部接口、IO等等紧密关联。单个request 对CPU消耗越高，外部系统接口、IO速度越慢，系统吞吐能力越低，反之越高。系统吞吐量几个重要参数：QPS（TPS）、并发数、响应时间。
  • QPS（TPS）：（Query Per Second）每秒钟request/事务 数量
  • 并发数：系统同时处理的request/事务数
  • 响应时间：一般取平均响应时间
    QPS = 并发数/平均响应时间
• 实际举例
  1. 如果每天80%的访问集中在20%的时间里，那么这20%的时间就叫做峰值时间
  2. 公式：峰值时间每秒请求数QPS=总PV数0.8 / 每天秒数0.2
  3. 每天300w PV 的在单台机器上，这台机器需要多少QPS？
     • ( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)
  4. 如果一台机器的QPS是58，需要几台机器来支持？
     • 139 / 58 = 3

最佳线程数

1. 单线程QPS公式：QPS=1000ms/RT
   • 对同一个系统而言，支持的线程数越多，QPS越高。假设一个RT是80ms,则可以很容易的计算出QPS,QPS = 1000/80 = 12.5
2. 多线程场景，如果把服务端的线程数提升到2，那么整个系统的QPS则为 2*（1000/80） = 2<