QPS 和并发测试

要测试 http 应用的 QPS（每秒请求数）和并发性能，你可以使用 wrk、ab（Apache Benchmark）、或 hey 等工具。下面介绍如何使用这些工具来测试 Flask 应用的性能。

1. 使用 wrk 进行 QPS 和并发测试

wrk 是一个现代的 HTTP 基准测试工具，支持高并发。你可以通过 Homebrew 安装它：

brew install wrk

运行 wrk 测试

假设你的 Flask 应用运行在 http://localhost:8001，你可以通过以下命令测试并发请求和 QPS：

wrk -t12 -c400 -d30s http://localhost:8001

解释参数： - -t12：使用 12 个线程。 - -c400：模拟 400 个并发连接。 - -d30s：测试持续时间为 30 秒。 - http://localhost:8001：测试的目标 URL。

wrk 将会在终端输出测试结果，包括每秒请求数、延迟时间等。

2. 使用 ab（Apache Benchmark）测试

ab 是 Apache 自带的一个简单的基准测试工具，你可以使用它来测试 Flask 应用的 QPS 和并发。

安装 ab

在 macOS 上可以通过 Homebrew 安装 ab：

brew install httpd

然后可以直接使用 ab 命令：

ab -n 10000 -c 100 http://localhost:8001/

解释参数： - -n 10000：总共发送 10,000 个请求。 - -c 100：每次并发 100 个请求。 - http://localhost:8001/：测试的目标 URL。

这将输出类似于以下内容：

Requests per second:    500.23 [#/sec] (mean)
Time per request:       200.46 [ms] (mean)

3. 使用 hey 进行性能测试

hey 是一个轻量级的 HTTP 性能测试工具，类似于 ab，但更简单易用。

安装 hey

使用 Homebrew 安装 hey：

brew install hey

运行 hey 测试

使用以下命令进行 QPS 和并发测试：

hey -n 10000 -c 100 http://localhost:8001

解释参数： - -n 10000：总共发送 10,000 个请求。 - -c 100：每次并发 100 个请求。 - http://localhost:8001：测试的目标 URL。

优化 Gunicorn 配置

如果你的 QPS 或并发表现不理想，可以通过调整 Gunicorn 的工作进程和线程数来优化性能：

• 增加工作进程数（-w 参数）和线程数（--threads 参数）。
• 例如：

gunicorn -w 4 --threads 4 -b 0.0.0.0:8001 app:app

这会使用 4 个进程，每个进程使用 4 个线程来处理请求。

总结

• 使用 wrk、ab 或 hey 测试 Flask 应用的 QPS 和并发性能。
• 根据测试结果，优化 Gunicorn 的工作进程和线程数，以提高应用的并发和处理能力。