基準測試套件

vLLM 提供全面的基準測試工具，用於效能測試和評估。

• 基準測試 CLI：vllm bench CLI 工具和專門的基準測試指令碼，用於互動式效能測試。
• 引數掃描：自動執行 vllm bench 以測試多種配置，適用於 最佳化和調優。
• 效能儀表盤：自動化的 CI，可在每次提交時釋出基準測試結果。