基準測試套件¶ vLLM 提供全面的基準測試工具,用於效能測試和評估。 基準測試 CLI:vllm bench CLI 工具和專門的基準測試指令碼,用於互動式效能測試。 引數掃描:自動執行 vllm bench 以測試多種配置,適用於 最佳化和調優。 效能儀表盤:自動化的 CI,可在每次提交時釋出基準測試結果。