跳到內容

Dockerfile

我們提供一個 docker/Dockerfile 來構建映象,以便執行與 OpenAI 相容的 vLLM 伺服器。有關使用 Docker 部署的更多資訊,請參閱此處

以下是多階段 Dockerfile 的視覺化表示。構建圖包含以下節點:

  • 所有構建階段
  • 預設構建目標(以灰色突出顯示)
  • 外部映象(帶虛線邊框)

構建圖的邊緣表示:

  • FROM ... 依賴項(實線和實心箭頭)

  • COPY --from=... 依賴項(虛線和空心箭頭)

  • RUN --mount=(.\*)from=... 依賴項(點線和空心菱形箭頭)

query

使用以下工具製作:https://github.com/patrickhoefler/dockerfilegraph

重新生成構建圖的命令(請務必在 Dockerfile 所在的 vLLM 倉庫的 `root` 目錄下執行)

dockerfilegraph \
  -o png \
  --legend \
  --dpi 200 \
  --max-label-length 50 \
  --filename docker/Dockerfile

或者如果您想直接使用 Docker 映象執行

docker run \
   --rm \
   --user "$(id -u):$(id -g)" \
   --workdir /workspace \
   --volume "$(pwd)":/workspace \
   ghcr.io/patrickhoefler/dockerfilegraph:alpine \
   --output png \
   --dpi 200 \
   --max-label-length 50 \
   --filename docker/Dockerfile \
   --legend

(要為不同檔案執行,您可以向 --filename 標誌傳遞不同的引數。)