相容性矩陣¶
下表顯示了互斥的特性以及在某些硬體上的支援情況。
所使用的符號具有以下含義
- ✅ = 完全相容
- 🟠 = 部分相容
- ❌ = 不相容
- ❔ = 未知或待定
注意
請檢視帶連結的 ❌ 或 🟠 符號,以瞭解不支援的特性/硬體組合的跟蹤問題。
特性 x 特性¶
功能 | CP | APC | LoRA | SD | CUDA 圖 | 池化 | 編解碼 | logP | 提示 logP | 非同步輸出 | 多步 | mm | 最佳選擇 | 束搜尋 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
CP | ✅ | |||||||||||||
APC | ✅ | ✅ | ||||||||||||
LoRA | ✅ | ✅ | ✅ | |||||||||||
SD | ✅ | ✅ | ❌ | ✅ | ||||||||||
CUDA 圖 | ✅ | ✅ | ✅ | ✅ | ✅ | |||||||||
池化 | ❌ | ❌ | ❌ | ❌ | ❌ | ✅ | ||||||||
編解碼 | ❌ | ❌ | ❌ | ❌ | ✅ | ✅ | ✅ | |||||||
logP | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ✅ | ✅ | ||||||
提示 logP | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ✅ | ✅ | ✅ | |||||
非同步輸出 | ✅ | ✅ | ✅ | ❌ | ✅ | ❌ | ❌ | ✅ | ✅ | ✅ | ||||
多步 | ❌ | ✅ | ❌ | ❌ | ✅ | ❌ | ❌ | ✅ | ✅ | ✅ | ✅ | |||
mm | ✅ | 🟠 | 🟠 | ❔ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❔ | ✅ | ||
最佳選擇 | ✅ | ✅ | ✅ | ❌ | ✅ | ❌ | ✅ | ✅ | ✅ | ❔ | ❌ | ✅ | ✅ | |
束搜尋 | ✅ | ✅ | ✅ | ❌ | ✅ | ❌ | ✅ | ✅ | ✅ | ❔ | ❌ | ❔ | ✅ | ✅ |
特性 x 硬體¶
功能 | Volta | Turing | Ampere | Ada | Hopper | CPU | AMD | TPU |
---|---|---|---|---|---|---|---|---|
CP | ❌ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ |
APC | ❌ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ |
LoRA | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ |
SD | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
CUDA 圖 | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ✅ | ❌ |
池化 | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❔ | ❌ |
編解碼 | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ❌ |
mm | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
logP | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
提示 logP | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
非同步輸出 | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ❌ | ❌ |
多步 | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | ✅ | ❌ |
最佳選擇 | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
束搜尋 | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ |
注意
請參考 透過 NxD 推理後端支援的特性 以瞭解 AWS Neuron 硬體上支援的特性