CPU - Intel® Xeon®

已驗證硬體

硬體
Intel® Xeon® 6 處理器
Intel® Xeon® 5 處理器

支援的模型

純文字語言模型

模型	架構	支援
meta-llama/Llama-3.1-8B-Instruct	LlamaForCausalLM	✅
meta-llama/Llama-3.2-3B-Instruct	LlamaForCausalLM	✅
ibm-granite/granite-3.2-2b-instruct	GraniteForCausalLM	✅
Qwen/Qwen3-1.7B	Qwen3ForCausalLM	✅
Qwen/Qwen3-4B	Qwen3ForCausalLM	✅
Qwen/Qwen3-8B	Qwen3ForCausalLM	✅
zai-org/glm-4-9b-hf	GLMForCausalLM	✅
google/gemma-7b	GemmaForCausalLM	✅

多模態語言模型

模型	架構	支援
Qwen/Qwen2.5-VL-7B-Instruct	Qwen2VLForConditionalGeneration	✅
openai/whisper-large-v3	WhisperForConditionalGeneration	✅

✅ 執行並已最佳化。
🟨 執行正確，但尚未最佳化到綠色狀態。
❌ 未透過準確性測試或無法執行。