索引 A | B | C | D | E | F | G | H | I | K | L | M | N | O | P | R | S | T | U | V | W A abort() (vllm.AsyncLLMEngine 方法) abort_request() (vllm.LLMEngine 方法) add_lora() (vllm.AsyncLLMEngine 方法) add_request() (vllm.LLMEngine 方法) additional_data (vllm.PoolingParams 屬性) apply() (vllm.multimodal.processing.BaseMultiModalProcessor 方法) (vllm.multimodal.processing.EncDecMultiModalProcessor 方法) apply_model() (vllm.LLM 方法) apply_text_matches() (在模組 vllm.multimodal.processing 中) apply_token_matches() (在模組 vllm.multimodal.processing 中) as_classification_model() (在模組 vllm.model_executor.models.adapters 中) as_embedding_model() (在模組 vllm.model_executor.models.adapters 中) as_reward_model() (在模組 vllm.model_executor.models.adapters 中) AsyncLLMEngine (在 vllm 中的類) AudioEmbeddingItems (在 vllm.multimodal.parse 中的類) AudioProcessorItems (在 vllm.multimodal.parse 中的類) B BaseDummyInputsBuilder (在 vllm.multimodal.profiling 中的類) BaseMultiModalProcessor (在 vllm.multimodal.processing 中的類) BaseProcessingInfo (在 vllm.multimodal.processing 中的類) batch() (vllm.multimodal.inputs.MultiModalKwargs 靜態方法) batched() (vllm.multimodal.inputs.MultiModalFieldConfig 靜態方法) beam_search() (vllm.LLM 方法) BoundPromptUpdate (在 vllm.multimodal.processing 中的類) C chat() (vllm.LLM 方法) check_health() (vllm.AsyncLLMEngine 方法) classify() (vllm.LLM 方法) clone() (vllm.PoolingParams 方法) (vllm.SamplingParams 方法) collective_rpc() (vllm.LLM 方法) compute_logits() (vllm.model_executor.models.interfaces_base.VllmModelForTextGeneration 方法) content (vllm.multimodal.processing.BoundPromptUpdate 屬性) (vllm.multimodal.processing.PromptInsertion 屬性) (vllm.multimodal.processing.PromptReplacement 屬性) (vllm.multimodal.processing.PromptUpdate 屬性) create_decoder_prompt() (vllm.multimodal.processing.EncDecMultiModalProcessor 方法) create_encoder_prompt() (vllm.multimodal.processing.EncDecMultiModalProcessor 方法) create_input_mapper() (vllm.multimodal.registry.MultiModalRegistry 方法) create_processor() (vllm.multimodal.registry.MultiModalRegistry 方法) D data (vllm.multimodal.inputs.MultiModalFieldElem 屬性) DEPRECATE_INIT_POSARGS (vllm.LLM 屬性) DEPRECATE_LEGACY (vllm.LLM 屬性) DictEmbeddingItems (在 vllm.multimodal.parse 中的類) do_log_stats() (vllm.LLMEngine 方法) DO_VALIDATE_OUTPUT (vllm.LLMEngine 屬性) DummyDecoderData (在 vllm.multimodal.profiling 中的類) DummyEncoderData (在 vllm.multimodal.profiling 中的類) DummyInputsBuilderFactory (在 vllm.multimodal.registry 中的類) E embed() (vllm.LLM 方法) EmbeddingItems (在 vllm.multimodal.parse 中的類) EncDecMultiModalProcessor (在 vllm.multimodal.processing 中的類) encode() (vllm.AsyncLLMEngine 方法) (vllm.LLM 方法) engine_step() (vllm.AsyncLLMEngine 方法) F field (vllm.multimodal.inputs.MultiModalFieldElem 屬性) find_text_matches() (在模組 vllm.multimodal.processing 中) find_token_matches() (在模組 vllm.multimodal.processing 中) flat() (vllm.multimodal.inputs.MultiModalFieldConfig 靜態方法) flat_from_sizes() (vllm.multimodal.inputs.MultiModalFieldConfig 靜態方法) forward() (vllm.model_executor.models.interfaces.SupportsPP 方法) from_engine_args() (vllm.AsyncLLMEngine 類方法) (vllm.LLMEngine 類方法) from_items() (vllm.multimodal.inputs.MultiModalKwargs 靜態方法) from_vllm_config() (vllm.AsyncLLMEngine 類方法) full (vllm.multimodal.processing.PromptUpdateDetails 屬性) full_groupby_modality() (在模組 vllm.multimodal.processing 中) G generate() (vllm.AsyncLLMEngine 方法) (vllm.LLM 方法) get() (vllm.multimodal.parse.DictEmbeddingItems 方法) (vllm.multimodal.parse.EmbeddingItems 方法) (vllm.multimodal.parse.ModalityDataItems 方法) (vllm.multimodal.parse.ProcessorBatchItems 方法) get_all() (vllm.multimodal.parse.ModalityDataItems 方法) get_all_counts() (vllm.multimodal.parse.MultiModalDataItems 方法) get_content() (vllm.multimodal.processing.BoundPromptUpdate 方法) get_count() (vllm.multimodal.parse.DictEmbeddingItems 方法) (vllm.multimodal.parse.EmbeddingItems 方法) (vllm.multimodal.parse.ModalityDataItems 方法) (vllm.multimodal.parse.MultiModalDataItems 方法) (vllm.multimodal.parse.ProcessorBatchItems 方法) get_decoder_dummy_data() (vllm.multimodal.registry.MultiModalRegistry 方法) get_decoding_config() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) get_dummy_processor_inputs() (vllm.multimodal.profiling.BaseDummyInputsBuilder 方法) get_encoder_dummy_data() (vllm.multimodal.registry.MultiModalRegistry 方法) get_hf_processor() (vllm.multimodal.processing.BaseProcessingInfo 方法) get_input_embeddings() (vllm.model_executor.models.interfaces.SupportsMultiModal 方法) get_input_preprocessor() (vllm.AsyncLLMEngine 方法) get_item() (vllm.multimodal.inputs.MultiModalKwargs 方法) get_item_count() (vllm.multimodal.inputs.MultiModalKwargs 方法) get_items() (vllm.multimodal.inputs.MultiModalKwargs 方法) (vllm.multimodal.parse.MultiModalDataItems 方法) get_language_model() (vllm.model_executor.models.interfaces.SupportsMultiModal 方法) get_lora_config() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) get_max_multimodal_tokens() (vllm.multimodal.registry.MultiModalRegistry 方法) get_max_tokens_by_modality() (vllm.multimodal.registry.MultiModalRegistry 方法) get_max_tokens_per_item_by_modality() (vllm.multimodal.registry.MultiModalRegistry 方法) get_max_tokens_per_item_by_nonzero_modality() (vllm.multimodal.registry.MultiModalRegistry 方法) get_mm_limits_per_prompt() (vllm.multimodal.registry.MultiModalRegistry 方法) get_model_config() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) get_multimodal_embeddings() (vllm.model_executor.models.interfaces.SupportsMultiModal 方法) get_num_unfinished_requests() (vllm.LLMEngine 方法) get_parallel_config() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) get_passthrough_data() (vllm.multimodal.parse.DictEmbeddingItems 方法) (vllm.multimodal.parse.EmbeddingItems 方法) (vllm.multimodal.parse.ModalityDataItems 方法) (vllm.multimodal.parse.ProcessorBatchItems 方法) get_processor_data() (vllm.multimodal.parse.DictEmbeddingItems 方法) (vllm.multimodal.parse.EmbeddingItems 方法) (vllm.multimodal.parse.ModalityDataItems 方法) (vllm.multimodal.parse.ProcessorBatchItems 方法) get_scheduler_config() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) get_supported_mm_limits() (vllm.multimodal.processing.BaseProcessingInfo 方法) get_tokenizer() (vllm.AsyncLLMEngine 方法) H has_inner_state (vllm.model_executor.models.interfaces.HasInnerState 屬性) has_processor() (vllm.multimodal.registry.MultiModalRegistry 方法) has_unfinished_requests() (vllm.LLMEngine 方法) has_unfinished_requests_for_virtual_engine() (vllm.LLMEngine 方法) HasInnerState (在 vllm.model_executor.models.interfaces 中的類) HasNoOps (在 vllm.model_executor.models.interfaces 中的類) height (vllm.multimodal.parse.ImageSize 屬性) I ImageEmbeddingItems (在 vllm.multimodal.parse 中的類) ImageProcessorItems (在 vllm.multimodal.parse 中的類) ImageSize (在 vllm.multimodal.parse 中的類) init_mm_limits_per_prompt() (vllm.multimodal.registry.MultiModalRegistry 方法) insertion (vllm.multimodal.processing.PromptInsertion 屬性) is_attention_free (vllm.model_executor.models.interfaces.IsAttentionFree 屬性) is_embed (vllm.multimodal.inputs.PlaceholderRange 屬性) (vllm.multimodal.processing.PromptUpdateDetails 屬性) is_hybrid (vllm.model_executor.models.interfaces.IsHybrid 屬性) is_sleeping() (vllm.AsyncLLMEngine 方法) IsAttentionFree (在 vllm.model_executor.models.interfaces 中的類) IsHybrid (在 vllm.model_executor.models.interfaces 中的類) iter_token_matches() (在模組 vllm.multimodal.processing 中) K key (vllm.multimodal.inputs.MultiModalFieldElem 屬性) L length (vllm.multimodal.inputs.PlaceholderRange 屬性) LLM (在 vllm 中的類) LLMEngine (在 vllm 中的類) M make_empty_intermediate_tensors() (vllm.model_executor.models.interfaces.SupportsPP 方法) map_input() (vllm.multimodal.registry.MultiModalRegistry 方法) mm_hashes (vllm.multimodal.inputs.MultiModalInputs 屬性) mm_kwargs (vllm.multimodal.inputs.MultiModalInputs 屬性) mm_placeholders (vllm.multimodal.inputs.MultiModalInputs 屬性) mm_processor_kwargs (vllm.inputs.TextPrompt 屬性) (vllm.inputs.TokensPrompt 屬性) modality (vllm.multimodal.inputs.MultiModalFieldElem 屬性) (vllm.multimodal.processing.PromptUpdate 屬性) ModalityDataItems (在 vllm.multimodal.parse 中的類) mode (vllm.multimodal.processing.BoundPromptUpdate 屬性) (vllm.multimodal.processing.PromptInsertion 屬性) (vllm.multimodal.processing.PromptReplacement 屬性) (vllm.multimodal.processing.PromptUpdate 屬性) module vllm.engine vllm.model_executor.models.adapters vllm.model_executor.models.interfaces vllm.model_executor.models.interfaces_base vllm.multimodal.parse vllm.multimodal.processing vllm.multimodal.profiling vllm.multimodal.registry multi_modal_data (vllm.inputs.TextPrompt 屬性) (vllm.inputs.TokensPrompt 屬性) (vllm.multimodal.profiling.DummyDecoderData 屬性) multi_modal_placeholders (vllm.multimodal.profiling.DummyDecoderData 屬性) MULTIMODAL_REGISTRY (在模組 vllm.multimodal 中) MultiModalDataDict (在模組 vllm.multimodal.inputs 中) MultiModalDataItems (在 vllm.multimodal.parse 中的類) MultiModalDataParser (在 vllm.multimodal.parse 中的類) MultiModalEmbeddings (在模組 vllm.model_executor.models.interfaces 中) MultiModalFieldConfig (在 vllm.multimodal.inputs 中的類) MultiModalFieldElem (在 vllm.multimodal.inputs 中的類) MultiModalInputs (在 vllm.multimodal.inputs 中的類) MultiModalKwargs (在 vllm.multimodal.inputs 中的類) MultiModalKwargsItem (在 vllm.multimodal.inputs 中的類) MultiModalProcessorFactory (在 vllm.multimodal.registry 中的類) MultiModalProfiler (在 vllm.multimodal.profiling 中的類) MultiModalRegistry (在 vllm.multimodal.registry 中的類) N NestedTensors (在模組 vllm.multimodal.inputs 中) O offset (vllm.multimodal.inputs.PlaceholderRange 屬性) P PlaceholderFeaturesInfo (在 vllm.multimodal.processing 中的類) PlaceholderRange (在 vllm.multimodal.inputs 中的類) pooler() (vllm.model_executor.models.interfaces_base.VllmModelForPooling 方法) PoolingParams (在 vllm 中的類) ProcessingInfoFactory (在 vllm.multimodal.registry 中的類) ProcessorBatchItems (在 vllm.multimodal.parse 中的類) ProcessorInputs (在 vllm.multimodal.profiling 中的類) prompt (vllm.inputs.TextPrompt 屬性) (vllm.multimodal.inputs.MultiModalInputs 屬性) prompt_token_ids (vllm.inputs.TokensPrompt 屬性) (vllm.multimodal.inputs.MultiModalInputs 屬性) (vllm.multimodal.profiling.DummyDecoderData 屬性) (vllm.multimodal.profiling.DummyEncoderData 屬性) PromptIndex (在 vllm.multimodal.processing 中的類) PromptInsertion (在 vllm.multimodal.processing 中的類) PromptReplacement (在 vllm.multimodal.processing 中的類) PromptSeq (在模組 vllm.multimodal.processing 中) PromptTarget (在模組 vllm.multimodal.processing 中) PromptTargetMatch (在 vllm.multimodal.processing 中的類) PromptType (在模組 vllm.inputs 中) PromptUpdate (在 vllm.multimodal.processing 中的類) PromptUpdateContent (在模組 vllm.multimodal.processing 中) PromptUpdateDetails (在 vllm.multimodal.processing 中的類) PromptUpdateInfo (在模組 vllm.multimodal.processing 中) R register_image_input_mapper() (vllm.multimodal.registry.MultiModalRegistry 方法) register_input_mapper() (vllm.multimodal.registry.MultiModalRegistry 方法) register_max_image_tokens() (vllm.multimodal.registry.MultiModalRegistry 方法) register_max_multimodal_tokens() (vllm.multimodal.registry.MultiModalRegistry 方法) register_plugin() (vllm.multimodal.registry.MultiModalRegistry 方法) register_processor() (vllm.multimodal.registry.MultiModalRegistry 方法) replace_token_matches() (在模組 vllm.multimodal.processing 中) replacement (vllm.multimodal.processing.PromptReplacement 屬性) reset_prefix_cache() (vllm.AsyncLLMEngine 方法) (vllm.LLMEngine 方法) run_engine_loop() (vllm.AsyncLLMEngine 靜態方法) S sample() (vllm.model_executor.models.interfaces_base.VllmModelForTextGeneration 方法) SamplingParams (在 vllm 中的類) score() (vllm.LLM 方法) shared() (vllm.multimodal.inputs.MultiModalFieldConfig 靜態方法) shutdown_background_loop() (vllm.AsyncLLMEngine 方法) sleep() (vllm.AsyncLLMEngine 方法) (vllm.LLM 方法) start_background_loop() (vllm.AsyncLLMEngine 方法) start_profile() (vllm.AsyncLLMEngine 方法) step() (vllm.LLMEngine 方法) stop_profile() (vllm.AsyncLLMEngine 方法) supports_lora (vllm.model_executor.models.interfaces.SupportsLoRA 屬性) supports_multimodal (vllm.model_executor.models.interfaces.SupportsMultiModal 屬性) supports_pp (vllm.model_executor.models.interfaces.SupportsPP 屬性) SupportsCrossEncoding (在 vllm.model_executor.models.interfaces 中的類) SupportsLoRA (在 vllm.model_executor.models.interfaces 中的類) SupportsMultiModal (在 vllm.model_executor.models.interfaces 中的類) SupportsPP (在 vllm.model_executor.models.interfaces 中的類) SupportsQuant (在 vllm.model_executor.models.interfaces 中的類) SupportsTranscription (在 vllm.model_executor.models.interfaces 中的類) SupportsV0Only (在 vllm.model_executor.models.interfaces 中的類) T target (vllm.multimodal.processing.BoundPromptUpdate 屬性) (vllm.multimodal.processing.PromptUpdate 屬性) TextPrompt (在 vllm.inputs 中的類) token_type_ids (vllm.inputs.TokensPrompt 屬性) (vllm.multimodal.inputs.MultiModalInputs 屬性) TokensPrompt (在 vllm.inputs 中的類) type (vllm.multimodal.inputs.MultiModalInputs 屬性) U update_from_generation_config() (vllm.SamplingParams 方法) UpdateMode (在 vllm.multimodal.processing 中的類) V VideoEmbeddingItems (在 vllm.multimodal.parse 中的類) VideoProcessorItems (在 vllm.multimodal.parse 中的類) vllm.engine module vllm.model_executor.models.adapters module vllm.model_executor.models.interfaces module vllm.model_executor.models.interfaces_base module vllm.multimodal.parse module vllm.multimodal.processing module vllm.multimodal.profiling module vllm.multimodal.registry module VllmModel (在 vllm.model_executor.models.interfaces_base 中的類) VllmModelForPooling (在 vllm.model_executor.models.interfaces_base 中的類) VllmModelForTextGeneration (在 vllm.model_executor.models.interfaces_base 中的類) W wake_up() (vllm.AsyncLLMEngine 方法) (vllm.LLM 方法) width (vllm.multimodal.parse.ImageSize 屬性)
