Transformers documentation
Auto-классы
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.1).
Auto-классы
Во многих случаях архитектуру можно определить по имени или пути предобученной модели, переданной в метод from_pretrained().
Создание экземпляров AutoConfig, AutoModel или AutoTokenizer автоматически порождает соответствующий класс архитектуры. Например:
model = AutoModel.from_pretrained("google-bert/bert-base-cased", device_map="auto")Это создаёт экземпляр модели BertModel.
Для каждой задачи существует соответствующий класс AutoModel.
Расширение классов Auto
Каждый auto-класс предоставляет метод, позволяющий расширить его с помощью пользовательских классов. Например, если вы определяете пользовательский класс модели NewModel, убедитесь, что вы также определили соответствующий NewModelConfig. Затем вы можете зарегистрировать их в auto-классах, как показано ниже:
from transformers import AutoConfig, AutoModel
AutoConfig.register("new-model", NewModelConfig)
AutoModel.register(NewModelConfig, NewModel)Затем вы можете использовать классы auto в обычном режиме.
Если ваш
NewModelConfigявляется подклассом PreTrainedConfig, убедитесь, что его атрибутmodel_typeустановлен в то же значение, которое вы используете при регистрации конфигурации (здесь"new-model").Аналогично, если ваш
NewModelявляется подклассом PreTrainedModel, убедитесь, что его атрибутconfig_classустановлен в тот же класс, который вы используете при регистрации модели (здесьNewModelConfig).
AutoConfig
Это универсальный класс конфигурации, который будет создан как один из классов конфигурации библиотеки при использовании метода класса from_pretrained().
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path: str | os.PathLike[str]**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — может быть одним из следующих:- Строка, model id конфигурации предобученной модели, размещённой в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему файл конфигурации, сохранённый с помощью метода save_pretrained() или метода save_pretrained(), например,
./my_model_directory/. - путь к сохранённому конфигурационному JSON-файлу, например,
./my_model_directory/configuration.json.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Указывает, следует ли принудительно (пере)загружать веса модели и файлы конфигурации, заменяя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - return_unused_kwargs (
bool, необязательный, по умолчаниюFalse) — еслиFalse, эта функция возвращает только итоговый объект конфигурации.Если
True, то эта функция возвращаетTuple(config, unused_kwargs), где unused_kwargs — это словарь, состоящий из пар ключ/значение, ключи которых не являются атрибутами конфигурации, то есть та частьkwargs, которая не была использована для обновленияconfigи в остальном игнорируется. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - kwargs(additional keyword arguments, optional) —
Значения в kwargs для любых ключей, являющихся атрибутами конфигурации, будут использоваться для переопределения загруженных значений. Поведение в отношении пар ключ/значение, ключи которых не являются атрибутами конфигурации, контролируется параметром
return_unused_kwargs.
Создайте экземпляр одного из классов конфигурации библиотеки на основе конфигурации предобученной модели.
Класс конфигурации, который будет создан, выбирается на основе свойства model_type объекта конфигурации, который загружается, а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- EvollaModel — EvollaConfig (модель EvollaConfig)
- afmoe — AfmoeConfig (модель AfmoeConfig)
- aimv2 — Aimv2Config (модель Aimv2Config)
- aimv2_text_model — Aimv2TextConfig (модель Aimv2TextConfig)
- aimv2_vision_model — Aimv2VisionConfig (модель Aimv2VisionConfig)
- albert — AlbertConfig (модель AlbertConfig)
- align — AlignConfig (модель AlignConfig)
- align_text_model — AlignTextConfig (модель AlignTextConfig)
- align_vision_model — AlignVisionConfig (модель AlignVisionConfig)
- altclip — AltCLIPConfig (модель AltCLIPConfig)
- altclip_text_model — AltCLIPTextConfig (модель AltCLIPTextConfig)
- altclip_vision_model — AltCLIPVisionConfig (модель AltCLIPVisionConfig)
- apertus — ApertusConfig (модель ApertusConfig)
- arcee — ArceeConfig (модель ArceeConfig)
- aria — AriaConfig (модель AriaConfig)
- aria_text — AriaTextConfig (модель AriaTextConfig)
- audio-spectrogram-transformer — ASTConfig (модель ASTConfig)
- audioflamingo3 — AudioFlamingo3Config (модель AudioFlamingo3Config)
- audioflamingo3_encoder — AudioFlamingo3EncoderConfig (модель AudioFlamingo3EncoderConfig)
- autoformer — AutoformerConfig (модель AutoformerConfig)
- axk1 — AXK1Config (модель AXK1Config)
- axk2 — AXK2Config (модель AXK2Config)
- aya_vision — AyaVisionConfig (модель AyaVisionConfig)
- bailing_hybrid — BailingHybridConfig (модель BailingHybridConfig)
- bamba — BambaConfig (модель BambaConfig)
- bark — BarkConfig (модель BarkConfig)
- bart — BartConfig (модель BartConfig)
- beam — BeamConfig (модель BeamConfig)
- beit — BeitConfig (модель BeitConfig)
- bert — BertConfig (модель BertConfig)
- bert-generation — BertGenerationConfig (модель BertGenerationConfig)
- big_bird — BigBirdConfig (модель BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusConfig (модель BigBirdPegasusConfig)
- biogpt — BioGptConfig (модель BioGptConfig)
- bit — BitConfig (модель BitConfig)
- bitnet — BitNetConfig (модель BitNetConfig)
- blenderbot — BlenderbotConfig (модель BlenderbotConfig)
- blenderbot-small — BlenderbotSmallConfig (модель BlenderbotSmallConfig)
- blip — BlipConfig (модель BlipConfig)
- blip-2 — Blip2Config (модель Blip2Config)
- blip_2_qformer — Blip2QFormerConfig (модель Blip2QFormerConfig)
- blip_2_vision_model — Blip2VisionConfig (модель Blip2VisionConfig)
- blip_text_model — BlipTextConfig (модель BlipTextConfig)
- blip_vision_model — BlipVisionConfig (модель BlipVisionConfig)
- bloom — BloomConfig (модель BloomConfig)
- blt — BltConfig (модель BltConfig)
- blt_global_transformer —
BltGlobalTransformerConfig(модель BltGlobalTransformerConfig) - blt_local_decoder —
BltLocalDecoderConfig(модель BltLocalDecoderConfig) - blt_local_encoder —
BltLocalEncoderConfig(модель BltLocalEncoderConfig) - blt_patcher —
BltPatcherConfig(модель BltPatcherConfig) - bridgetower — BridgeTowerConfig (модель BridgeTowerConfig)
- bridgetower_text_model — BridgeTowerTextConfig (модель BridgeTowerTextConfig)
- bridgetower_vision_model — BridgeTowerVisionConfig (модель BridgeTowerVisionConfig)
- bros — BrosConfig (модель BrosConfig)
- camembert — CamembertConfig (модель CamembertConfig)
- canary — CanaryConfig (модель CanaryConfig)
- canary_decoder — CanaryDecoderConfig (модель CanaryDecoderConfig)
- canine — CanineConfig (модель CanineConfig)
- chameleon — ChameleonConfig (модель ChameleonConfig)
- chameleon_vqgan — ChameleonVQVAEConfig (модель ChameleonVQVAEConfig)
- chinese_clip — ChineseCLIPConfig (модель ChineseCLIPConfig)
- chinese_clip_text_model — ChineseCLIPTextConfig (модель ChineseCLIPTextConfig)
- chinese_clip_vision_model — ChineseCLIPVisionConfig (модель ChineseCLIPVisionConfig)
- chmv2 — CHMv2Config (модель CHMv2Config)
- clap — ClapConfig (модель ClapConfig)
- clap_audio_model — ClapAudioConfig (модель ClapAudioConfig)
- clap_text_model — ClapTextConfig (модель ClapTextConfig)
- clip — CLIPConfig (модель CLIPConfig)
- clip_text_model — CLIPTextConfig (модель CLIPTextConfig)
- clip_vision_model — CLIPVisionConfig (модель CLIPVisionConfig)
- clipseg — CLIPSegConfig (модель CLIPSegConfig)
- clipseg_text_model — CLIPSegTextConfig (модель CLIPSegTextConfig)
- clipseg_vision_model — CLIPSegVisionConfig (модель CLIPSegVisionConfig)
- clvp — ClvpConfig (модель ClvpConfig)
- clvp_decoder — ClvpDecoderConfig (модель ClvpDecoderConfig)
- clvp_encoder — ClvpEncoderConfig (модель ClvpEncoderConfig)
- codegen — CodeGenConfig (модель CodeGenConfig)
- cohere — CohereConfig (модель CohereConfig)
- cohere2 — Cohere2Config (модель Cohere2Config)
- cohere2_moe — Cohere2MoeConfig (модель Cohere2MoeConfig)
- cohere2_vision — Cohere2VisionConfig (модель Cohere2VisionConfig)
- cohere_asr — CohereAsrConfig (модель CohereAsrConfig)
- cohere_compass — CohereCompassConfig (модель CohereCompassConfig)
- cohere_compass_text — CohereCompassTextConfig (модель CohereCompassTextConfig)
- cohere_compass_vision — CohereCompassVisionConfig (модель CohereCompassVisionConfig)
- colmodernvbert — ColModernVBertConfig (модель ColModernVBertConfig)
- colpali — ColPaliConfig (модель ColPaliConfig)
- colqwen2 — ColQwen2Config (модель ColQwen2Config)
- conditional_detr — ConditionalDetrConfig (модель ConditionalDetrConfig)
- convbert — ConvBertConfig (модель ConvBertConfig)
- convnext — ConvNextConfig (модель ConvNextConfig)
- convnextv2 — ConvNextV2Config (модель ConvNextV2Config)
- cosmos3_edge — Cosmos3EdgeConfig (модель Cosmos3EdgeConfig)
- cosmos3_edge_text — Cosmos3EdgeTextConfig (модель Cosmos3EdgeTextConfig)
- cosmos3_edge_vision — Cosmos3EdgeVisionConfig (модель Cosmos3EdgeVisionConfig)
- cosmos3_omni — Cosmos3OmniConfig (модель Cosmos3OmniConfig)
- cpmant — CpmAntConfig (модель CpmAntConfig)
- csm — CsmConfig (модель CsmConfig)
- csm_depth_decoder_model — CsmDepthDecoderConfig (модель CsmDepthDecoderConfig)
- ctrl — CTRLConfig (модель CTRLConfig)
- cvt — CvtConfig (модель CvtConfig)
- cwm — CwmConfig (модель CwmConfig)
- d_fine — DFineConfig (модель DFineConfig)
- dab-detr — DabDetrConfig (модель DabDetrConfig)
- dac — DacConfig (модель DacConfig)
- data2vec-audio — Data2VecAudioConfig (модель Data2VecAudioConfig)
- data2vec-text — Data2VecTextConfig (модель Data2VecTextConfig)
- data2vec-vision — Data2VecVisionConfig (модель Data2VecVisionConfig)
- dbrx — DbrxConfig (модель DbrxConfig)
- deberta — DebertaConfig (модель DebertaConfig)
- deberta-v2 — DebertaV2Config (модель DebertaV2Config)
- decision_transformer — DecisionTransformerConfig (модель DecisionTransformerConfig)
- deepseek_ocr2 — DeepseekOcr2Config (модель DeepseekOcr2Config)
- deepseek_ocr2_encoder — DeepseekOcr2VisionEncoderConfig (модель DeepseekOcr2VisionEncoderConfig)
- deepseek_ocr2_sam_vision_model — DeepseekOcr2SamVisionConfig (модель DeepseekOcr2SamVisionConfig)
- deepseek_ocr2_text — DeepseekOcr2TextConfig (модель DeepseekOcr2TextConfig)
- deepseek_ocr2_vision — DeepseekOcr2VisionConfig (модель DeepseekOcr2VisionConfig)
- deepseek_v2 — DeepseekV2Config (модель DeepseekV2Config)
- deepseek_v3 — DeepseekV3Config (модель DeepseekV3Config)
- deepseek_v32 — DeepseekV32Config (модель DeepseekV32Config)
- deepseek_v4 — DeepseekV4Config (модель DeepseekV4Config)
- deepseek_vl — DeepseekVLConfig (модель DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridConfig (модель DeepseekVLHybridConfig)
- deformable_detr — DeformableDetrConfig (модель DeformableDetrConfig)
- deimv2 — Deimv2Config (модель Deimv2Config)
- deit — DeiTConfig (модель DeiTConfig)
- depth_anything — DepthAnythingConfig (модель DepthAnythingConfig)
- depth_pro — DepthProConfig (модель DepthProConfig)
- detr — DetrConfig (модель DetrConfig)
- dia — DiaConfig (модель DiaConfig)
- dia_decoder — DiaDecoderConfig (модель DiaDecoderConfig)
- dia_encoder — DiaEncoderConfig (модель DiaEncoderConfig)
- diffllama — DiffLlamaConfig (модель DiffLlamaConfig)
- diffusion_gemma — DiffusionGemmaConfig (модель DiffusionGemmaConfig)
- diffusion_gemma_text — DiffusionGemmaTextConfig (модель DiffusionGemmaTextConfig)
- dinat — DinatConfig (модель DinatConfig)
- dinov2 — Dinov2Config (модель Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersConfig (модель Dinov2WithRegistersConfig)
- dinov3_convnext — DINOv3ConvNextConfig (модель DINOv3ConvNextConfig)
- dinov3_vit — DINOv3ViTConfig (модель DINOv3ViTConfig)
- distilbert — DistilBertConfig (модель DistilBertConfig)
- doge — DogeConfig (модель DogeConfig)
- donut-swin — DonutSwinConfig (модель DonutSwinConfig)
- dots1 — Dots1Config (модель Dots1Config)
- dpr — DPRConfig (модель DPRConfig)
- dpt — DPTConfig (модель DPTConfig)
- edgetam — EdgeTamConfig (модель EdgeTamConfig)
- edgetam_mask_decoder — EdgeTamMaskDecoderConfig (модель EdgeTamMaskDecoderConfig)
- edgetam_prompt_encoder — EdgeTamPromptEncoderConfig (модель EdgeTamPromptEncoderConfig)
- edgetam_video — EdgeTamVideoConfig (модель EdgeTamVideoConfig)
- edgetam_video_mask_decoder — EdgeTamVideoMaskDecoderConfig (модель EdgeTamVideoMaskDecoderConfig)
- edgetam_video_prompt_encoder — EdgeTamVideoPromptEncoderConfig (модель EdgeTamVideoPromptEncoderConfig)
- edgetam_vision_model — EdgeTamVisionConfig (модель EdgeTamVisionConfig)
- efficientloftr — EfficientLoFTRConfig (модель EfficientLoFTRConfig)
- efficientnet — EfficientNetConfig (модель EfficientNetConfig)
- electra — ElectraConfig (модель ElectraConfig)
- embedding_gemma2 — EmbeddingGemma2Config (модель EmbeddingGemma2Config)
- embedding_gemma2_text — EmbeddingGemma2TextConfig (модель EmbeddingGemma2TextConfig)
- emu3 — Emu3Config (модель Emu3Config)
- emu3_text_model — Emu3TextConfig (модель Emu3TextConfig)
- emu3_vqgan — Emu3VQVAEConfig (модель Emu3VQVAEConfig)
- encodec — EncodecConfig (модель EncodecConfig)
- encoder-decoder — EncoderDecoderConfig (модель EncoderDecoderConfig)
- eomt — EomtConfig (модель EomtConfig)
- eomt_dinov3 — EomtDinov3Config (модель EomtDinov3Config)
- ernie — ErnieConfig (модель ErnieConfig)
- ernie4_5 — Ernie4_5Config (модель Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeConfig (модель Ernie4_5_MoeConfig)
- ernie4_5_vl_moe — Ernie4_5_VLMoeConfig (модель Ernie4_5_VLMoeConfig)
- ernie4_5_vl_moe_text — Ernie4_5_VLMoeTextConfig (модель Ernie4_5_VLMoeTextConfig)
- ernie4_5_vl_moe_vision — Ernie4_5_VLMoeVisionConfig (модель Ernie4_5_VLMoeVisionConfig)
- esm — EsmConfig (модель EsmConfig)
- esmc — EsmcConfig (модель EsmcConfig)
- esmfold2 — EsmFold2Config (модель EsmFold2Config)
- eurobert — EuroBertConfig (модель EuroBertConfig)
- evolla — EvollaConfig (модель EvollaConfig)
- exaone4 — Exaone4Config (модель Exaone4Config)
- exaone4_5 — Exaone4_5_Config (модель Exaone4_5_Config)
- exaone4_5_vision — Exaone4_5_VisionConfig (модель Exaone4_5_VisionConfig)
- exaone_moe — ExaoneMoeConfig (модель ExaoneMoeConfig)
- falcon — FalconConfig (модель FalconConfig)
- falcon_h1 — FalconH1Config (модель FalconH1Config)
- falcon_mamba — FalconMambaConfig (модель FalconMambaConfig)
- fast_vlm — FastVlmConfig (модель FastVlmConfig)
- fastspeech2_conformer — FastSpeech2ConformerConfig (модель FastSpeech2ConformerConfig)
- fastspeech2_conformer_hifigan — FastSpeech2ConformerHifiGanConfig (модель FastSpeech2ConformerHifiGanConfig)
- fastspeech2_conformer_with_hifigan — FastSpeech2ConformerWithHifiGanConfig (модель FastSpeech2ConformerWithHifiGanConfig)
- flaubert — FlaubertConfig (модель FlaubertConfig)
- flava — FlavaConfig (модель FlavaConfig)
- flava_image_codebook — FlavaImageCodebookConfig (модель FlavaImageCodebookConfig)
- flava_image_model — FlavaImageConfig (модель FlavaImageConfig)
- flava_multimodal_model — FlavaMultimodalConfig (модель FlavaMultimodalConfig)
- flava_text_model — FlavaTextConfig (модель FlavaTextConfig)
- flex_olmo — FlexOlmoConfig (модель FlexOlmoConfig)
- flint — FlintConfig (модель FlintConfig)
- florence2 — Florence2Config (модель Florence2Config)
- florence_vision — Florence2VisionConfig (модель Florence2VisionConfig)
- fnet — FNetConfig (модель FNetConfig)
- focalnet — FocalNetConfig (модель FocalNetConfig)
- fsmt — FSMTConfig (модель FSMTConfig)
- fun_asr_nano — FunAsrNanoConfig (модель FunAsrNanoConfig)
- fun_asr_nano_encoder — FunAsrNanoEncoderConfig (модель FunAsrNanoEncoderConfig)
- funnel — FunnelConfig (модель FunnelConfig)
- fuyu — FuyuConfig (модель FuyuConfig)
- gemma — GemmaConfig (модель GemmaConfig)
- gemma2 — Gemma2Config (модель Gemma2Config)
- gemma3 — Gemma3Config (модель Gemma3Config)
- gemma3_text — Gemma3TextConfig (модель Gemma3TextConfig)
- gemma3n — Gemma3nConfig (модель Gemma3nConfig)
- gemma3n_audio — Gemma3nAudioConfig (модель Gemma3nAudioConfig)
- gemma3n_text — Gemma3nTextConfig (модель Gemma3nTextConfig)
- gemma3n_vision — Gemma3nVisionConfig (модель Gemma3nVisionConfig)
- gemma4 — Gemma4Config (модель Gemma4Config)
- gemma4_assistant — Gemma4AssistantConfig (модель Gemma4AssistantConfig)
- gemma4_audio — Gemma4AudioConfig (модель Gemma4AudioConfig)
- gemma4_text — Gemma4TextConfig (модель Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedConfig (модель Gemma4UnifiedConfig)
- gemma4_unified_assistant — Gemma4UnifiedAssistantConfig (модель Gemma4UnifiedAssistantConfig)
- gemma4_unified_audio — Gemma4UnifiedAudioConfig (модель Gemma4UnifiedAudioConfig)
- gemma4_unified_text — Gemma4UnifiedTextConfig (модель Gemma4UnifiedTextConfig)
- gemma4_unified_vision — Gemma4UnifiedVisionConfig (модель Gemma4UnifiedVisionConfig)
- gemma4_vision — Gemma4VisionConfig (модель Gemma4VisionConfig)
- git — GitConfig (модель GitConfig)
- git_vision_model — GitVisionConfig (модель GitVisionConfig)
- glm — GlmConfig (модель GlmConfig)
- glm4 — Glm4Config (модель Glm4Config)
- glm46v — Glm46VConfig (модель Glm46VConfig)
- glm4_moe — Glm4MoeConfig (модель Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteConfig (модель Glm4MoeLiteConfig)
- glm4v — Glm4vConfig (модель Glm4vConfig)
- glm4v_moe — Glm4vMoeConfig (модель Glm4vMoeConfig)
- glm4v_moe_text — Glm4vMoeTextConfig (модель Glm4vMoeTextConfig)
- glm4v_moe_vision — Glm4vMoeVisionConfig (модель Glm4vMoeVisionConfig)
- glm4v_text — Glm4vTextConfig (модель Glm4vTextConfig)
- glm4v_vision — Glm4vVisionConfig (модель Glm4vVisionConfig)
- glm5_next — Glm5NextConfig (модель Glm5NextConfig)
- glm5_next_text — Glm5NextTextConfig (модель Glm5NextTextConfig)
- glm5_next_vision — Glm5NextVisionConfig (модель Glm5NextVisionConfig)
- glm_image — GlmImageConfig (модель GlmImageConfig)
- glm_image_text — GlmImageTextConfig (модель GlmImageTextConfig)
- glm_image_vision — GlmImageVisionConfig (модель GlmImageVisionConfig)
- glm_image_vqmodel — GlmImageVQVAEConfig (модель GlmImageVQVAEConfig)
- glm_moe_dsa — GlmMoeDsaConfig (модель GlmMoeDsaConfig)
- glm_ocr — GlmOcrConfig (модель GlmOcrConfig)
- glm_ocr_text — GlmOcrTextConfig (модель GlmOcrTextConfig)
- glm_ocr_vision — GlmOcrVisionConfig (модель GlmOcrVisionConfig)
- glmasr — GlmAsrConfig (модель GlmAsrConfig)
- glmasr_encoder — GlmAsrEncoderConfig (модель GlmAsrEncoderConfig)
- glmga — GlmgaConfig (модель GlmgaConfig)
- glpn — GLPNConfig (модель GLPNConfig)
- got_ocr2 — GotOcr2Config (модель GotOcr2Config)
- got_ocr2_vision — GotOcr2VisionConfig (модель GotOcr2VisionConfig)
- gpt-sw3 — GPT2Config (модель GPT2Config)
- gpt2 — GPT2Config (модель GPT2Config)
- gpt_bigcode — GPTBigCodeConfig (модель GPTBigCodeConfig)
- gpt_neo — GPTNeoConfig (модель GPTNeoConfig)
- gpt_neox — GPTNeoXConfig (модель GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseConfig (модель GPTNeoXJapaneseConfig)
- gpt_oss — GptOssConfig (модель GptOssConfig)
- gptj — GPTJConfig (модель GPTJConfig)
- gradium_phonon_tts — GradiumPhononTTSConfig (модель GradiumPhononTTSConfig)
- granite — GraniteConfig (модель GraniteConfig)
- granite4_vision — Granite4VisionConfig (модель Granite4VisionConfig)
- granite4_vision_text — Granite4VisionTextConfig (модель Granite4VisionTextConfig)
- granite_speech — GraniteSpeechConfig (модель GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5CTCConfig (модель GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5EncoderConfig (модель GraniteSpeech5EncoderConfig)
- granite_speech_encoder — GraniteSpeechEncoderConfig (модель GraniteSpeechEncoderConfig)
- granite_speech_plus — GraniteSpeechPlusConfig (модель GraniteSpeechPlusConfig)
- granite_speech_plus_encoder — GraniteSpeechPlusEncoderConfig (модель GraniteSpeechPlusEncoderConfig)
- granite_swa — GraniteSWAConfig (модель GraniteSWAConfig)
- granitemoe — GraniteMoeConfig (модель GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAConfig (модель GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridConfig (модель GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedConfig (модель GraniteMoeSharedConfig)
- grounding-dino — GroundingDinoConfig (модель GroundingDinoConfig)
- groupvit — GroupViTConfig (модель GroupViTConfig)
- groupvit_text_model — GroupViTTextConfig (модель GroupViTTextConfig)
- groupvit_vision_model — GroupViTVisionConfig (модель GroupViTVisionConfig)
- gte — GteConfig (модель GteConfig)
- helium — HeliumConfig (модель HeliumConfig)
- hgnet_v2 — HGNetV2Config (модель HGNetV2Config)
- hiera — HieraConfig (модель HieraConfig)
- higgs_audio_v2 — HiggsAudioV2Config (модель HiggsAudioV2Config)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerConfig (модель HiggsAudioV2TokenizerConfig)
- hrm_text — HrmTextConfig (модель HrmTextConfig)
- hubert — HubertConfig (модель HubertConfig)
- hunyuan_v1_dense — HunYuanDenseV1Config (модель HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1Config (модель HunYuanMoEV1Config)
- hunyuan_vl — HunYuanVLConfig (модель HunYuanVLConfig)
- hunyuan_vl_text — HunYuanVLTextConfig (модель HunYuanVLTextConfig)
- hunyuan_vl_vision — HunYuanVLVisionConfig (модель HunYuanVLVisionConfig)
- hy_v3 — HYV3Config (модель HYV3Config)
- hy_v4 — HYV4Config (модель HYV4Config)
- hyperclovax — HyperCLOVAXConfig (модель HyperCLOVAXConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Config (модель HyperCLOVAXVisionV2Config)
- ibert — IBertConfig (модель IBertConfig)
- idefics — IdeficsConfig (модель IdeficsConfig)
- idefics2 — Idefics2Config (модель Idefics2Config)
- idefics2_perceiver — Idefics2PerceiverConfig (модель Idefics2PerceiverConfig)
- idefics2_vision — Idefics2VisionConfig (модель Idefics2VisionConfig)
- idefics3 — Idefics3Config (модель Idefics3Config)
- idefics3_vision — Idefics3VisionConfig (модель Idefics3VisionConfig)
- idefics_perciever — IdeficsPerceiverConfig (модель IdeficsPerceiverConfig)
- idefics_vision — IdeficsVisionConfig (модель IdeficsVisionConfig)
- ijepa — IJepaConfig (модель IJepaConfig)
- imagegpt — ImageGPTConfig (модель ImageGPTConfig)
- informer — InformerConfig (модель InformerConfig)
- inkling_audio — InklingAudioConfig (модель InklingAudioConfig)
- inkling_mm_model — InklingConfig (модель InklingConfig)
- inkling_text — InklingTextConfig (модель InklingTextConfig)
- inkling_vision — InklingVisionConfig (модель InklingVisionConfig)
- instructblip — InstructBlipConfig (модель InstructBlipConfig)
- instructblip_qformer — InstructBlipQFormerConfig (модель InstructBlipQFormerConfig)
- instructblip_vision_model — InstructBlipVisionConfig (модель InstructBlipVisionConfig)
- instructblipvideo — InstructBlipVideoConfig (модель InstructBlipVideoConfig)
- instructblipvideo_qformer — InstructBlipVideoQFormerConfig (модель InstructBlipVideoQFormerConfig)
- instructblipvideo_vision_model — InstructBlipVideoVisionConfig (модель InstructBlipVideoVisionConfig)
- internvl — InternVLConfig (модель InternVLConfig)
- internvl_vision — InternVLVisionConfig (модель InternVLVisionConfig)
- jais2 — Jais2Config (модель Jais2Config)
- jamba — JambaConfig (модель JambaConfig)
- janus — JanusConfig (модель JanusConfig)
- janus_vision_model — JanusVisionConfig (модель JanusVisionConfig)
- janus_vqgan — JanusVQVAEConfig (модель JanusVQVAEConfig)
- jetmoe — JetMoeConfig (модель JetMoeConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3Config (модель JinaEmbeddingsV3Config)
- kimi_k25 — Kimi_K25Config (модель Kimi_K25Config)
- kimi_k25_vision — Kimi_K25VisionConfig (модель Kimi_K25VisionConfig)
- kimi_linear — KimiLinearConfig (модель KimiLinearConfig)
- kolibri1 — Kolibri1Config (модель Kolibri1Config)
- kosmos-2 — Kosmos2Config (модель Kosmos2Config)
- kosmos-2.5 — Kosmos2_5Config (модель Kosmos2_5Config)
- kosmos_2_5_text_model — Kosmos2_5TextConfig (модель Kosmos2_5TextConfig)
- kosmos_2_5_vision_model — Kosmos2_5VisionConfig (модель Kosmos2_5VisionConfig)
- kosmos_2_text_model — Kosmos2TextConfig (модель Kosmos2TextConfig)
- kosmos_2_vision_model — Kosmos2VisionConfig (модель Kosmos2VisionConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextConfig (модель KyutaiSpeechToTextConfig)
- laguna — LagunaConfig (модель LagunaConfig)
- lasr_ctc — LasrCTCConfig (модель LasrCTCConfig)
- lasr_encoder — LasrEncoderConfig (модель LasrEncoderConfig)
- layoutlm — LayoutLMConfig (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Config (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Config (модель LayoutLMv3Config)
- layoutxlm — LayoutXLMConfig (модель LayoutXLMConfig)
- led — LEDConfig (модель LEDConfig)
- levit — LevitConfig (модель LevitConfig)
- lfm2 — Lfm2Config (модель Lfm2Config)
- lfm2_moe — Lfm2MoeConfig (модель Lfm2MoeConfig)
- lfm2_vl — Lfm2VlConfig (модель Lfm2VlConfig)
- lightglue — LightGlueConfig (модель LightGlueConfig)
- lighton_ocr — LightOnOcrConfig (модель LightOnOcrConfig)
- lilt — LiltConfig (модель LiltConfig)
- llama — LlamaConfig (модель LlamaConfig)
- llama4 — Llama4Config (модель Llama4Config)
- llama4_text — Llama4TextConfig (модель Llama4TextConfig)
- llama4_vision_model — Llama4VisionConfig (модель Llama4VisionConfig)
- llava — LlavaConfig (модель LlavaConfig)
- llava_next — LlavaNextConfig (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoConfig (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionConfig (модель LlavaOnevisionConfig)
- longcat_flash — LongcatFlashConfig (модель LongcatFlashConfig)
- longformer — LongformerConfig (модель LongformerConfig)
- longt5 — LongT5Config (модель LongT5Config)
- luke — LukeConfig (модель LukeConfig)
- lw_detr — LwDetrConfig (модель LwDetrConfig)
- lw_detr_vit — LwDetrViTConfig (модель LwDetrViTConfig)
- lxmert — LxmertConfig (модель LxmertConfig)
- m2m_100 — M2M100Config (модель M2M100Config)
- mamba — MambaConfig (модель MambaConfig)
- mamba2 — Mamba2Config (модель Mamba2Config)
- marian — MarianConfig (модель MarianConfig)
- markuplm — MarkupLMConfig (модель MarkupLMConfig)
- mask2former — Mask2FormerConfig (модель Mask2FormerConfig)
- maskformer — MaskFormerConfig (модель MaskFormerConfig)
- maskformer-swin —
MaskFormerSwinConfig(модель MaskFormerSwinConfig) - mbart — MBartConfig (модель MBartConfig)
- megatron-bert — MegatronBertConfig (модель MegatronBertConfig)
- mellum — MellumConfig (модель MellumConfig)
- metaclip_2 — MetaClip2Config (модель MetaClip2Config)
- metaclip_2_text_model — MetaClip2TextConfig (модель MetaClip2TextConfig)
- metaclip_2_vision_model — MetaClip2VisionConfig (модель MetaClip2VisionConfig)
- mgp-str — MgpstrConfig (модель MgpstrConfig)
- mimi — MimiConfig (модель MimiConfig)
- mimi_decoder — MimiDecoderConfig (модель MimiDecoderConfig)
- mimi_encoder — MimiEncoderConfig (модель MimiEncoderConfig)
- mimo_v2_flash — MiMoV2FlashConfig (модель MiMoV2FlashConfig)
- minicpm3 — MiniCPM3Config (модель MiniCPM3Config)
- minicpm_ocr — MiniCPMOcrConfig (модель MiniCPMOcrConfig)
- minicpm_ocr_vision — MiniCPMOcrVisionConfig (модель MiniCPMOcrVisionConfig)
- minicpmv4_6 — MiniCPMV4_6Config (модель MiniCPMV4_6Config)
- minicpmv4_6_vision — MiniCPMV4_6VisionConfig (модель MiniCPMV4_6VisionConfig)
- minicpmv4_7 — MiniCPMV4_7Config (модель MiniCPMV4_7Config)
- minicpmv4_7_vision — MiniCPMV4_7VisionConfig (модель MiniCPMV4_7VisionConfig)
- minimax — MiniMaxConfig (модель MiniMaxConfig)
- minimax_m2 — MiniMaxM2Config (модель MiniMaxM2Config)
- minimax_m3_vl — MiniMaxM3VLConfig (модель MiniMaxM3VLConfig)
- minimax_m3_vl_text — MiniMaxM3VLTextConfig (модель MiniMaxM3VLTextConfig)
- minimax_m3_vl_vision — MiniMaxM3VLVisionConfig (модель MiniMaxM3VLVisionConfig)
- ministral — MinistralConfig (модель MinistralConfig)
- ministral3 — Ministral3Config (модель Ministral3Config)
- mistral — MistralConfig (модель MistralConfig)
- mistral3 — Mistral3Config (модель Mistral3Config)
- mistral4 — Mistral4Config (модель Mistral4Config)
- mistral_large4 — MistralLarge4Config (модель MistralLarge4Config)
- mistral_large4_text — MistralLarge4TextConfig (модель MistralLarge4TextConfig)
- mixtral — MixtralConfig (модель MixtralConfig)
- mlcd — MLCDVisionConfig (модель MLCDVisionConfig)
- mlcd_vision_model — MLCDVisionConfig (модель MLCDVisionConfig)
- mllama — MllamaConfig (модель MllamaConfig)
- mllama_text_model — MllamaTextConfig (модель MllamaTextConfig)
- mllama_vision_model — MllamaVisionConfig (модель MllamaVisionConfig)
- mm-grounding-dino — MMGroundingDinoConfig (модель MMGroundingDinoConfig)
- mobilebert — MobileBertConfig (модель MobileBertConfig)
- mobilenet_v1 — MobileNetV1Config (модель MobileNetV1Config)
- mobilenet_v2 — MobileNetV2Config (модель MobileNetV2Config)
- mobilevit — MobileViTConfig (модель MobileViTConfig)
- mobilevitv2 — MobileViTV2Config (модель MobileViTV2Config)
- modernbert — ModernBertConfig (модель ModernBertConfig)
- modernbert-decoder — ModernBertDecoderConfig (модель ModernBertDecoderConfig)
- modernvbert — ModernVBertConfig (модель ModernVBertConfig)
- molmo2 — Molmo2Config (модель Molmo2Config)
- molmo2_adapter — Molmo2AdapterConfig (модель Molmo2AdapterConfig)
- molmo2_text — Molmo2TextConfig (модель Molmo2TextConfig)
- molmo2_vision — Molmo2VisionConfig (модель Molmo2VisionConfig)
- moonshine — MoonshineConfig (модель MoonshineConfig)
- moonshine_streaming — MoonshineStreamingConfig (модель MoonshineStreamingConfig)
- moonshine_streaming_encoder — MoonshineStreamingEncoderConfig (модель MoonshineStreamingEncoderConfig)
- moshi — MoshiConfig (модель MoshiConfig)
- moshi_depth — MoshiDepthConfig (модель MoshiDepthConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeConfig (модель MossTranscribeDiarizeConfig)
- moss_transcribe_diarize_audio — MossTranscribeDiarizeAudioConfig (модель MossTranscribeDiarizeAudioConfig)
- mpnet — MPNetConfig (модель MPNetConfig)
- mpt — MptConfig (модель MptConfig)
- mra — MraConfig (модель MraConfig)
- mt5 — MT5Config (модель MT5Config)
- muse_glimmer — MuseGlimmerConfig (модель MuseGlimmerConfig)
- muse_glimmer_assistant — MuseGlimmerAssistantConfig (модель MuseGlimmerAssistantConfig)
- muse_glimmer_text — MuseGlimmerTextConfig (модель MuseGlimmerTextConfig)
- muse_glimmer_vision — MuseGlimmerVisionConfig (модель MuseGlimmerVisionConfig)
- muse_spark — MuseSparkConfig (модель MuseSparkConfig)
- muse_spark_audio — MuseSparkAudioConfig (модель MuseSparkAudioConfig)
- muse_spark_text — MuseSparkTextConfig (модель MuseSparkTextConfig)
- muse_spark_vision — MuseSparkVisionConfig (модель MuseSparkVisionConfig)
- musicflamingo — MusicFlamingoConfig (модель MusicFlamingoConfig)
- musicgen — MusicgenConfig (модель MusicgenConfig)
- musicgen_decoder — MusicgenDecoderConfig (модель MusicgenDecoderConfig)
- musicgen_melody — MusicgenMelodyConfig (модель MusicgenMelodyConfig)
- musicgen_melody_decoder — MusicgenMelodyDecoderConfig (модель MusicgenMelodyDecoderConfig)
- mvp — MvpConfig (модель MvpConfig)
- nanochat — NanoChatConfig (модель NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeConfig (модель Nemotron3_5TranscribeConfig)
- nemotron — NemotronConfig (модель NemotronConfig)
- nemotron3_5_asr — Nemotron3_5AsrConfig (модель Nemotron3_5AsrConfig)
- nemotron3_5_transcribe_asr_audio — Nemotron3_5TranscribeAsrAudioConfig (модель Nemotron3_5TranscribeAsrAudioConfig)
- nemotron3_5_transcribe_audio — Nemotron3_5TranscribeAudioConfig (модель Nemotron3_5TranscribeAudioConfig)
- nemotron3_5_transcribe_word_timestamp — Nemotron3_5TranscribeWordTimestampConfig (модель Nemotron3_5TranscribeWordTimestampConfig)
- nemotron3_diarization — Nemotron3DiarizationConfig (модель Nemotron3DiarizationConfig)
- nemotron3_diarization_audio — Nemotron3DiarizationAudioConfig (модель Nemotron3DiarizationAudioConfig)
- nemotron_asr_streaming — NemotronAsrStreamingConfig (модель NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingEncoderConfig (модель NemotronAsrStreamingEncoderConfig)
- nemotron_h — NemotronHConfig (модель NemotronHConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3_Config (модель NemotronH_Omni_Reasoning_V3_Config)
- neomme — NeoMMEConfig (модель NeoMMEConfig)
- neucodec — NeuCodecConfig (модель NeuCodecConfig)
- nllb-moe — NllbMoeConfig (модель NllbMoeConfig)
- nomic_bert — NomicBertConfig (модель NomicBertConfig)
- nougat — NougatConfig (модель NougatConfig)
- nystromformer — NystromformerConfig (модель NystromformerConfig)
- olmo — OlmoConfig (модель OlmoConfig)
- olmo2 — Olmo2Config (модель Olmo2Config)
- olmo3 — Olmo3Config (модель Olmo3Config)
- olmo_hybrid — OlmoHybridConfig (модель OlmoHybridConfig)
- olmoe — OlmoeConfig (модель OlmoeConfig)
- omdet-turbo — OmDetTurboConfig (модель OmDetTurboConfig)
- oneformer — OneFormerConfig (модель OneFormerConfig)
- openai-gpt — OpenAIGPTConfig (модель OpenAIGPTConfig)
- openai_privacy_filter — OpenAIPrivacyFilterConfig (модель OpenAIPrivacyFilterConfig)
- opt — OPTConfig (модель OPTConfig)
- ovis2 — Ovis2Config (модель Ovis2Config)
- ovis2_vision — Ovis2VisionConfig (модель Ovis2VisionConfig)
- owlv2 — Owlv2Config (модель Owlv2Config)
- owlv2_text_model — Owlv2TextConfig (модель Owlv2TextConfig)
- owlv2_vision_model — Owlv2VisionConfig (модель Owlv2VisionConfig)
- owlvit — OwlViTConfig (модель OwlViTConfig)
- owlvit_text_model — OwlViTTextConfig (модель OwlViTTextConfig)
- owlvit_vision_model — OwlViTVisionConfig (модель OwlViTVisionConfig)
- paddleocr_vl — PaddleOCRVLConfig (модель PaddleOCRVLConfig)
- paddleocr_vl_text — PaddleOCRTextConfig (модель PaddleOCRTextConfig)
- paddleocr_vl_vision — PaddleOCRVisionConfig (модель PaddleOCRVisionConfig)
- paligemma — PaliGemmaConfig (модель PaliGemmaConfig)
- parakeet_ctc — ParakeetCTCConfig (модель ParakeetCTCConfig)
- parakeet_encoder — ParakeetEncoderConfig (модель ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetRNNTConfig (модель ParakeetRNNTConfig)
- parakeet_tdt — ParakeetTDTConfig (модель ParakeetTDTConfig)
- patchtsmixer — PatchTSMixerConfig (модель PatchTSMixerConfig)
- patchtst — PatchTSTConfig (модель PatchTSTConfig)
- pe_audio — PeAudioConfig (модель PeAudioConfig)
- pe_audio_encoder — PeAudioEncoderConfig (модель PeAudioEncoderConfig)
- pe_audio_video — PeAudioVideoConfig (модель PeAudioVideoConfig)
- pe_audio_video_encoder — PeAudioVideoEncoderConfig (модель PeAudioVideoEncoderConfig)
- pe_video — PeVideoConfig (модель PeVideoConfig)
- pe_video_encoder — PeVideoEncoderConfig (модель PeVideoEncoderConfig)
- pegasus — PegasusConfig (модель PegasusConfig)
- pegasus_x — PegasusXConfig (модель PegasusXConfig)
- perceiver — PerceiverConfig (модель PerceiverConfig)
- perception_lm — PerceptionLMConfig (модель PerceptionLMConfig)
- persimmon — PersimmonConfig (модель PersimmonConfig)
- phi — PhiConfig (модель PhiConfig)
- phi3 — Phi3Config (модель Phi3Config)
- phi4_multimodal — Phi4MultimodalConfig (модель Phi4MultimodalConfig)
- phi4_multimodal_audio — Phi4MultimodalAudioConfig (модель Phi4MultimodalAudioConfig)
- phi4_multimodal_vision — Phi4MultimodalVisionConfig (модель Phi4MultimodalVisionConfig)
- phimoe — PhimoeConfig (модель PhimoeConfig)
- pi0 — PI0Config (модель PI0Config)
- pix2struct — Pix2StructConfig (модель Pix2StructConfig)
- pix2struct_text_model — Pix2StructTextConfig (модель Pix2StructTextConfig)
- pix2struct_vision_model — Pix2StructVisionConfig (модель Pix2StructVisionConfig)
- pixio — PixioConfig (модель PixioConfig)
- pixtral — PixtralVisionConfig (модель PixtralVisionConfig)
- plbart — PLBartConfig (модель PLBartConfig)
- pocket_tts — PocketTTSConfig (модель PocketTTSConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerConfig (модель PocketTTSAudioTokenizerConfig)
- pocket_tts_audio_tokenizer_decoder — PocketTTSAudioTokenizerDecoderConfig (модель PocketTTSAudioTokenizerDecoderConfig)
- pocket_tts_audio_tokenizer_encoder — PocketTTSAudioTokenizerEncoderConfig (модель PocketTTSAudioTokenizerEncoderConfig)
- poolformer — PoolFormerConfig (модель PoolFormerConfig)
- pop2piano — Pop2PianoConfig (модель Pop2PianoConfig)
- pp_chart2table — PPChart2TableConfig (модель PPChart2TableConfig)
- pp_chart2table_vision — PPChart2TableVisionConfig (модель PPChart2TableVisionConfig)
- pp_doclayout_v2 — PPDocLayoutV2Config (модель PPDocLayoutV2Config)
- pp_doclayout_v3 — PPDocLayoutV3Config (модель PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4Config (модель PPDocLayoutV4Config)
- pp_formulanet — PPFormulaNetConfig (модель PPFormulaNetConfig)
- pp_formulanet_text — PPFormulaNetTextConfig (модель PPFormulaNetTextConfig)
- pp_formulanet_vision — PPFormulaNetVisionConfig (модель PPFormulaNetVisionConfig)
- pp_lcnet — PPLCNetConfig (модель PPLCNetConfig)
- pp_lcnet_v3 — PPLCNetV3Config (модель PPLCNetV3Config)
- pp_lcnet_v4 — PPLCNetV4Config (модель PPLCNetV4Config)
- pp_ocrv5_mobile_det — PPOCRV5MobileDetConfig (модель PPOCRV5MobileDetConfig)
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecConfig (модель PPOCRV5MobileRecConfig)
- pp_ocrv5_server_det — PPOCRV5ServerDetConfig (модель PPOCRV5ServerDetConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecConfig (модель PPOCRV5ServerRecConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetConfig (модель PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetConfig (модель PPOCRV6SmallDetConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecConfig (модель PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecConfig (модель PPOCRV6TinyRecConfig)
- prompt_depth_anything — PromptDepthAnythingConfig (модель PromptDepthAnythingConfig)
- prophetnet — ProphetNetConfig (модель ProphetNetConfig)
- pvt — PvtConfig (модель PvtConfig)
- pvt_v2 — PvtV2Config (модель PvtV2Config)
- qianfan_ocr — QianfanOCRConfig (модель QianfanOCRConfig)
- qianfan_ocr_vision — QianfanOCRVisionConfig (модель QianfanOCRVisionConfig)
- qwen2 — Qwen2Config (модель Qwen2Config)
- qwen2_5_omni — Qwen2_5OmniConfig (модель Qwen2_5OmniConfig)
- qwen2_5_omni_audio_encoder — Qwen2_5OmniAudioEncoderConfig (модель Qwen2_5OmniAudioEncoderConfig)
- qwen2_5_omni_bigvgan — Qwen2_5OmniBigVGANConfig (модель Qwen2_5OmniBigVGANConfig)
- qwen2_5_omni_dit — Qwen2_5OmniDiTConfig (модель Qwen2_5OmniDiTConfig)
- qwen2_5_omni_talker — Qwen2_5OmniTalkerConfig (модель Qwen2_5OmniTalkerConfig)
- qwen2_5_omni_text — Qwen2_5OmniTextConfig (модель Qwen2_5OmniTextConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerConfig (модель Qwen2_5OmniThinkerConfig)
- qwen2_5_omni_token2wav — Qwen2_5OmniToken2WavConfig (модель Qwen2_5OmniToken2WavConfig)
- qwen2_5_omni_vision_encoder — Qwen2_5OmniVisionEncoderConfig (модель Qwen2_5OmniVisionEncoderConfig)
- qwen2_5_vl — Qwen2_5_VLConfig (модель Qwen2_5_VLConfig)
- qwen2_5_vl_text — Qwen2_5_VLTextConfig (модель Qwen2_5_VLTextConfig)
- qwen2_5_vl_vision — Qwen2_5_VLVisionConfig (модель Qwen2_5_VLVisionConfig)
- qwen2_audio — Qwen2AudioConfig (модель Qwen2AudioConfig)
- qwen2_audio_encoder — Qwen2AudioEncoderConfig (модель Qwen2AudioEncoderConfig)
- qwen2_moe — Qwen2MoeConfig (модель Qwen2MoeConfig)
- qwen2_vl — Qwen2VLConfig (модель Qwen2VLConfig)
- qwen2_vl_text — Qwen2VLTextConfig (модель Qwen2VLTextConfig)
- qwen2_vl_vision — Qwen2VLVisionConfig (модель Qwen2VLVisionConfig)
- qwen3 — Qwen3Config (модель Qwen3Config)
- qwen3_5 — Qwen3_5Config (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeConfig (модель Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeTextConfig (модель Qwen3_5MoeTextConfig)
- qwen3_5_moe_vision — Qwen3_5MoeVisionConfig (модель Qwen3_5MoeVisionConfig)
- qwen3_5_text — Qwen3_5TextConfig (модель Qwen3_5TextConfig)
- qwen3_5_vision — Qwen3_5VisionConfig (модель Qwen3_5VisionConfig)
- qwen3_asr — Qwen3ASRConfig (модель Qwen3ASRConfig)
- qwen3_asr_encoder — Qwen3ASREncoderConfig (модель Qwen3ASREncoderConfig)
- qwen3_moe — Qwen3MoeConfig (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextConfig (модель Qwen3NextConfig)
- qwen3_omni_moe — Qwen3OmniMoeConfig (модель Qwen3OmniMoeConfig)
- qwen3_omni_moe_audio_encoder — Qwen3OmniMoeAudioEncoderConfig (модель Qwen3OmniMoeAudioEncoderConfig)
- qwen3_omni_moe_talker_code_predictor — Qwen3OmniMoeTalkerCodePredictorConfig (модель Qwen3OmniMoeTalkerCodePredictorConfig)
- qwen3_omni_moe_talker_text — Qwen3OmniMoeTalkerTextConfig (модель Qwen3OmniMoeTalkerTextConfig)
- qwen3_omni_moe_text — Qwen3OmniMoeTextConfig (модель Qwen3OmniMoeTextConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerConfig (модель Qwen3OmniMoeThinkerConfig)
- qwen3_omni_moe_vision_encoder — Qwen3OmniMoeVisionEncoderConfig (модель Qwen3OmniMoeVisionEncoderConfig)
- qwen3_vl — Qwen3VLConfig (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeConfig (модель Qwen3VLMoeConfig)
- qwen3_vl_moe_text — Qwen3VLMoeTextConfig (модель Qwen3VLMoeTextConfig)
- qwen3_vl_moe_vision — Qwen3VLMoeVisionConfig (модель Qwen3VLMoeVisionConfig)
- qwen3_vl_text — Qwen3VLTextConfig (модель Qwen3VLTextConfig)
- qwen3_vl_vision — Qwen3VLVisionConfig (модель Qwen3VLVisionConfig)
- qwen4_exp — Qwen4ExpConfig (модель Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpTextConfig (модель Qwen4ExpTextConfig)
- qwen4_exp_vision — Qwen4ExpVisionConfig (модель Qwen4ExpVisionConfig)
- radio — RadioConfig (модель RadioConfig)
- rag — RagConfig (модель RagConfig)
- recurrent_gemma — RecurrentGemmaConfig (модель RecurrentGemmaConfig)
- reformer — ReformerConfig (модель ReformerConfig)
- regnet — RegNetConfig (модель RegNetConfig)
- rembert — RemBertConfig (модель RemBertConfig)
- resnet — ResNetConfig (модель ResNetConfig)
- rf_detr — RfDetrConfig (модель RfDetrConfig)
- rf_detr_dinov2 — RfDetrDinov2Config (модель RfDetrDinov2Config)
- roberta — RobertaConfig (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormConfig (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertConfig (модель RoCBertConfig)
- roformer — RoFormerConfig (модель RoFormerConfig)
- rt_detr — RTDetrConfig (модель RTDetrConfig)
- rt_detr_resnet — RTDetrResNetConfig (модель RTDetrResNetConfig)
- rt_detr_v2 — RTDetrV2Config (модель RTDetrV2Config)
- rwkv — RwkvConfig (модель RwkvConfig)
- sam — SamConfig (модель SamConfig)
- sam2 — Sam2Config (модель Sam2Config)
- sam2_hiera_det_model — Sam2HieraDetConfig (модель Sam2HieraDetConfig)
- sam2_mask_decoder — Sam2MaskDecoderConfig (модель Sam2MaskDecoderConfig)
- sam2_prompt_encoder — Sam2PromptEncoderConfig (модель Sam2PromptEncoderConfig)
- sam2_video — Sam2VideoConfig (модель Sam2VideoConfig)
- sam2_video_mask_decoder — Sam2VideoMaskDecoderConfig (модель Sam2VideoMaskDecoderConfig)
- sam2_video_prompt_encoder — Sam2VideoPromptEncoderConfig (модель Sam2VideoPromptEncoderConfig)
- sam2_vision_model — Sam2VisionConfig (модель Sam2VisionConfig)
- sam3 — Sam3Config (модель Sam3Config)
- sam3_detr_decoder — Sam3DETRDecoderConfig (модель Sam3DETRDecoderConfig)
- sam3_detr_encoder — Sam3DETREncoderConfig (модель Sam3DETREncoderConfig)
- sam3_geometry_encoder — Sam3GeometryEncoderConfig (модель Sam3GeometryEncoderConfig)
- sam3_lite_text — Sam3LiteTextConfig (модель Sam3LiteTextConfig)
- sam3_lite_text_detr_decoder — Sam3LiteTextDETRDecoderConfig (модель Sam3LiteTextDETRDecoderConfig)
- sam3_lite_text_detr_encoder — Sam3LiteTextDETREncoderConfig (модель Sam3LiteTextDETREncoderConfig)
- sam3_lite_text_geometry_encoder — Sam3LiteTextGeometryEncoderConfig (модель Sam3LiteTextGeometryEncoderConfig)
- sam3_lite_text_mask_decoder — Sam3LiteTextMaskDecoderConfig (модель Sam3LiteTextMaskDecoderConfig)
- sam3_lite_text_text_model — Sam3LiteTextTextConfig (модель Sam3LiteTextTextConfig)
- sam3_mask_decoder — Sam3MaskDecoderConfig (модель Sam3MaskDecoderConfig)
- sam3_tracker — Sam3TrackerConfig (модель Sam3TrackerConfig)
- sam3_tracker_mask_decoder — Sam3TrackerMaskDecoderConfig (модель Sam3TrackerMaskDecoderConfig)
- sam3_tracker_prompt_encoder — Sam3TrackerPromptEncoderConfig (модель Sam3TrackerPromptEncoderConfig)
- sam3_tracker_video — Sam3TrackerVideoConfig (модель Sam3TrackerVideoConfig)
- sam3_tracker_video_mask_decoder — Sam3TrackerVideoMaskDecoderConfig (модель Sam3TrackerVideoMaskDecoderConfig)
- sam3_tracker_video_prompt_encoder — Sam3TrackerVideoPromptEncoderConfig (модель Sam3TrackerVideoPromptEncoderConfig)
- sam3_video — Sam3VideoConfig (модель Sam3VideoConfig)
- sam3_vision_model — Sam3VisionConfig (модель Sam3VisionConfig)
- sam3_vit_model — Sam3ViTConfig (модель Sam3ViTConfig)
- sam_hq — SamHQConfig (модель SamHQConfig)
- sam_hq_mask_decoder — SamHQMaskDecoderConfig (модель SamHQMaskDecoderConfig)
- sam_hq_prompt_encoder — SamHQPromptEncoderConfig (модель SamHQPromptEncoderConfig)
- sam_hq_vision_model — SamHQVisionConfig (модель SamHQVisionConfig)
- sam_mask_decoder — SamMaskDecoderConfig (модель SamMaskDecoderConfig)
- sam_prompt_encoder — SamPromptEncoderConfig (модель SamPromptEncoderConfig)
- sam_vision_model — SamVisionConfig (модель SamVisionConfig)
- sapiens2 — Sapiens2Config (модель Sapiens2Config)
- sapiens2_head — Sapiens2HeadConfig (модель Sapiens2HeadConfig)
- seamless_m4t — SeamlessM4TConfig (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2Config (модель SeamlessM4Tv2Config)
- seed_oss — SeedOssConfig (модель SeedOssConfig)
- segformer — SegformerConfig (модель SegformerConfig)
- seggpt — SegGptConfig (модель SegGptConfig)
- sew — SEWConfig (модель SEWConfig)
- sew-d — SEWDConfig (модель SEWDConfig)
- shieldgemma2 — ShieldGemma2Config (модель ShieldGemma2Config)
- siglip — SiglipConfig (модель SiglipConfig)
- siglip2 — Siglip2Config (модель Siglip2Config)
- siglip2_text_model — Siglip2TextConfig (модель Siglip2TextConfig)
- siglip2_vision_model — Siglip2VisionConfig (модель Siglip2VisionConfig)
- siglip_text_model — SiglipTextConfig (модель SiglipTextConfig)
- siglip_vision_model — SiglipVisionConfig (модель SiglipVisionConfig)
- slanet — SLANetConfig (модель SLANetConfig)
- slanext — SLANeXtConfig (модель SLANeXtConfig)
- slanext_vision — SLANeXtVisionConfig (модель SLANeXtVisionConfig)
- smollm3 — SmolLM3Config (модель SmolLM3Config)
- smolvlm — SmolVLMConfig (модель SmolVLMConfig)
- smolvlm_vision — SmolVLMVisionConfig (модель SmolVLMVisionConfig)
- solar_open — SolarOpenConfig (модель SolarOpenConfig)
- speech-encoder-decoder — SpeechEncoderDecoderConfig (модель SpeechEncoderDecoderConfig)
- speech_to_text — Speech2TextConfig (модель Speech2TextConfig)
- speecht5 — SpeechT5Config (модель SpeechT5Config)
- speecht5_hifigan — SpeechT5HifiGanConfig (модель SpeechT5HifiGanConfig)
- splinter — SplinterConfig (модель SplinterConfig)
- squeezebert — SqueezeBertConfig (модель SqueezeBertConfig)
- stablelm — StableLmConfig (модель StableLmConfig)
- starcoder2 — Starcoder2Config (модель Starcoder2Config)
- step3p5 — Step3p7TextConfig (модель Step3p7TextConfig)
- step3p5_vision — Step3p7VisionConfig (модель Step3p7VisionConfig)
- step3p7 — Step3p7Config (модель Step3p7Config)
- superglue — SuperGlueConfig (модель SuperGlueConfig)
- superpoint — SuperPointConfig (модель SuperPointConfig)
- swiftformer — SwiftFormerConfig (модель SwiftFormerConfig)
- swin — SwinConfig (модель SwinConfig)
- swin2sr — Swin2SRConfig (модель Swin2SRConfig)
- swinv2 — Swinv2Config (модель Swinv2Config)
- switch_transformers — SwitchTransformersConfig (модель SwitchTransformersConfig)
- t5 — T5Config (модель T5Config)
- t5_gemma_module — T5GemmaModuleConfig (модель T5GemmaModuleConfig)
- t5gemma — T5GemmaConfig (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2Config (модель T5Gemma2Config)
- t5gemma2_decoder — T5Gemma2DecoderConfig (модель T5Gemma2DecoderConfig)
- t5gemma2_encoder — T5Gemma2EncoderConfig (модель T5Gemma2EncoderConfig)
- t5gemma2_text — T5Gemma2TextConfig (модель T5Gemma2TextConfig)
- table-transformer — TableTransformerConfig (модель TableTransformerConfig)
- tapas — TapasConfig (модель TapasConfig)
- textnet — TextNetConfig (модель TextNetConfig)
- time_series_transformer — TimeSeriesTransformerConfig (модель TimeSeriesTransformerConfig)
- timesfm — TimesFmConfig (модель TimesFmConfig)
- timesfm2_5 — TimesFm2_5Config (модель TimesFm2_5Config)
- timesformer — TimesformerConfig (модель TimesformerConfig)
- timm_backbone — TimmBackboneConfig (модель TimmBackboneConfig)
- timm_wrapper — TimmWrapperConfig (модель TimmWrapperConfig)
- tipsv2 — Tipsv2Config (модель Tipsv2Config)
- tipsv2_dpt — Tipsv2DptConfig (модель Tipsv2DptConfig)
- tipsv2_text_model — Tipsv2TextConfig (модель Tipsv2TextConfig)
- tipsv2_vision_model — Tipsv2VisionConfig (модель Tipsv2VisionConfig)
- trocr — TrOCRConfig (модель TrOCRConfig)
- tvp — TvpConfig (модель TvpConfig)
- udop — UdopConfig (модель UdopConfig)
- ultrabert — UltrabertConfig (модель UltrabertConfig)
- ultravbert — UltraVBertConfig (модель UltraVBertConfig)
- umt5 — UMT5Config (модель UMT5Config)
- unispeech — UniSpeechConfig (модель UniSpeechConfig)
- unispeech-sat — UniSpeechSatConfig (модель UniSpeechSatConfig)
- univnet — UnivNetConfig (модель UnivNetConfig)
- unlimited_ocr — UnlimitedOcrConfig (модель UnlimitedOcrConfig)
- unlimited_ocr_sam_vision_model — UnlimitedOcrSamVisionConfig (модель UnlimitedOcrSamVisionConfig)
- unlimited_ocr_text — UnlimitedOcrTextConfig (модель UnlimitedOcrTextConfig)
- unlimited_ocr_vision — UnlimitedOcrVisionConfig (модель UnlimitedOcrVisionConfig)
- unlimited_ocr_vision_encoder — UnlimitedOcrVisionEncoderConfig (модель UnlimitedOcrVisionEncoderConfig)
- upernet — UperNetConfig (модель UperNetConfig)
- uvdoc — UVDocConfig (модель UVDocConfig)
- uvdoc_backbone — UVDocBackboneConfig (модель UVDocBackboneConfig)
- vaultgemma — VaultGemmaConfig (модель VaultGemmaConfig)
- vibevoice — VibeVoiceConfig (модель VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerConfig (модель VibeVoiceAcousticTokenizerConfig)
- vibevoice_acoustic_tokenizer_decoder — VibeVoiceAcousticTokenizerDecoderConfig (модель VibeVoiceAcousticTokenizerDecoderConfig)
- vibevoice_acoustic_tokenizer_encoder — VibeVoiceAcousticTokenizerEncoderConfig (модель VibeVoiceAcousticTokenizerEncoderConfig)
- vibevoice_asr — VibeVoiceAsrConfig (модель VibeVoiceAsrConfig)
- vibevoice_diffusion — VibeVoiceDiffusionHeadConfig (модель VibeVoiceDiffusionHeadConfig)
- video_llama_3 — VideoLlama3Config (модель VideoLlama3Config)
- video_llama_3_vision — VideoLlama3VisionConfig (модель VideoLlama3VisionConfig)
- video_llava — VideoLlavaConfig (модель VideoLlavaConfig)
- videomae — VideoMAEConfig (модель VideoMAEConfig)
- videomt — VideomtConfig (модель VideomtConfig)
- videoprism — VideoPrismConfig (модель VideoPrismConfig)
- videoprism_text_model — VideoPrismTextConfig (модель VideoPrismTextConfig)
- videoprism_vision_model — VideoPrismVisionConfig (модель VideoPrismVisionConfig)
- vilt — ViltConfig (модель ViltConfig)
- vipllava — VipLlavaConfig (модель VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderConfig (модель VisionEncoderDecoderConfig)
- vision-text-dual-encoder — VisionTextDualEncoderConfig (модель VisionTextDualEncoderConfig)
- visual_bert — VisualBertConfig (модель VisualBertConfig)
- vit — ViTConfig (модель ViTConfig)
- vit_mae — ViTMAEConfig (модель ViTMAEConfig)
- vit_msn — ViTMSNConfig (модель ViTMSNConfig)
- vitdet — VitDetConfig (модель VitDetConfig)
- vitmatte — VitMatteConfig (модель VitMatteConfig)
- vitpose — VitPoseConfig (модель VitPoseConfig)
- vitpose_backbone —
VitPoseBackboneConfig(модель VitPoseBackboneConfig) - vits — VitsConfig (модель VitsConfig)
- vivit — VivitConfig (модель VivitConfig)
- vjepa2 — VJEPA2Config (модель VJEPA2Config)
- voxtral — VoxtralConfig (модель VoxtralConfig)
- voxtral_encoder — VoxtralEncoderConfig (модель VoxtralEncoderConfig)
- voxtral_realtime — VoxtralRealtimeConfig (модель VoxtralRealtimeConfig)
- voxtral_realtime_encoder — VoxtralRealtimeEncoderConfig (модель VoxtralRealtimeEncoderConfig)
- voxtral_realtime_text — VoxtralRealtimeTextConfig (модель VoxtralRealtimeTextConfig)
- wav2vec2 — Wav2Vec2Config (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertConfig (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerConfig (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMConfig (модель WavLMConfig)
- whisper — WhisperConfig (модель WhisperConfig)
- xclip — XCLIPConfig (модель XCLIPConfig)
- xclip_text_model — XCLIPTextConfig (модель XCLIPTextConfig)
- xclip_vision_model — XCLIPVisionConfig (модель XCLIPVisionConfig)
- xcodec — XcodecConfig (модель XcodecConfig)
- xcodec2 — Xcodec2Config (модель Xcodec2Config)
- xglm — XGLMConfig (модель XGLMConfig)
- xlm — XLMConfig (модель XLMConfig)
- xlm-roberta — XLMRobertaConfig (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLConfig (модель XLMRobertaXLConfig)
- xlnet — XLNetConfig (модель XLNetConfig)
- xlstm — xLSTMConfig (модель xLSTMConfig)
- xmod — XmodConfig (модель XmodConfig)
- yolos — YolosConfig (модель YolosConfig)
- yoso — YosoConfig (модель YosoConfig)
- youtu — YoutuConfig (модель YoutuConfig)
- zamba — ZambaConfig (модель ZambaConfig)
- zamba2 — Zamba2Config (модель Zamba2Config)
- zaya — ZayaConfig (модель ZayaConfig)
- zoedepth — ZoeDepthConfig (модель ZoeDepthConfig)
Примеры:
>>> from transformers import AutoConfig
>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased")
>>> # Download configuration from huggingface.co (user-uploaded) and cache.
>>> config = AutoConfig.from_pretrained("dbmdz/bert-base-german-cased")
>>> # If configuration file is in a directory (e.g., was saved using *save_pretrained('./test/saved_model/')*).
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/")
>>> # Load a specific configuration file.
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/my_configuration.json")
>>> # Change some config attributes when loading a pretrained config.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased", output_attentions=True, foo=False)
>>> config.output_attentions
True
>>> config, unused_kwargs = AutoConfig.from_pretrained(
... "google-bert/bert-base-uncased", output_attentions=True, foo=False, return_unused_kwargs=True
... )
>>> config.output_attentions
True
>>> unused_kwargs
{'foo': False}register
< source >( model_typeconfigexist_ok = False )
Параметры
- model_type (
str) — Тип модели, например «bert» или «gpt». - config (PreTrainedConfig) — Конфигурация для регистрации.
Зарегистрируйте новую конфигурацию для этого класса.
AutoTokenizer
Это универсальный класс токенизатора, который при создании с помощью метода класса AutoTokenizer.from_pretrained() будет инстанцирован как один из классов токенизаторов библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть одним из следующих:- Строка, model id предопределенного токенизатора, размещенного в репозитории модели на huggingface.co.
- Путь к каталогу, содержащему файлы словаря, необходимые для токенизатора, например, сохранённые с помощью метода save_pretrained(), например
./my_model_directory/. - путь к одному сохранённому файлу словаря, если и только если токенизатору требуется единственный файл словаря (например, как у Bert или XLNet), например:
./my_model_directory/vocab.txt. (Не применимо ко всем производным классам)
- inputs (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()объекта Tokenizer. - config (PreTrainedConfig, необязательный) — Объект конфигурации, используемый для определения класса токенизатора, который будет создан.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Указывает, следует ли принудительно (пере)загружать веса модели и файлы конфигурации, заменяя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - subfolder (
str, необязательный) — Если соответствующие файлы находятся в подпапке репозитория модели на huggingface.co (например, для facebook/rag-token-base), укажите её здесь. - tokenizer_type (
str, необязательный) — Тип токенизатора, который будет загружен. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - kwargs (дополнительные именованные аргументы, необязательный) —
будут переданы в метод
__init__()токенизатора. Можно использовать для установки специальных токенов, таких какbos_token,eos_token,unk_token,sep_token,pad_token,cls_token,mask_token,additional_special_tokens. Подробности о параметрах см. в__init__().
Создайте экземпляр одного из классов токенизаторов библиотеки на основе словаря предобученной модели.
Класс токенизатора, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону в pretrained_model_name_or_path:
- EvollaModel — TokenizersBackend (модель EvollaConfig)
- aimv2 — CLIPTokenizer (модель Aimv2Config)
- albert — AlbertTokenizer (модель AlbertConfig)
- align — BertTokenizer (модель AlignConfig)
- aria — TokenizersBackend (модель AriaConfig)
- audioflamingo3 — Qwen2Tokenizer (модель AudioFlamingo3Config)
- aya_vision — CohereTokenizer (модель AyaVisionConfig)
- bark — BertTokenizer (модель BarkConfig)
- bart — RobertaTokenizer (модель BartConfig)
- beam — TokenizersBackend (модель BeamConfig)
- bert — BertTokenizer (модель BertConfig)
- bert-generation — BertGenerationTokenizer (модель BertGenerationConfig)
- big_bird — BigBirdTokenizer (модель BigBirdConfig)
- bigbird_pegasus — TokenizersBackend (модель BigBirdPegasusConfig)
- biogpt — BioGptTokenizer (модель BioGptConfig)
- blenderbot — BlenderbotTokenizer (модель BlenderbotConfig)
- blenderbot-small — BlenderbotSmallTokenizer (модель BlenderbotSmallConfig)
- blip — BertTokenizer (модель BlipConfig)
- blip-2 — GPT2Tokenizer (модель Blip2Config)
- bridgetower — RobertaTokenizer (модель BridgeTowerConfig)
- bros — BertTokenizer (модель BrosConfig)
- camembert — CamembertTokenizer (модель CamembertConfig)
- canary — TokenizersBackend (модель CanaryConfig)
- canine — CanineTokenizer (модель CanineConfig)
- chinese_clip — BertTokenizer (модель ChineseCLIPConfig)
- clap — RobertaTokenizer (модель ClapConfig)
- clip — CLIPTokenizer (модель CLIPConfig)
- clipseg — CLIPTokenizer (модель CLIPSegConfig)
- clvp — ClvpTokenizer (модель ClvpConfig)
- codegen — GPT2Tokenizer (модель CodeGenConfig)
- cohere — CohereTokenizer (модель CohereConfig)
- cohere2 — CohereTokenizer (модель Cohere2Config)
- cohere_asr — TokenizersBackend (модель CohereAsrConfig)
- colqwen2 — Qwen2Tokenizer (модель ColQwen2Config)
- convbert — BertTokenizer (модель ConvBertConfig)
- cosmos3_omni — Qwen2Tokenizer (модель Cosmos3OmniConfig)
- cpmant — CpmAntTokenizer (модель CpmAntConfig)
- ctrl — CTRLTokenizer (модель CTRLConfig)
- data2vec-audio — Wav2Vec2CTCTokenizer (модель Data2VecAudioConfig)
- data2vec-text — RobertaTokenizer (модель Data2VecTextConfig)
- dbrx — GPT2Tokenizer (модель DbrxConfig)
- deberta — DebertaTokenizer (модель DebertaConfig)
- deberta-v2 — DebertaV2Tokenizer (модель DebertaV2Config)
- dia — DiaTokenizer (модель DiaConfig)
- diffusion_gemma — GemmaTokenizer (модель DiffusionGemmaConfig)
- distilbert — BertTokenizer (модель DistilBertConfig)
- dpr — DPRQuestionEncoderTokenizer (модель DPRConfig)
- electra — BertTokenizer (модель ElectraConfig)
- emu3 — GPT2Tokenizer (модель Emu3Config)
- ernie — BertTokenizer (модель ErnieConfig)
- ernie4_5 — TokenizersBackend (модель Ernie4_5Config)
- ernie4_5_moe — TokenizersBackend (модель Ernie4_5_MoeConfig)
- esm — EsmTokenizer (модель EsmConfig)
- esmc — EsmcTokenizer (модель EsmcConfig)
- esmfold2 — EsmcTokenizer (модель EsmFold2Config)
- falcon_mamba — GPTNeoXTokenizer (модель FalconMambaConfig)
- fastspeech2_conformer —
None(модель FastSpeech2ConformerConfig) - flaubert — FlaubertTokenizer (модель FlaubertConfig)
- flava — BertTokenizer (модель FlavaConfig)
- flex_olmo — TokenizersBackend (модель FlexOlmoConfig)
- florence2 — BartTokenizer (модель Florence2Config)
- fnet — FNetTokenizer (модель FNetConfig)
- fsmt — FSMTTokenizer (модель FSMTConfig)
- fun_asr_nano — Qwen2Tokenizer (модель FunAsrNanoConfig)
- funnel — FunnelTokenizer (модель FunnelConfig)
- fuyu — TokenizersBackend (модель FuyuConfig)
- gemma — GemmaTokenizer (модель GemmaConfig)
- gemma2 — GemmaTokenizer (модель Gemma2Config)
- gemma3 — GemmaTokenizer (модель Gemma3Config)
- gemma3_text — GemmaTokenizer (модель Gemma3TextConfig)
- gemma3n — GemmaTokenizer (модель Gemma3nConfig)
- gemma3n_text — GemmaTokenizer (модель Gemma3nTextConfig)
- git — BertTokenizer (модель GitConfig)
- glm — TokenizersBackend (модель GlmConfig)
- glm4 — TokenizersBackend (модель Glm4Config)
- glm4_moe — TokenizersBackend (модель Glm4MoeConfig)
- glm4_moe_lite — TokenizersBackend (модель Glm4MoeLiteConfig)
- glm4v — TokenizersBackend (модель Glm4vConfig)
- glm4v_moe — TokenizersBackend (модель Glm4vMoeConfig)
- glm_image — TokenizersBackend (модель GlmImageConfig)
- glmasr — TokenizersBackend (модель GlmAsrConfig)
- got_ocr2 — TokenizersBackend (модель GotOcr2Config)
- gpt-sw3 — GPTSw3Tokenizer (модель GPT2Config)
- gpt2 — GPT2Tokenizer (модель GPT2Config)
- gpt_bigcode — TokenizersBackend (модель GPTBigCodeConfig)
- gpt_neo — GPT2Tokenizer (модель GPTNeoConfig)
- gpt_neox — GPTNeoXTokenizer (модель GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseTokenizer (модель GPTNeoXJapaneseConfig)
- gptj — GPT2Tokenizer (модель GPTJConfig)
- gradium_phonon_tts — TokenizersBackend (модель GradiumPhononTTSConfig)
- granite — TokenizersBackend (модель GraniteConfig)
- granite_speech5_ctc — ParakeetTokenizer (модель GraniteSpeech5CTCConfig)
- granitemoe — TokenizersBackend (модель GraniteMoeConfig)
- granitemoehybrid — TokenizersBackend (модель GraniteMoeHybridConfig)
- granitemoeshared — TokenizersBackend (модель GraniteMoeSharedConfig)
- grounding-dino — BertTokenizer (модель GroundingDinoConfig)
- groupvit — CLIPTokenizer (модель GroupViTConfig)
- gte — XLMRobertaTokenizer (модель GteConfig)
- hubert — Wav2Vec2CTCTokenizer (модель HubertConfig)
- hunyuan_vl — Qwen2Tokenizer (модель HunYuanVLConfig)
- hyperclovax — TokenizersBackend (модель HyperCLOVAXConfig)
- hyperclovax_vision_v2 — GPT2Tokenizer (модель HyperCLOVAXVisionV2Config)
- ibert — RobertaTokenizer (модель IBertConfig)
- idefics — LlamaTokenizer (модель IdeficsConfig)
- idefics2 — LlamaTokenizer (модель Idefics2Config)
- instructblip — GPT2Tokenizer (модель InstructBlipConfig)
- instructblipvideo — GPT2Tokenizer (модель InstructBlipVideoConfig)
- internvl — Qwen2Tokenizer (модель InternVLConfig)
- jais2 — GPT2Tokenizer (модель Jais2Config)
- jamba — TokenizersBackend (модель JambaConfig)
- jina_embeddings_v3 — XLMRobertaTokenizer (модель JinaEmbeddingsV3Config)
- kimi_k25 — TokenizersBackend (модель Kimi_K25Config)
- kimi_linear — TokenizersBackend (модель KimiLinearConfig)
- kosmos-2 — TokenizersBackend (модель Kosmos2Config)
- lasr_ctc — LasrTokenizer (модель LasrCTCConfig)
- lasr_encoder — LasrTokenizer (модель LasrEncoderConfig)
- layoutlm — BertTokenizer (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Tokenizer (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Tokenizer (модель LayoutLMv3Config)
- layoutxlm — LayoutXLMTokenizer (модель LayoutXLMConfig)
- led — LEDTokenizer (модель LEDConfig)
- lighton_ocr — Qwen2TokenizerFast (модель LightOnOcrConfig)
- lilt — RobertaTokenizer (модель LiltConfig)
- llava — TokenizersBackend (модель LlavaConfig)
- llava_next — TokenizersBackend (модель LlavaNextConfig)
- longformer — RobertaTokenizer (модель LongformerConfig)
- luke — LukeTokenizer (модель LukeConfig)
- lxmert — LxmertTokenizer (модель LxmertConfig)
- m2m_100 — M2M100Tokenizer (модель M2M100Config)
- mamba — GPTNeoXTokenizer (модель MambaConfig)
- mamba2 — GPTNeoXTokenizer (модель Mamba2Config)
- marian — MarianTokenizer (модель MarianConfig)
- markuplm — MarkupLMTokenizer (модель MarkupLMConfig)
- mbart — MBartTokenizer (модель MBartConfig)
- megatron-bert — BertTokenizer (модель MegatronBertConfig)
- metaclip_2 — XLMRobertaTokenizer (модель MetaClip2Config)
- mgp-str — MgpstrTokenizer (модель MgpstrConfig)
- mimo_v2_flash — TokenizersBackend (модель MiMoV2FlashConfig)
- minicpm3 — TokenizersBackend (модель MiniCPM3Config)
- minicpm_ocr — TokenizersBackend (модель MiniCPMOcrConfig)
- minicpmv4_6 — TokenizersBackend (модель MiniCPMV4_6Config)
- minicpmv4_7 — TokenizersBackend (модель MiniCPMV4_7Config)
- minimax_m2 — TokenizersBackend (модель MiniMaxM2Config)
- ministral — MistralCommonBackend (модель MinistralConfig)
- ministral3 — MistralCommonBackend (модель Ministral3Config)
- mistral — MistralCommonBackend (модель MistralConfig)
- mistral3 — MistralCommonBackend (модель Mistral3Config)
- mistral_large4 — MistralCommonBackend (модель MistralLarge4Config)
- mixtral — MistralCommonBackend (модель MixtralConfig)
- mm-grounding-dino — BertTokenizer (модель MMGroundingDinoConfig)
- mobilebert — MobileBertTokenizer (модель MobileBertConfig)
- modernbert — TokenizersBackend (модель ModernBertConfig)
- modernbert-decoder — TokenizersBackend (модель ModernBertDecoderConfig)
- molmo2 — TokenizersBackend (модель Molmo2Config)
- moss_transcribe_diarize — Qwen2Tokenizer (модель MossTranscribeDiarizeConfig)
- mpnet — MPNetTokenizer (модель MPNetConfig)
- mpt — GPTNeoXTokenizer (модель MptConfig)
- mra — RobertaTokenizer (модель MraConfig)
- mt5 — T5Tokenizer (модель MT5Config)
- musicgen — T5Tokenizer (модель MusicgenConfig)
- musicgen_melody — T5Tokenizer (модель MusicgenMelodyConfig)
- mvp — MvpTokenizer (модель MvpConfig)
- nemo_speechlm — TokenizersBackend (модель Nemotron3_5TranscribeConfig)
- nemotron — TokenizersBackend (модель NemotronConfig)
- nemotron3_5_asr — ParakeetTokenizer (модель Nemotron3_5AsrConfig)
- nemotron_asr_streaming — ParakeetTokenizer (модель NemotronAsrStreamingConfig)
- nllb-moe — NllbTokenizer (модель NllbMoeConfig)
- nomic_bert — BertTokenizer (модель NomicBertConfig)
- nougat — NougatTokenizer (модель NougatConfig)
- nystromformer — TokenizersBackend (модель NystromformerConfig)
- olmo — GPTNeoXTokenizer (модель OlmoConfig)
- olmo2 — TokenizersBackend (модель Olmo2Config)
- olmo3 — TokenizersBackend (модель Olmo3Config)
- olmo_hybrid — TokenizersBackend (модель OlmoHybridConfig)
- olmoe — GPTNeoXTokenizer (модель OlmoeConfig)
- omdet-turbo — CLIPTokenizer (модель OmDetTurboConfig)
- oneformer — CLIPTokenizer (модель OneFormerConfig)
- openai-gpt — OpenAIGPTTokenizer (модель OpenAIGPTConfig)
- opt — GPT2Tokenizer (модель OPTConfig)
- ovis2 — Qwen2Tokenizer (модель Ovis2Config)
- owlv2 — CLIPTokenizer (модель Owlv2Config)
- owlvit — CLIPTokenizer (модель OwlViTConfig)
- paddleocr_vl — TokenizersBackend (модель PaddleOCRVLConfig)
- parakeet_ctc — ParakeetTokenizer (модель ParakeetCTCConfig)
- parakeet_rnnt — ParakeetTokenizer (модель ParakeetRNNTConfig)
- parakeet_tdt — ParakeetTokenizer (модель ParakeetTDTConfig)
- pegasus — PegasusTokenizer (модель PegasusConfig)
- pegasus_x — TokenizersBackend (модель PegasusXConfig)
- perceiver — PerceiverTokenizer (модель PerceiverConfig)
- persimmon — TokenizersBackend (модель PersimmonConfig)
- phi — GPT2Tokenizer (модель PhiConfig)
- phi3 — TokenizersBackend (модель Phi3Config)
- phimoe — TokenizersBackend (модель PhimoeConfig)
- pix2struct — TokenizersBackend (модель Pix2StructConfig)
- pixtral — MistralCommonBackend (модель PixtralVisionConfig)
- plbart — PLBartTokenizer (модель PLBartConfig)
- pocket_tts — TokenizersBackend (модель PocketTTSConfig)
- pp_formulanet — NougatTokenizer (модель PPFormulaNetConfig)
- prophetnet — ProphetNetTokenizer (модель ProphetNetConfig)
- qianfan_ocr — Qwen2Tokenizer (модель QianfanOCRConfig)
- qwen2 — Qwen2Tokenizer (модель Qwen2Config)
- qwen2_5_omni — Qwen2Tokenizer (модель Qwen2_5OmniConfig)
- qwen2_5_vl — Qwen2Tokenizer (модель Qwen2_5_VLConfig)
- qwen2_audio — Qwen2Tokenizer (модель Qwen2AudioConfig)
- qwen2_moe — Qwen2Tokenizer (модель Qwen2MoeConfig)
- qwen2_vl — Qwen2Tokenizer (модель Qwen2VLConfig)
- qwen3 — Qwen2Tokenizer (модель Qwen3Config)
- qwen3_5 — Qwen3_5Tokenizer (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5Tokenizer (модель Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5Tokenizer (модель Qwen3_5MoeTextConfig)
- qwen3_5_text — Qwen3_5Tokenizer (модель Qwen3_5TextConfig)
- qwen3_asr — Qwen2Tokenizer (модель Qwen3ASRConfig)
- qwen3_moe — Qwen2Tokenizer (модель Qwen3MoeConfig)
- qwen3_next — Qwen2Tokenizer (модель Qwen3NextConfig)
- qwen3_omni_moe — Qwen2Tokenizer (модель Qwen3OmniMoeConfig)
- qwen3_vl — Qwen2Tokenizer (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen2Tokenizer (модель Qwen3VLMoeConfig)
- qwen4_exp — Qwen3_5Tokenizer (модель Qwen4ExpConfig)
- rag — RagTokenizer (модель RagConfig)
- recurrent_gemma — GemmaTokenizer (модель RecurrentGemmaConfig)
- reformer — ReformerTokenizer (модель ReformerConfig)
- rembert — RemBertTokenizer (модель RemBertConfig)
- roberta — RobertaTokenizer (модель RobertaConfig)
- roberta-prelayernorm — RobertaTokenizer (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertTokenizer (модель RoCBertConfig)
- roformer — RoFormerTokenizer (модель RoFormerConfig)
- rwkv — GPTNeoXTokenizer (модель RwkvConfig)
- sam3 — CLIPTokenizer (модель Sam3Config)
- sam3_video — CLIPTokenizer (модель Sam3VideoConfig)
- seamless_m4t — SeamlessM4TTokenizer (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4TTokenizer (модель SeamlessM4Tv2Config)
- shieldgemma2 — GemmaTokenizer (модель ShieldGemma2Config)
- siglip — SiglipTokenizer (модель SiglipConfig)
- siglip2 — Siglip2Tokenizer (модель Siglip2Config)
- smolvlm — TokenizersBackend (модель SmolVLMConfig)
- speech_to_text — Speech2TextTokenizer (модель Speech2TextConfig)
- speecht5 — SpeechT5Tokenizer (модель SpeechT5Config)
- splinter — SplinterTokenizer (модель SplinterConfig)
- squeezebert — BertTokenizer (модель SqueezeBertConfig)
- stablelm — TokenizersBackend (модель StableLmConfig)
- starcoder2 — GPT2Tokenizer (модель Starcoder2Config)
- switch_transformers — T5Tokenizer (модель SwitchTransformersConfig)
- t5 — T5Tokenizer (модель T5Config)
- t5gemma — GemmaTokenizer (модель T5GemmaConfig)
- tapas — TapasTokenizer (модель TapasConfig)
- tipsv2 — Tipsv2Tokenizer (модель Tipsv2Config)
- trocr — XLMRobertaTokenizer (модель TrOCRConfig)
- tvp — BertTokenizer (модель TvpConfig)
- udop — UdopTokenizer (модель UdopConfig)
- umt5 — TokenizersBackend (модель UMT5Config)
- unispeech — Wav2Vec2CTCTokenizer (модель UniSpeechConfig)
- unispeech-sat — Wav2Vec2CTCTokenizer (модель UniSpeechSatConfig)
- vibevoice — Qwen2TokenizerFast (модель VibeVoiceConfig)
- videoprism — VideoPrismTokenizer (модель VideoPrismConfig)
- vilt — BertTokenizer (модель ViltConfig)
- vipllava — TokenizersBackend (модель VipLlavaConfig)
- visual_bert — BertTokenizer (модель VisualBertConfig)
- vits — VitsTokenizer (модель VitsConfig)
- voxtral — MistralCommonBackend (модель VoxtralConfig)
- voxtral_realtime — MistralCommonBackend (модель VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2CTCTokenizer (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2CTCTokenizer (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2CTCTokenizer (модель Wav2Vec2ConformerConfig)
- whisper — WhisperTokenizer (модель WhisperConfig)
- xclip — CLIPTokenizer (модель XCLIPConfig)
- xglm — XGLMTokenizer (модель XGLMConfig)
- xlm — XLMTokenizer (модель XLMConfig)
- xlm-roberta — XLMRobertaTokenizer (модель XLMRobertaConfig)
- xlm-roberta-xl — TokenizersBackend (модель XLMRobertaXLConfig)
- xlnet — XLNetTokenizer (модель XLNetConfig)
- xlstm — GPTNeoXTokenizer (модель xLSTMConfig)
- xmod — XLMRobertaTokenizer (модель XmodConfig)
- yoso — AlbertTokenizer (модель YosoConfig)
- zaya — GemmaTokenizer (модель ZayaConfig)
Примеры:
>>> from transformers import AutoTokenizer
>>> # Download vocabulary from huggingface.co and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("google-bert/bert-base-uncased")
>>> # Download vocabulary from huggingface.co (user-uploaded) and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("dbmdz/bert-base-german-cased")
>>> # If vocabulary files are in a directory (e.g. tokenizer was saved using *save_pretrained('./test/saved_model/')*)
>>> # tokenizer = AutoTokenizer.from_pretrained("./test/bert_saved_model/")
>>> # Download vocabulary from huggingface.co and define model-specific arguments
>>> tokenizer = AutoTokenizer.from_pretrained("FacebookAI/roberta-base", add_prefix_space=True)register
< source >( config_classtokenizer_class = Noneslow_tokenizer_class = Nonefast_tokenizer_class = Noneexist_ok = False )
Параметры
- config_class (PreTrainedConfig) — Конфигурация, соответствующая модели, которую нужно зарегистрировать.
- tokenizer_class — класс токенизатора для регистрации (V5 — предпочтительный параметр).
- slow_tokenizer_class — (Устарело) Медленный токенизатор для регистрации.
- fast_tokenizer_class — (Устарело) Быстрый токенизатор для регистрации.
Зарегистрируйте новый токенизатор в этом сопоставлении.
AutoFeatureExtractor
Это универсальный класс экстрактора признаков, который при создании с помощью метода класса AutoFeatureExtractor.from_pretrained() будет инстанцирован как один из классов экстракторов признаков библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Это может быть:- строка, model id предобученного feature_extractor, размещенного в репозитории модели на huggingface.co.
- путь к каталогу, содержащему файл экстрактора признаков, сохранённый с помощью метода
save_pretrained(), например,
./my_model_directory/. - путь к сохранённому JSON-файлу экстрактора признаков, например,
./my_model_directory/preprocessor_config.json.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженный предобученный экстрактор признаков модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать файлы экстрактора признаков и заменять кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Прокси применяются при каждом запросе. - token (
strили bool, необязательный) — Токен, используемый в качестве HTTP bearer-авторизации для удалённых файлов. ЕслиTrue, будет использован токен, сгенерированный при выполненииhf auth login(хранится в~/.huggingface). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - return_unused_kwargs (
bool, необязательный, по умолчаниюFalse) — ЕслиFalse, функция возвращает только итоговый объект feature extractor. ЕслиTrue, функция возвращаетTuple(feature_extractor, unused_kwargs), где unused_kwargs — это словарь, содержащий пары ключ/значение, ключи которых не являются атрибутами feature extractor, то есть та частьkwargs, которая не была использована для обновленияfeature_extractorи в остальном игнорируется. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - kwargs (
dict[str, Any], необязательный) — Значения в kwargs для любых ключей, являющихся атрибутами feature extractor, будут использоваться для переопределения загруженных значений. Поведение в отношении пар ключ/значение, ключи которых не являются атрибутами feature extractor, контролируется параметромreturn_unused_kwargs.
Создайте экземпляр одного из классов feature extractor библиотеки на основе словаря предобученной модели.
Класс экстрактора признаков, который будет создан, выбирается на основе свойства model_type объекта конфигурации
(передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его
отсутствии — с помощью сопоставления по шаблону в pretrained_model_name_or_path:
- audio-spectrogram-transformer — ASTFeatureExtractor (модель ASTConfig)
- audioflamingo3 — WhisperFeatureExtractor (модель AudioFlamingo3Config)
- canary — ParakeetFeatureExtractor (модель CanaryConfig)
- clap — ClapFeatureExtractor (модель ClapConfig)
- clvp — ClvpFeatureExtractor (модель ClvpConfig)
- cohere_asr — CohereAsrFeatureExtractor (модель CohereAsrConfig)
- csm — EncodecFeatureExtractor (модель CsmConfig)
- dac — DacFeatureExtractor (модель DacConfig)
- data2vec-audio — Wav2Vec2FeatureExtractor (модель Data2VecAudioConfig)
- dia — DiaFeatureExtractor (модель DiaConfig)
- embedding_gemma2 — Gemma4AudioFeatureExtractor (модель EmbeddingGemma2Config)
- encodec — EncodecFeatureExtractor (модель EncodecConfig)
- fun_asr_nano — FunAsrNanoFeatureExtractor (модель FunAsrNanoConfig)
- gemma3n — Gemma3nAudioFeatureExtractor (модель Gemma3nConfig)
- gemma4 — Gemma4AudioFeatureExtractor (модель Gemma4Config)
- gemma4_unified — Gemma4UnifiedAudioFeatureExtractor (модель Gemma4UnifiedConfig)
- glmasr — WhisperFeatureExtractor (модель GlmAsrConfig)
- gradium_phonon_tts — PocketTTSFeatureExtractor (модель GradiumPhononTTSConfig)
- granite_speech — GraniteSpeechFeatureExtractor (модель GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5FeatureExtractor (модель GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5FeatureExtractor (модель GraniteSpeech5EncoderConfig)
- granite_speech_plus — GraniteSpeechFeatureExtractor (модель GraniteSpeechPlusConfig)
- higgs_audio_v2_tokenizer — DacFeatureExtractor (модель HiggsAudioV2TokenizerConfig)
- hubert — Wav2Vec2FeatureExtractor (модель HubertConfig)
- inkling_mm_model — InklingFeatureExtractor (модель InklingConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextFeatureExtractor (модель KyutaiSpeechToTextConfig)
- lasr_ctc — LasrFeatureExtractor (модель LasrCTCConfig)
- lasr_encoder — LasrFeatureExtractor (модель LasrEncoderConfig)
- mimi — EncodecFeatureExtractor (модель MimiConfig)
- moonshine — Wav2Vec2FeatureExtractor (модель MoonshineConfig)
- moshi — EncodecFeatureExtractor (модель MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeFeatureExtractor (модель MossTranscribeDiarizeConfig)
- muse_spark — MuseSparkFeatureExtractor (модель MuseSparkConfig)
- musicgen — EncodecFeatureExtractor (модель MusicgenConfig)
- musicgen_melody — MusicgenMelodyFeatureExtractor (модель MusicgenMelodyConfig)
- nemo_speechlm — NemotronAsrStreamingFeatureExtractor (модель Nemotron3_5TranscribeConfig)
- nemotron3_5_asr — NemotronAsrStreamingFeatureExtractor (модель Nemotron3_5AsrConfig)
- nemotron3_diarization — NemotronAsrStreamingFeatureExtractor (модель Nemotron3DiarizationConfig)
- nemotron_asr_streaming — NemotronAsrStreamingFeatureExtractor (модель NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingFeatureExtractor (модель NemotronAsrStreamingEncoderConfig)
- neucodec — NeuCodecFeatureExtractor (модель NeuCodecConfig)
- parakeet_ctc — ParakeetFeatureExtractor (модель ParakeetCTCConfig)
- parakeet_encoder — ParakeetFeatureExtractor (модель ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetFeatureExtractor (модель ParakeetRNNTConfig)
- parakeet_tdt — ParakeetFeatureExtractor (модель ParakeetTDTConfig)
- pe_audio — PeAudioFeatureExtractor (модель PeAudioConfig)
- pe_audio_video — PeAudioFeatureExtractor (модель PeAudioVideoConfig)
- phi4_multimodal — Phi4MultimodalFeatureExtractor (модель Phi4MultimodalConfig)
- pocket_tts — PocketTTSFeatureExtractor (модель PocketTTSConfig)
- pocket_tts_audio_tokenizer — EncodecFeatureExtractor (модель PocketTTSAudioTokenizerConfig)
- pop2piano — Pop2PianoFeatureExtractor (модель Pop2PianoConfig)
- qwen2_5_omni — WhisperFeatureExtractor (модель Qwen2_5OmniConfig)
- qwen2_audio — WhisperFeatureExtractor (модель Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRFeatureExtractor (модель Qwen3ASRConfig)
- qwen3_omni_moe — WhisperFeatureExtractor (модель Qwen3OmniMoeConfig)
- seamless_m4t — SeamlessM4TFeatureExtractor (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4TFeatureExtractor (модель SeamlessM4Tv2Config)
- sew — Wav2Vec2FeatureExtractor (модель SEWConfig)
- sew-d — Wav2Vec2FeatureExtractor (модель SEWDConfig)
- speech_to_text — Speech2TextFeatureExtractor (модель Speech2TextConfig)
- speecht5 — SpeechT5FeatureExtractor (модель SpeechT5Config)
- unispeech — Wav2Vec2FeatureExtractor (модель UniSpeechConfig)
- unispeech-sat — Wav2Vec2FeatureExtractor (модель UniSpeechSatConfig)
- univnet — UnivNetFeatureExtractor (модель UnivNetConfig)
- vibevoice — VibeVoiceAcousticTokenizerFeatureExtractor (модель VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerFeatureExtractor (модель VibeVoiceAcousticTokenizerConfig)
- vibevoice_asr — VibeVoiceAcousticTokenizerFeatureExtractor (модель VibeVoiceAsrConfig)
- voxtral — WhisperFeatureExtractor (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeFeatureExtractor (модель VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2FeatureExtractor (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2FeatureExtractor (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2FeatureExtractor (модель Wav2Vec2ConformerConfig)
- wavlm — Wav2Vec2FeatureExtractor (модель WavLMConfig)
- whisper — WhisperFeatureExtractor (модель WhisperConfig)
- xcodec — DacFeatureExtractor (модель XcodecConfig)
- xcodec2 — Xcodec2FeatureExtractor (модель Xcodec2Config)
Передача
token=Trueобязательна, если вы хотите использовать частную модель.
Примеры:
>>> from transformers import AutoFeatureExtractor
>>> # Download feature extractor from huggingface.co and cache.
>>> feature_extractor = AutoFeatureExtractor.from_pretrained("facebook/wav2vec2-base-960h")
>>> # If feature extractor files are in a directory (e.g. feature extractor was saved using *save_pretrained('./test/saved_model/')*)
>>> # feature_extractor = AutoFeatureExtractor.from_pretrained("./test/saved_model/")register
< source >( config_classfeature_extractor_classexist_ok = False )
Параметры
- config_class (PreTrainedConfig) — Конфигурация, соответствующая модели, которую нужно зарегистрировать.
- feature_extractor_class (
FeatureExtractorMixin) — Извлекающий признаки, который нужно зарегистрировать.
Зарегистрируйте новый экстрактор признаков для этого класса.
AutoImageProcessor
Это универсальный класс процессора изображений, который при создании с помощью метода класса AutoImageProcessor.from_pretrained() будет инстанцирован как один из классов процессоров изображений библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Это может быть:- строка, model id предобученного image_processor, размещенного в репозитории модели на huggingface.co.
- путь к каталогу, содержащему файл процессора изображений, сохранённый с помощью метода
save_pretrained(), например,
./my_model_directory/. - путь к сохранённому JSON-файлу процессора изображений, например,
./my_model_directory/preprocessor_config.json.
- cache_dir (
stroros.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженный предобученный процессор изображений модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать файлы процессора изображений и заменять кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Прокси применяются при каждом запросе. - token (
strили bool, необязательный) — Токен, используемый в качестве HTTP bearer-авторизации для удалённых файлов. ЕслиTrue, будет использован токен, сгенерированный при выполненииhf auth login(хранится в~/.huggingface). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - use_fast (
bool, необязательный, по умолчаниюFalse) — Устарело: используйтеbackend="torchvision". Этот параметр сохранён для обратной совместимости. Использовать быстрый процессор изображений на основе torchvision, если он поддерживается для данной модели. Если для данной модели недоступен быстрый процессор изображений, вместо него возвращается обычный процессор на основе numpy. - backend (
str, необязательный, по умолчаниюNone) — Бэкенд для обработки изображений. Допустимые значения:None: автоматически выбрать лучший доступный бэкенд (torchvision, если он доступен, в противном случае pil)"torchvision": Использовать бэкенд Torchvision (ускорение на GPU, быстрее)"pil": Использовать бэкенд PIL (переносимый, только CPU)- Любое имя пользовательского бэкенда, зарегистрированное с помощью метода
register()
- return_unused_kwargs (
bool, необязательный, по умолчаниюFalse) — ЕслиFalse, функция возвращает только итоговый объект image processor. ЕслиTrue, функция возвращаетTuple(image_processor, unused_kwargs), где unused_kwargs — это словарь, содержащий пары ключ/значение, ключи которых не являются атрибутами image processor, то есть та частьkwargs, которая не была использована для обновленияimage_processorи в остальном игнорируется. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - image_processor_filename (
str, необязательный, по умолчанию"config.json") — Имя файла в каталоге модели, используемого для конфигурации процессора изображений. - kwargs (
dict[str, Any], необязательный) — Значения в kwargs для любых ключей, являющихся атрибутами image processor, используются для переопределения загруженных значений. Поведение в отношении пар ключ/значение, ключи которых не являются атрибутами image processor, контролируется параметромreturn_unused_kwargs.
Создайте экземпляр одного из классов процессора изображений библиотеки на основе словаря предобученной модели.
Класс процессора изображений, который будет создан, выбирается на основе свойства model_type объекта конфигурации
(переданного в качестве аргумента или загруженного из pretrained_model_name_or_path, если это возможно), а при его
отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- aimv2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель Aimv2Config) - aimv2_vision_model —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель Aimv2VisionConfig) - align —
{'torchvision': 'EfficientNetImageProcessor', 'pil': 'EfficientNetImageProcessorPil'}(модель AlignConfig) - altclip —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель AltCLIPConfig) - aria —
{'pil': 'AriaImageProcessorPil', 'torchvision': 'AriaImageProcessor'}(модель AriaConfig) - aya_vision —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(модель AyaVisionConfig) - beit —
{'pil': 'BeitImageProcessorPil', 'torchvision': 'BeitImageProcessor'}(модель BeitConfig) - bit —
{'pil': 'BitImageProcessorPil', 'torchvision': 'BitImageProcessor'}(модель BitConfig) - blip —
{'pil': 'BlipImageProcessorPil', 'torchvision': 'BlipImageProcessor'}(модель BlipConfig) - blip-2 —
{'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'}(модель Blip2Config) - bridgetower —
{'pil': 'BridgeTowerImageProcessorPil', 'torchvision': 'BridgeTowerImageProcessor'}(модель BridgeTowerConfig) - chameleon —
{'pil': 'ChameleonImageProcessorPil', 'torchvision': 'ChameleonImageProcessor'}(модель ChameleonConfig) - chinese_clip —
{'pil': 'ChineseCLIPImageProcessorPil', 'torchvision': 'ChineseCLIPImageProcessor'}(модель ChineseCLIPConfig) - chmv2 —
{'torchvision': 'CHMv2ImageProcessor'}(модель CHMv2Config) - clip —
{'pil': 'CLIPImageProcessorPil', 'torchvision': 'CLIPImageProcessor'}(модель CLIPConfig) - clipseg —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель CLIPSegConfig) - cohere2_vision —
{'torchvision': 'Cohere2VisionImageProcessor'}(модель Cohere2VisionConfig) - cohere_compass —
{'pil': 'CohereCompassImageProcessorPil', 'torchvision': 'CohereCompassImageProcessor'}(модель CohereCompassConfig) - colpali —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(модель ColPaliConfig) - colqwen2 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель ColQwen2Config) - conditional_detr —
{'pil': 'ConditionalDetrImageProcessorPil', 'torchvision': 'ConditionalDetrImageProcessor'}(модель ConditionalDetrConfig) - convnext —
{'pil': 'ConvNextImageProcessorPil', 'torchvision': 'ConvNextImageProcessor'}(модель ConvNextConfig) - convnextv2 —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(модель ConvNextV2Config) - cosmos3_edge —
{'pil': 'Cosmos3EdgeImageProcessorPil', 'torchvision': 'Cosmos3EdgeImageProcessor'}(модель Cosmos3EdgeConfig) - cosmos3_omni —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Cosmos3OmniConfig) - cvt —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(модель CvtConfig) - data2vec-vision —
{'torchvision': 'BeitImageProcessor', 'pil': 'BeitImageProcessorPil'}(модель Data2VecVisionConfig) - deepseek_ocr2 —
{'pil': 'DeepseekOcr2ImageProcessorPil', 'torchvision': 'DeepseekOcr2ImageProcessor'}(модель DeepseekOcr2Config) - deepseek_vl —
{'pil': 'DeepseekVLImageProcessorPil', 'torchvision': 'DeepseekVLImageProcessor'}(модель DeepseekVLConfig) - deepseek_vl_hybrid —
{'pil': 'DeepseekVLHybridImageProcessorPil', 'torchvision': 'DeepseekVLHybridImageProcessor'}(модель DeepseekVLHybridConfig) - deformable_detr —
{'pil': 'DeformableDetrImageProcessorPil', 'torchvision': 'DeformableDetrImageProcessor'}(модель DeformableDetrConfig) - deimv2 —
{'torchvision': 'RTDetrImageProcessor', 'pil': 'RTDetrImageProcessorPil'}(модель Deimv2Config) - deit —
{'pil': 'DeiTImageProcessorPil', 'torchvision': 'DeiTImageProcessor'}(модель DeiTConfig) - depth_anything —
{'torchvision': 'DPTImageProcessor', 'pil': 'DPTImageProcessorPil'}(модель DepthAnythingConfig) - depth_pro —
{'torchvision': 'DepthProImageProcessor'}(модель DepthProConfig) - detr —
{'pil': 'DetrImageProcessorPil', 'torchvision': 'DetrImageProcessor'}(модель DetrConfig) - dinat —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель DinatConfig) - dinov2 —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(модель Dinov2Config) - dinov3_vit —
{'torchvision': 'DINOv3ViTImageProcessor'}(модель DINOv3ViTConfig) - donut-swin —
{'torchvision': 'DonutImageProcessor', 'pil': 'DonutImageProcessorPil'}(модель DonutSwinConfig) - dpt —
{'pil': 'DPTImageProcessorPil', 'torchvision': 'DPTImageProcessor'}(модель DPTConfig) - edgetam —
{'torchvision': 'Sam2ImageProcessor'}(модель EdgeTamConfig) - efficientloftr —
{'pil': 'EfficientLoFTRImageProcessorPil', 'torchvision': 'EfficientLoFTRImageProcessor'}(модель EfficientLoFTRConfig) - efficientnet —
{'pil': 'EfficientNetImageProcessorPil', 'torchvision': 'EfficientNetImageProcessor'}(модель EfficientNetConfig) - embedding_gemma2 —
{'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'}(модель EmbeddingGemma2Config) - emu3 —
{'pil': 'Emu3ImageProcessor'}(модель Emu3Config) - eomt —
{'pil': 'EomtImageProcessorPil', 'torchvision': 'EomtImageProcessor'}(модель EomtConfig) - eomt_dinov3 —
{'torchvision': 'EomtImageProcessor', 'pil': 'EomtImageProcessorPil'}(модель EomtDinov3Config) - ernie4_5_vl_moe —
{'pil': 'Ernie4_5_VLMoeImageProcessorPil', 'torchvision': 'Ernie4_5_VLMoeImageProcessor'}(модель Ernie4_5_VLMoeConfig) - exaone4_5 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Exaone4_5_Config) - flava —
{'pil': 'FlavaImageProcessorPil', 'torchvision': 'FlavaImageProcessor'}(модель FlavaConfig) - florence2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель Florence2Config) - focalnet —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(модель FocalNetConfig) - fuyu —
{'pil': 'FuyuImageProcessorPil', 'torchvision': 'FuyuImageProcessor'}(модель FuyuConfig) - gemma3 —
{'pil': 'Gemma3ImageProcessorPil', 'torchvision': 'Gemma3ImageProcessor'}(модель Gemma3Config) - gemma3n —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(модель Gemma3nConfig) - gemma4 —
{'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'}(модель Gemma4Config) - gemma4_unified —
{'torchvision': 'Gemma4UnifiedImageProcessor'}(модель Gemma4UnifiedConfig) - git —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель GitConfig) - glm46v —
{'pil': 'Glm46VImageProcessorPil', 'torchvision': 'Glm46VImageProcessor'}(модель Glm46VConfig) - glm4v —
{'pil': 'Glm4vImageProcessorPil', 'torchvision': 'Glm4vImageProcessor'}(модель Glm4vConfig) - glm5_next —
{'pil': 'Glm5NextImageProcessorPil', 'torchvision': 'Glm5NextImageProcessor'}(модель Glm5NextConfig) - glm_image —
{'pil': 'GlmImageImageProcessorPil', 'torchvision': 'GlmImageImageProcessor'}(модель GlmImageConfig) - glmga —
{'pil': 'GlmgaImageProcessorPil', 'torchvision': 'GlmgaImageProcessor'}(модель GlmgaConfig) - glpn —
{'pil': 'GLPNImageProcessorPil', 'torchvision': 'GLPNImageProcessor'}(модель GLPNConfig) - got_ocr2 —
{'pil': 'GotOcr2ImageProcessorPil', 'torchvision': 'GotOcr2ImageProcessor'}(модель GotOcr2Config) - granite4_vision —
{'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'}(модель Granite4VisionConfig) - grounding-dino —
{'pil': 'GroundingDinoImageProcessorPil', 'torchvision': 'GroundingDinoImageProcessor'}(модель GroundingDinoConfig) - groupvit —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель GroupViTConfig) - hiera —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(модель HieraConfig) - hunyuan_vl —
{'pil': 'HunYuanVLImageProcessorPil', 'torchvision': 'HunYuanVLImageProcessor'}(модель HunYuanVLConfig) - hyperclovax_vision_v2 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель HyperCLOVAXVisionV2Config) - idefics —
{'pil': 'IdeficsImageProcessorPil', 'torchvision': 'IdeficsImageProcessor'}(модель IdeficsConfig) - idefics2 —
{'pil': 'Idefics2ImageProcessorPil', 'torchvision': 'Idefics2ImageProcessor'}(модель Idefics2Config) - idefics3 —
{'pil': 'Idefics3ImageProcessorPil', 'torchvision': 'Idefics3ImageProcessor'}(модель Idefics3Config) - ijepa —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель IJepaConfig) - imagegpt —
{'pil': 'ImageGPTImageProcessorPil', 'torchvision': 'ImageGPTImageProcessor'}(модель ImageGPTConfig) - inkling_mm_model —
{'torchvision': 'InklingImageProcessor'}(модель InklingConfig) - instructblip —
{'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'}(модель InstructBlipConfig) - internvl —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(модель InternVLConfig) - janus —
{'pil': 'JanusImageProcessorPil', 'torchvision': 'JanusImageProcessor'}(модель JanusConfig) - kimi_k25 —
{'torchvision': 'Kimi_K25ImageProcessor'}(модель Kimi_K25Config) - kosmos-2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель Kosmos2Config) - kosmos-2.5 —
{'torchvision': 'Kosmos2_5ImageProcessor', 'pil': 'Kosmos2_5ImageProcessorPil'}(модель Kosmos2_5Config) - layoutlmv2 —
{'pil': 'LayoutLMv2ImageProcessorPil', 'torchvision': 'LayoutLMv2ImageProcessor'}(модель LayoutLMv2Config) - layoutlmv3 —
{'pil': 'LayoutLMv3ImageProcessorPil', 'torchvision': 'LayoutLMv3ImageProcessor'}(модель LayoutLMv3Config) - layoutxlm —
{'torchvision': 'LayoutLMv2ImageProcessor', 'pil': 'LayoutLMv2ImageProcessorPil'}(модель LayoutXLMConfig) - levit —
{'pil': 'LevitImageProcessorPil', 'torchvision': 'LevitImageProcessor'}(модель LevitConfig) - lfm2_vl —
{'torchvision': 'Lfm2VlImageProcessor'}(модель Lfm2VlConfig) - lightglue —
{'pil': 'LightGlueImageProcessorPil', 'torchvision': 'LightGlueImageProcessor'}(модель LightGlueConfig) - lighton_ocr —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(модель LightOnOcrConfig) - llama4 —
{'torchvision': 'Llama4ImageProcessor'}(модель Llama4Config) - llava —
{'pil': 'LlavaImageProcessorPil', 'torchvision': 'LlavaImageProcessor'}(модель LlavaConfig) - llava_next —
{'pil': 'LlavaNextImageProcessorPil', 'torchvision': 'LlavaNextImageProcessor'}(модель LlavaNextConfig) - llava_next_video —
{'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'}(модель LlavaNextVideoConfig) - llava_onevision —
{'pil': 'LlavaOnevisionImageProcessorPil', 'torchvision': 'LlavaOnevisionImageProcessor'}(модель LlavaOnevisionConfig) - lw_detr —
{'torchvision': 'DeformableDetrImageProcessor', 'pil': 'DeformableDetrImageProcessorPil'}(модель LwDetrConfig) - mask2former —
{'pil': 'Mask2FormerImageProcessorPil', 'torchvision': 'Mask2FormerImageProcessor'}(модель Mask2FormerConfig) - maskformer —
{'pil': 'MaskFormerImageProcessorPil', 'torchvision': 'MaskFormerImageProcessor'}(модель MaskFormerConfig) - metaclip_2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель MetaClip2Config) - mgp-str —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель MgpstrConfig) - minicpm_ocr —
{'torchvision': 'MiniCPMOcrImageProcessor'}(модель MiniCPMOcrConfig) - minicpmv4_6 —
{'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'}(модель MiniCPMV4_6Config) - minicpmv4_7 —
{'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'}(модель MiniCPMV4_7Config) - minimax_m3_vl —
{'torchvision': 'MiniMaxM3VLImageProcessor'}(модель MiniMaxM3VLConfig) - mistral3 —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(модель Mistral3Config) - mistral_large4 —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(модель MistralLarge4Config) - mlcd —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель MLCDVisionConfig) - mllama —
{'pil': 'MllamaImageProcessorPil', 'torchvision': 'MllamaImageProcessor'}(модель MllamaConfig) - mm-grounding-dino —
{'torchvision': 'GroundingDinoImageProcessor', 'pil': 'GroundingDinoImageProcessorPil'}(модель MMGroundingDinoConfig) - mobilenet_v1 —
{'pil': 'MobileNetV1ImageProcessorPil', 'torchvision': 'MobileNetV1ImageProcessor'}(модель MobileNetV1Config) - mobilenet_v2 —
{'pil': 'MobileNetV2ImageProcessorPil', 'torchvision': 'MobileNetV2ImageProcessor'}(модель MobileNetV2Config) - mobilevit —
{'pil': 'MobileViTImageProcessorPil', 'torchvision': 'MobileViTImageProcessor'}(модель MobileViTConfig) - mobilevitv2 —
{'torchvision': 'MobileViTImageProcessor', 'pil': 'MobileViTImageProcessorPil'}(модель MobileViTV2Config) - molmo2 —
{'torchvision': 'Molmo2ImageProcessor'}(модель Molmo2Config) - muse_glimmer —
{'torchvision': 'MuseGlimmerImageProcessor'}(модель MuseGlimmerConfig) - muse_spark —
{'torchvision': 'MuseGlimmerImageProcessor'}(модель MuseSparkConfig) - nemotron_h_omni —
{'torchvision': 'NemotronH_Omni_Reasoning_V3ImageProcessor'}(модель NemotronH_Omni_Reasoning_V3_Config) - neomme —
{'torchvision': 'NeoMMEImageProcessor'}(модель NeoMMEConfig) - nougat —
{'pil': 'NougatImageProcessorPil', 'torchvision': 'NougatImageProcessor'}(модель NougatConfig) - omdet-turbo —
{'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'}(модель OmDetTurboConfig) - oneformer —
{'pil': 'OneFormerImageProcessorPil', 'torchvision': 'OneFormerImageProcessor'}(модель OneFormerConfig) - ovis2 —
{'pil': 'Ovis2ImageProcessorPil', 'torchvision': 'Ovis2ImageProcessor'}(модель Ovis2Config) - owlv2 —
{'pil': 'Owlv2ImageProcessorPil', 'torchvision': 'Owlv2ImageProcessor'}(модель Owlv2Config) - owlvit —
{'pil': 'OwlViTImageProcessorPil', 'torchvision': 'OwlViTImageProcessor'}(модель OwlViTConfig) - paddleocr_vl —
{'pil': 'PaddleOCRVLImageProcessorPil', 'torchvision': 'PaddleOCRVLImageProcessor'}(модель PaddleOCRVLConfig) - paligemma —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(модель PaliGemmaConfig) - perceiver —
{'pil': 'PerceiverImageProcessorPil', 'torchvision': 'PerceiverImageProcessor'}(модель PerceiverConfig) - perception_lm —
{'torchvision': 'PerceptionLMImageProcessor'}(модель PerceptionLMConfig) - phi4_multimodal —
{'torchvision': 'Phi4MultimodalImageProcessor'}(модель Phi4MultimodalConfig) - pi0 —
{'torchvision': 'PI0ImageProcessor'}(модель PI0Config) - pix2struct —
{'pil': 'Pix2StructImageProcessorPil', 'torchvision': 'Pix2StructImageProcessor'}(модель Pix2StructConfig) - pixio —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(модель PixioConfig) - pixtral —
{'pil': 'PixtralImageProcessorPil', 'torchvision': 'PixtralImageProcessor'}(модель PixtralVisionConfig) - poolformer —
{'pil': 'PoolFormerImageProcessorPil', 'torchvision': 'PoolFormerImageProcessor'}(модель PoolFormerConfig) - pp_chart2table —
{'pil': 'PPChart2TableImageProcessorPil', 'torchvision': 'PPChart2TableImageProcessor'}(модель PPChart2TableConfig) - pp_doclayout_v2 —
{'torchvision': 'PPDocLayoutV2ImageProcessor'}(модель PPDocLayoutV2Config) - pp_doclayout_v3 —
{'torchvision': 'PPDocLayoutV3ImageProcessor'}(модель PPDocLayoutV3Config) - pp_doclayout_v4 —
{'torchvision': 'PPDocLayoutV4ImageProcessor'}(модель PPDocLayoutV4Config) - pp_formulanet —
{'torchvision': 'PPFormulaNetImageProcessor'}(модель PPFormulaNetConfig) - pp_lcnet —
{'torchvision': 'PPLCNetImageProcessor'}(модель PPLCNetConfig) - pp_ocrv5_mobile_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(модель PPOCRV5MobileDetConfig) - pp_ocrv5_mobile_rec —
{'torchvision': 'PPOCRV5ServerRecImageProcessor'}(модель PPOCRV5MobileRecConfig) - pp_ocrv5_server_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(модель PPOCRV5ServerDetConfig) - pp_ocrv5_server_rec —
{'torchvision': 'PPOCRV5ServerRecImageProcessor'}(модель PPOCRV5ServerRecConfig) - pp_ocrv6_medium_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(модель PPOCRV6MediumDetConfig) - pp_ocrv6_small_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(модель PPOCRV6SmallDetConfig) - pp_ocrv6_small_rec —
{'torchvision': 'PPOCRV6SmallRecImageProcessor'}(модель PPOCRV6SmallRecConfig) - pp_ocrv6_tiny_rec —
{'torchvision': 'PPOCRV6SmallRecImageProcessor'}(модель PPOCRV6TinyRecConfig) - prompt_depth_anything —
{'pil': 'PromptDepthAnythingImageProcessorPil', 'torchvision': 'PromptDepthAnythingImageProcessor'}(модель PromptDepthAnythingConfig) - pvt —
{'pil': 'PvtImageProcessorPil', 'torchvision': 'PvtImageProcessor'}(модель PvtConfig) - pvt_v2 —
{'torchvision': 'PvtImageProcessor', 'pil': 'PvtImageProcessorPil'}(модель PvtV2Config) - qianfan_ocr —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(модель QianfanOCRConfig) - qwen2_5_omni —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen2_5OmniConfig) - qwen2_5_vl —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen2_5_VLConfig) - qwen2_vl —
{'pil': 'Qwen2VLImageProcessorPil', 'torchvision': 'Qwen2VLImageProcessor'}(модель Qwen2VLConfig) - qwen3_5 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen3_5Config) - qwen3_5_moe —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen3_5MoeConfig) - qwen3_omni_moe —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen3OmniMoeConfig) - qwen3_vl —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen3VLConfig) - qwen4_exp —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(модель Qwen4ExpConfig) - regnet —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(модель RegNetConfig) - resnet —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(модель ResNetConfig) - rf_detr —
{'torchvision': 'RfDetrImageProcessor'}(модель RfDetrConfig) - rt_detr —
{'pil': 'RTDetrImageProcessorPil', 'torchvision': 'RTDetrImageProcessor'}(модель RTDetrConfig) - sam —
{'pil': 'SamImageProcessorPil', 'torchvision': 'SamImageProcessor'}(модель SamConfig) - sam2 —
{'torchvision': 'Sam2ImageProcessor'}(модель Sam2Config) - sam2_video —
{'torchvision': 'Sam2ImageProcessor'}(модель Sam2VideoConfig) - sam3 —
{'torchvision': 'Sam3ImageProcessor'}(модель Sam3Config) - sam3_lite_text —
{'torchvision': 'Sam3ImageProcessor'}(модель Sam3LiteTextConfig) - sam3_tracker —
{'torchvision': 'Sam3ImageProcessor'}(модель Sam3TrackerConfig) - sam3_tracker_video —
{'torchvision': 'Sam3ImageProcessor'}(модель Sam3TrackerVideoConfig) - sam3_video —
{'torchvision': 'Sam3ImageProcessor'}(модель Sam3VideoConfig) - sam_hq —
{'torchvision': 'SamImageProcessor', 'pil': 'SamImageProcessorPil'}(модель SamHQConfig) - sapiens2 —
{'torchvision': 'Sapiens2ImageProcessor'}(модель Sapiens2Config) - segformer —
{'pil': 'SegformerImageProcessorPil', 'torchvision': 'SegformerImageProcessor'}(модель SegformerConfig) - seggpt —
{'pil': 'SegGptImageProcessorPil', 'torchvision': 'SegGptImageProcessor'}(модель SegGptConfig) - shieldgemma2 —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(модель ShieldGemma2Config) - siglip —
{'pil': 'SiglipImageProcessorPil', 'torchvision': 'SiglipImageProcessor'}(модель SiglipConfig) - siglip2 —
{'pil': 'Siglip2ImageProcessorPil', 'torchvision': 'Siglip2ImageProcessor'}(модель Siglip2Config) - slanet —
{'torchvision': 'SLANeXtImageProcessor'}(модель SLANetConfig) - slanext —
{'torchvision': 'SLANeXtImageProcessor'}(модель SLANeXtConfig) - smolvlm —
{'pil': 'SmolVLMImageProcessorPil', 'torchvision': 'SmolVLMImageProcessor'}(модель SmolVLMConfig) - step3p7 —
{'torchvision': 'Step3p7ImageProcessor'}(модель Step3p7Config) - superglue —
{'pil': 'SuperGlueImageProcessorPil', 'torchvision': 'SuperGlueImageProcessor'}(модель SuperGlueConfig) - superpoint —
{'pil': 'SuperPointImageProcessorPil', 'torchvision': 'SuperPointImageProcessor'}(модель SuperPointConfig) - swiftformer —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель SwiftFormerConfig) - swin —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель SwinConfig) - swin2sr —
{'pil': 'Swin2SRImageProcessorPil', 'torchvision': 'Swin2SRImageProcessor'}(модель Swin2SRConfig) - swinv2 —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель Swinv2Config) - t5gemma2 —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(модель T5Gemma2Config) - t5gemma2_encoder —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(модель T5Gemma2EncoderConfig) - table-transformer —
{'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'}(модель TableTransformerConfig) - textnet —
{'pil': 'TextNetImageProcessorPil', 'torchvision': 'TextNetImageProcessor'}(модель TextNetConfig) - timesformer —
{'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'}(модель TimesformerConfig) - timm_wrapper —
{'pil': 'TimmWrapperImageProcessor'}(модель TimmWrapperConfig) - tipsv2 —
{'torchvision': 'Tipsv2ImageProcessor'}(модель Tipsv2Config) - tipsv2_dpt —
{'torchvision': 'Tipsv2DptImageProcessor'}(модель Tipsv2DptConfig) - trocr —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель TrOCRConfig) - tvp —
{'pil': 'TvpImageProcessorPil', 'torchvision': 'TvpImageProcessor'}(модель TvpConfig) - udop —
{'torchvision': 'LayoutLMv3ImageProcessor', 'pil': 'LayoutLMv3ImageProcessorPil'}(модель UdopConfig) - ultravbert —
{'torchvision': 'UltraVBertImageProcessor'}(модель UltraVBertConfig) - unlimited_ocr —
{'torchvision': 'UnlimitedOcrImageProcessor'}(модель UnlimitedOcrConfig) - upernet —
{'torchvision': 'SegformerImageProcessor', 'pil': 'SegformerImageProcessorPil'}(модель UperNetConfig) - uvdoc —
{'torchvision': 'UVDocImageProcessor'}(модель UVDocConfig) - video_llama_3 —
{'pil': 'VideoLlama3ImageProcessorPil', 'torchvision': 'VideoLlama3ImageProcessor'}(модель VideoLlama3Config) - video_llava —
{'pil': 'VideoLlavaImageProcessor'}(модель VideoLlavaConfig) - videomae —
{'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'}(модель VideoMAEConfig) - vilt —
{'pil': 'ViltImageProcessorPil', 'torchvision': 'ViltImageProcessor'}(модель ViltConfig) - vipllava —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель VipLlavaConfig) - vit —
{'pil': 'ViTImageProcessorPil', 'torchvision': 'ViTImageProcessor'}(модель ViTConfig) - vit_mae —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель ViTMAEConfig) - vit_msn —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(модель ViTMSNConfig) - vitmatte —
{'pil': 'VitMatteImageProcessorPil', 'torchvision': 'VitMatteImageProcessor'}(модель VitMatteConfig) - vitpose —
{'pil': 'VitPoseImageProcessorPil', 'torchvision': 'VitPoseImageProcessor'}(модель VitPoseConfig) - vivit —
{'torchvision': 'VivitImageProcessor'}(модель VivitConfig) - xclip —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(модель XCLIPConfig) - yolos —
{'pil': 'YolosImageProcessorPil', 'torchvision': 'YolosImageProcessor'}(модель YolosConfig) - zoedepth —
{'pil': 'ZoeDepthImageProcessorPil', 'torchvision': 'ZoeDepthImageProcessor'}(модель ZoeDepthConfig)
Передача
token=Trueобязательна, если вы хотите использовать частную модель.
Примеры:
>>> from transformers import AutoImageProcessor
>>> # Download image processor from huggingface.co and cache.
>>> image_processor = AutoImageProcessor.from_pretrained("google/vit-base-patch16-224-in21k")
>>> # If image processor files are in a directory (e.g. image processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # image_processor = AutoImageProcessor.from_pretrained("./test/saved_model/")register
< source >( config_classslow_image_processor_class: type | None = Nonefast_image_processor_class: type | None = Noneimage_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )
Параметры
- config_class (PreTrainedConfig) — Конфигурация, соответствующая модели, которую нужно зарегистрировать.
- slow_image_processor_class (
type, необязательный) — Класс обработчика изображений с бэкендом PIL (устаревший, используйтеimage_processor_classes={"pil": ...}). - fast_image_processor_class (
type, необязательный) — Класс процессора изображений для бэкенда Torchvision (устаревший, используйтеimage_processor_classes={"torchvision": ...}). - image_processor_classes (
dict[str, type], необязательный) — Словарь, сопоставляющий имена бэкендов с классами процессоров изображений. Позволяет регистрировать пользовательские бэкенды. Пример:{"pil": MyPilProcessor, "torchvision": MyTorchvisionProcessor, "custom": MyCustomProcessor} - exist_ok (
bool, необязательный, по умолчаниюFalse) — ЕслиTrue, разрешает перезаписывать существующие регистрации.
Зарегистрируйте новый обработчик изображений для этого класса.
AutoVideoProcessor
См. Бэкенды видеопроцессора для выбора бэкенда, пользовательской регистрации, а также сохранения и повторной загрузки.
Это универсальный класс видеопроцессора, который при создании с помощью метода класса AutoVideoProcessor.from_pretrained() будет инстанцирован как один из классов видеопроцессоров библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Это может быть:- строка, model id предобученного video_processor, размещённого в репозитории модели на huggingface.co.
- путь к каталогу, содержащему файл видео-процессора, сохранённый с помощью метода
save_pretrained(), например,
./my_model_directory/. - путь к сохранённому JSON-файлу видео-процессора, например,
./my_model_directory/preprocessor_config.json.
- cache_dir (
stroros.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженный предобученный видеопроцессор модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Указывает, следует ли принудительно (пере)загружать файлы видео-процессора и заменять кэшированные версии, если они уже существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Прокси применяются при каждом запросе. - token (
strили bool, необязательный) — Токен, используемый в качестве HTTP bearer-авторизации для удалённых файлов. ЕслиTrue, будет использован токен, сгенерированный при выполненииhf auth login(хранится в~/.huggingface). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - return_unused_kwargs (
bool, необязательный, по умолчаниюFalse) — ЕслиFalse, функция возвращает только итоговый объект видеопроцессора. ЕслиTrue, функция возвращаетTuple(video_processor, unused_kwargs), где unused_kwargs — это словарь, содержащий пары ключ/значение, ключи которых не являются атрибутами видеопроцессора, то есть та частьkwargs, которая не была использована для обновленияvideo_processorи в остальном игнорируется. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - kwargs (
dict[str, Any], необязательный) — Значения в kwargs для любых ключей, являющихся атрибутами видео-процессора, используются для переопределения загруженных значений. Поведение в отношении пар ключ/значение, ключи которых не являются атрибутами видео-процессора, контролируется параметромreturn_unused_kwargs.
Создайте экземпляр одного из классов видео-процессоров библиотеки на основе словаря предобученной модели.
Класс видеопроцессора, который будет создан, выбирается на основе свойства model_type объекта конфигурации
(передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его
отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- cohere_compass —
{'torchvision': 'CohereCompassVideoProcessor'}(модель CohereCompassConfig) - cosmos3_edge —
{'torchvision': 'Cosmos3EdgeVideoProcessor'}(модель Cosmos3EdgeConfig) - cosmos3_omni —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Cosmos3OmniConfig) - embedding_gemma2 —
{'torchvision': 'EmbeddingGemma2VideoProcessor'}(модель EmbeddingGemma2Config) - ernie4_5_vl_moe —
{'torchvision': 'Ernie4_5_VLMoeVideoProcessor'}(модель Ernie4_5_VLMoeConfig) - exaone4_5 —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель Exaone4_5_Config) - gemma4 —
{'torchvision': 'Gemma4VideoProcessor'}(модель Gemma4Config) - gemma4_unified —
{'torchvision': 'Gemma4UnifiedVideoProcessor'}(модель Gemma4UnifiedConfig) - glm46v —
{'torchvision': 'Glm46VVideoProcessor'}(модель Glm46VConfig) - glm4v —
{'torchvision': 'Glm4vVideoProcessor'}(модель Glm4vConfig) - glm5_next —
{'torchvision': 'Glm5NextVideoProcessor'}(модель Glm5NextConfig) - glmga —
{'torchvision': 'GlmgaVideoProcessor'}(модель GlmgaConfig) - hyperclovax_vision_v2 —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель HyperCLOVAXVisionV2Config) - instructblip —
{'torchvision': 'InstructBlipVideoVideoProcessor'}(модель InstructBlipConfig) - instructblipvideo —
{'torchvision': 'InstructBlipVideoVideoProcessor'}(модель InstructBlipVideoConfig) - internvl —
{'torchvision': 'InternVLVideoProcessor'}(модель InternVLConfig) - kimi_k25 —
{'torchvision': 'Kimi_K25VideoProcessor'}(модель Kimi_K25Config) - llava_next_video —
{'torchvision': 'LlavaNextVideoVideoProcessor'}(модель LlavaNextVideoConfig) - llava_onevision —
{'torchvision': 'LlavaOnevisionVideoProcessor'}(модель LlavaOnevisionConfig) - minicpm_ocr —
{'torchvision': 'MiniCPMOcrVideoProcessor'}(модель MiniCPMOcrConfig) - minicpmv4_6 —
{'torchvision': 'MiniCPMV4_6VideoProcessor'}(модель MiniCPMV4_6Config) - minicpmv4_7 —
{'torchvision': 'MiniCPMV4_6VideoProcessor'}(модель MiniCPMV4_7Config) - minimax_m3_vl —
{'torchvision': 'MiniMaxM3VLVideoProcessor'}(модель MiniMaxM3VLConfig) - molmo2 —
{'torchvision': 'Molmo2VideoProcessor'}(модель Molmo2Config) - muse_glimmer —
{'torchvision': 'MuseGlimmerVideoProcessor'}(модель MuseGlimmerConfig) - muse_spark —
{'torchvision': 'MuseGlimmerVideoProcessor'}(модель MuseSparkConfig) - nemotron_h_omni —
{'torchvision': 'NemotronH_Omni_Reasoning_V3VideoProcessor'}(модель NemotronH_Omni_Reasoning_V3_Config) - pe_audio_video —
{'torchvision': 'PeVideoVideoProcessor'}(модель PeAudioVideoConfig) - pe_video —
{'torchvision': 'PeVideoVideoProcessor'}(модель PeVideoConfig) - perception_lm —
{'torchvision': 'PerceptionLMVideoProcessor'}(модель PerceptionLMConfig) - qwen2_5_omni —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель Qwen2_5OmniConfig) - qwen2_5_vl —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель Qwen2_5_VLConfig) - qwen2_vl —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель Qwen2VLConfig) - qwen3_5 —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Qwen3_5Config) - qwen3_5_moe —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Qwen3_5MoeConfig) - qwen3_omni_moe —
{'torchvision': 'Qwen2VLVideoProcessor'}(модель Qwen3OmniMoeConfig) - qwen3_vl —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Qwen3VLConfig) - qwen3_vl_moe —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Qwen3VLMoeConfig) - qwen4_exp —
{'torchvision': 'Qwen3VLVideoProcessor'}(модель Qwen4ExpConfig) - sam2_video —
{'torchvision': 'Sam2VideoVideoProcessor'}(модель Sam2VideoConfig) - smolvlm —
{'torchvision': 'SmolVLMVideoProcessor'}(модель SmolVLMConfig) - timesformer —
{'torchvision': 'TimesformerVideoProcessor'}(модель TimesformerConfig) - video_llama_3 —
{'torchvision': 'VideoLlama3VideoProcessor'}(модель VideoLlama3Config) - video_llava —
{'torchvision': 'VideoLlavaVideoProcessor'}(модель VideoLlavaConfig) - videomae —
{'torchvision': 'VideoMAEVideoProcessor'}(модель VideoMAEConfig) - videomt —
{'torchvision': 'VideomtVideoProcessor'}(модель VideomtConfig) - videoprism —
{'torchvision': 'LlavaOnevisionVideoProcessor'}(модель VideoPrismConfig) - vivit —
{'torchvision': 'VivitVideoProcessor'}(модель VivitConfig) - vjepa2 —
{'torchvision': 'VJEPA2VideoProcessor'}(модель VJEPA2Config)
Передача
token=Trueобязательна, если вы хотите использовать частную модель.
Примеры:
>>> from transformers import AutoVideoProcessor
>>> # Download video processor from huggingface.co and cache.
>>> video_processor = AutoVideoProcessor.from_pretrained("llava-hf/llava-onevision-qwen2-0.5b-ov-hf")
>>> # If video processor files are in a directory (e.g. video processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # video_processor = AutoVideoProcessor.from_pretrained("./test/saved_model/")register
< source >( config_classvideo_processor_class: type | None = Nonevideo_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )
Параметры
- config_class (PreTrainedConfig) — Конфигурация, соответствующая модели, которую нужно зарегистрировать.
- video_processor_class (BaseVideoProcessor) — Класс видео-процессора, который нужно зарегистрировать.
- video_processor_classes (
dict[str, type], необязательный) — Словарь, сопоставляющий имена бэкендов с классами процессоров видео. Позволяет регистрировать пользовательские бэкенды. Пример:{"pil": MyPilVideoProcessor, "torchvision": MyTorchvisionVideoProcessor, "custom": MyCustomVideoProcessor} - exist_ok (
bool, необязательный, по умолчаниюFalse) — ЕслиTrue, разрешает перезаписывать существующие регистрации.
Зарегистрируйте новый видео-процессор для этого класса.
AutoProcessor
Это универсальный класс процессора, который при создании с помощью метода класса AutoProcessor.from_pretrained() будет инстанцирован как один из классов процессоров библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_pretrained
< source >( pretrained_model_name_or_path**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Это может быть:- строка, model id предобученного feature_extractor, размещенного в репозитории модели на huggingface.co.
- путь к каталогу, содержащему файлы процессора, сохранённые с помощью метода
save_pretrained(), например,./my_model_directory/.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженный предобученный экстрактор признаков модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать файлы экстрактора признаков и заменять кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Прокси применяются при каждом запросе. - token (
strили bool, необязательный) — Токен, используемый в качестве HTTP bearer-авторизации для удалённых файлов. ЕслиTrue, будет использован токен, сгенерированный при выполненииhf auth login(хранится в~/.huggingface). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - return_unused_kwargs (
bool, необязательный, по умолчаниюFalse) — ЕслиFalse, функция возвращает только итоговый объект feature extractor. ЕслиTrue, функция возвращаетTuple(feature_extractor, unused_kwargs), где unused_kwargs — это словарь, содержащий пары ключ/значение, ключи которых не являются атрибутами feature extractor, то есть та частьkwargs, которая не была использована для обновленияfeature_extractorи в остальном игнорируется. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - kwargs (
dict[str, Any], необязательный) — Значения в kwargs для любых ключей, являющихся атрибутами feature extractor, будут использоваться для переопределения загруженных значений. Поведение в отношении пар ключ/значение, ключи которых не являются атрибутами feature extractor, контролируется параметромreturn_unused_kwargs.
Создайте экземпляр одного из классов процессоров библиотеки на основе словаря предобученной модели.
Класс процессора, который будет создан, выбирается на основе свойства model_type объекта конфигурации (переданного в качестве аргумента или загруженного из pretrained_model_name_or_path, если это возможно):
- aimv2 — CLIPProcessor (модель Aimv2Config)
- align — AlignProcessor (модель AlignConfig)
- altclip — AltCLIPProcessor (модель AltCLIPConfig)
- aria — AriaProcessor (модель AriaConfig)
- audioflamingo3 — AudioFlamingo3Processor (модель AudioFlamingo3Config)
- aya_vision — AyaVisionProcessor (модель AyaVisionConfig)
- bark — BarkProcessor (модель BarkConfig)
- blip — BlipProcessor (модель BlipConfig)
- blip-2 — Blip2Processor (модель Blip2Config)
- bridgetower — BridgeTowerProcessor (модель BridgeTowerConfig)
- bros — BrosProcessor (модель BrosConfig)
- canary — CanaryProcessor (модель CanaryConfig)
- chameleon — ChameleonProcessor (модель ChameleonConfig)
- chinese_clip — ChineseCLIPProcessor (модель ChineseCLIPConfig)
- clap — ClapProcessor (модель ClapConfig)
- clip — CLIPProcessor (модель CLIPConfig)
- clipseg — CLIPSegProcessor (модель CLIPSegConfig)
- clvp — ClvpProcessor (модель ClvpConfig)
- cohere2_vision — Cohere2VisionProcessor (модель Cohere2VisionConfig)
- cohere_asr — CohereAsrProcessor (модель CohereAsrConfig)
- cohere_compass — CohereCompassProcessor (модель CohereCompassConfig)
- colmodernvbert — ColModernVBertProcessor (модель ColModernVBertConfig)
- colpali — ColPaliProcessor (модель ColPaliConfig)
- colqwen2 — ColQwen2Processor (модель ColQwen2Config)
- cosmos3_edge — Cosmos3EdgeProcessor (модель Cosmos3EdgeConfig)
- csm — CsmProcessor (модель CsmConfig)
- deepseek_ocr2 — DeepseekOcr2Processor (модель DeepseekOcr2Config)
- deepseek_vl — DeepseekVLProcessor (модель DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridProcessor (модель DeepseekVLHybridConfig)
- dia — DiaProcessor (модель DiaConfig)
- diffusion_gemma — Gemma4Processor (модель DiffusionGemmaConfig)
- edgetam — Sam2Processor (модель EdgeTamConfig)
- embedding_gemma2 — EmbeddingGemma2Processor (модель EmbeddingGemma2Config)
- emu3 — Emu3Processor (модель Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeProcessor (модель Ernie4_5_VLMoeConfig)
- evolla — EvollaProcessor (модель EvollaConfig)
- exaone4_5 — Exaone4_5_Processor (модель Exaone4_5_Config)
- flava — FlavaProcessor (модель FlavaConfig)
- florence2 — Florence2Processor (модель Florence2Config)
- fun_asr_nano — FunAsrNanoProcessor (модель FunAsrNanoConfig)
- fuyu — FuyuProcessor (модель FuyuConfig)
- gemma3 — Gemma3Processor (модель Gemma3Config)
- gemma3n — Gemma3nProcessor (модель Gemma3nConfig)
- gemma4 — Gemma4Processor (модель Gemma4Config)
- gemma4_unified — Gemma4UnifiedProcessor (модель Gemma4UnifiedConfig)
- git — GitProcessor (модель GitConfig)
- glm46v — Glm46VProcessor (модель Glm46VConfig)
- glm4v — Glm4vProcessor (модель Glm4vConfig)
- glm4v_moe — Glm4vProcessor (модель Glm4vMoeConfig)
- glm5_next — Glm5NextProcessor (модель Glm5NextConfig)
- glm_image — GlmImageProcessor (модель GlmImageConfig)
- glmasr — GlmAsrProcessor (модель GlmAsrConfig)
- got_ocr2 — GotOcr2Processor (модель GotOcr2Config)
- gradium_phonon_tts — PocketTTSProcessor (модель GradiumPhononTTSConfig)
- granite4_vision — Granite4VisionProcessor (модель Granite4VisionConfig)
- granite_speech — GraniteSpeechProcessor (модель GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5Processor (модель GraniteSpeech5CTCConfig)
- granite_speech_plus — GraniteSpeechProcessor (модель GraniteSpeechPlusConfig)
- grounding-dino — GroundingDinoProcessor (модель GroundingDinoConfig)
- groupvit — CLIPProcessor (модель GroupViTConfig)
- higgs_audio_v2 — HiggsAudioV2Processor (модель HiggsAudioV2Config)
- hubert — Wav2Vec2Processor (модель HubertConfig)
- hunyuan_vl — HunYuanVLProcessor (модель HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Processor (модель HyperCLOVAXVisionV2Config)
- idefics — IdeficsProcessor (модель IdeficsConfig)
- idefics2 — Idefics2Processor (модель Idefics2Config)
- idefics3 — Idefics3Processor (модель Idefics3Config)
- inkling_mm_model — InklingProcessor (модель InklingConfig)
- instructblip — InstructBlipProcessor (модель InstructBlipConfig)
- instructblipvideo — InstructBlipVideoProcessor (модель InstructBlipVideoConfig)
- internvl — InternVLProcessor (модель InternVLConfig)
- janus — JanusProcessor (модель JanusConfig)
- kimi_k25 — Kimi_K25Processor (модель Kimi_K25Config)
- kyutai_speech_to_text — KyutaiSpeechToTextProcessor (модель KyutaiSpeechToTextConfig)
- lasr_ctc — LasrProcessor (модель LasrCTCConfig)
- lasr_encoder — LasrProcessor (модель LasrEncoderConfig)
- layoutlmv2 — LayoutLMv2Processor (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Processor (модель LayoutLMv3Config)
- layoutxlm — LayoutXLMProcessor (модель LayoutXLMConfig)
- lfm2_vl — Lfm2VlProcessor (модель Lfm2VlConfig)
- lighton_ocr — LightOnOcrProcessor (модель LightOnOcrConfig)
- llama4 — Llama4Processor (модель Llama4Config)
- llava — LlavaProcessor (модель LlavaConfig)
- llava_next — LlavaNextProcessor (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoProcessor (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionProcessor (модель LlavaOnevisionConfig)
- markuplm — MarkupLMProcessor (модель MarkupLMConfig)
- metaclip_2 — CLIPProcessor (модель MetaClip2Config)
- mgp-str — MgpstrProcessor (модель MgpstrConfig)
- minicpm_ocr — MiniCPMOcrProcessor (модель MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6Processor (модель MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7Processor (модель MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3VLProcessor (модель MiniMaxM3VLConfig)
- mistral3 — PixtralProcessor (модель Mistral3Config)
- mistral_large4 — PixtralProcessor (модель MistralLarge4Config)
- mllama — MllamaProcessor (модель MllamaConfig)
- mm-grounding-dino — GroundingDinoProcessor (модель MMGroundingDinoConfig)
- modernvbert — Idefics3Processor (модель ModernVBertConfig)
- molmo2 — Molmo2Processor (модель Molmo2Config)
- moonshine — Wav2Vec2Processor (модель MoonshineConfig)
- moonshine_streaming — MoonshineStreamingProcessor (модель MoonshineStreamingConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeProcessor (модель MossTranscribeDiarizeConfig)
- muse_glimmer — MuseGlimmerProcessor (модель MuseGlimmerConfig)
- muse_spark — MuseSparkProcessor (модель MuseSparkConfig)
- musicflamingo — MusicFlamingoProcessor (модель MusicFlamingoConfig)
- musicgen — MusicgenProcessor (модель MusicgenConfig)
- musicgen_melody — MusicgenMelodyProcessor (модель MusicgenMelodyConfig)
- nemo_speechlm — Nemotron3_5TranscribeProcessor (модель Nemotron3_5TranscribeConfig)
- nemotron3_5_asr — Nemotron3_5AsrProcessor (модель Nemotron3_5AsrConfig)
- nemotron3_diarization — Nemotron3DiarizationProcessor (модель Nemotron3DiarizationConfig)
- nemotron_asr_streaming — NemotronAsrStreamingProcessor (модель NemotronAsrStreamingConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3Processor (модель NemotronH_Omni_Reasoning_V3_Config)
- neomme — NeoMMEProcessor (модель NeoMMEConfig)
- nougat — NougatProcessor (модель NougatConfig)
- omdet-turbo — OmDetTurboProcessor (модель OmDetTurboConfig)
- oneformer — OneFormerProcessor (модель OneFormerConfig)
- ovis2 — Ovis2Processor (модель Ovis2Config)
- owlv2 — Owlv2Processor (модель Owlv2Config)
- owlvit — OwlViTProcessor (модель OwlViTConfig)
- paddleocr_vl — PaddleOCRVLProcessor (модель PaddleOCRVLConfig)
- paligemma — PaliGemmaProcessor (модель PaliGemmaConfig)
- parakeet_ctc — ParakeetProcessor (модель ParakeetCTCConfig)
- parakeet_rnnt — ParakeetProcessor (модель ParakeetRNNTConfig)
- parakeet_tdt — ParakeetProcessor (модель ParakeetTDTConfig)
- pe_audio — PeAudioProcessor (модель PeAudioConfig)
- pe_audio_video — PeAudioVideoProcessor (модель PeAudioVideoConfig)
- pe_video — PeVideoProcessor (модель PeVideoConfig)
- perception_lm — PerceptionLMProcessor (модель PerceptionLMConfig)
- phi4_multimodal — Phi4MultimodalProcessor (модель Phi4MultimodalConfig)
- pi0 — PI0Processor (модель PI0Config)
- pix2struct — Pix2StructProcessor (модель Pix2StructConfig)
- pixtral — PixtralProcessor (модель PixtralVisionConfig)
- pocket_tts — PocketTTSProcessor (модель PocketTTSConfig)
- pop2piano — Pop2PianoProcessor (модель Pop2PianoConfig)
- pp_chart2table — PPChart2TableProcessor (модель PPChart2TableConfig)
- pp_formulanet — PPFormulaNetProcessor (модель PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRProcessor (модель QianfanOCRConfig)
- qwen2_5_omni — Qwen2_5OmniProcessor (модель Qwen2_5OmniConfig)
- qwen2_5_vl — Qwen2_5_VLProcessor (модель Qwen2_5_VLConfig)
- qwen2_audio — Qwen2AudioProcessor (модель Qwen2AudioConfig)
- qwen2_vl — Qwen2VLProcessor (модель Qwen2VLConfig)
- qwen3_5 — Qwen3VLProcessor (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3VLProcessor (модель Qwen3_5MoeConfig)
- qwen3_asr — Qwen3ASRProcessor (модель Qwen3ASRConfig)
- qwen3_omni_moe — Qwen3OmniMoeProcessor (модель Qwen3OmniMoeConfig)
- qwen3_vl — Qwen3VLProcessor (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLProcessor (модель Qwen3VLMoeConfig)
- qwen4_exp — Qwen3VLProcessor (модель Qwen4ExpConfig)
- sam — SamProcessor (модель SamConfig)
- sam2 — Sam2Processor (модель Sam2Config)
- sam2_video — Sam2VideoProcessor (модель Sam2VideoConfig)
- sam3 — Sam3Processor (модель Sam3Config)
- sam3_lite_text — Sam3Processor (модель Sam3LiteTextConfig)
- sam3_tracker — Sam3TrackerProcessor (модель Sam3TrackerConfig)
- sam3_tracker_video — Sam3TrackerVideoProcessor (модель Sam3TrackerVideoConfig)
- sam3_video — Sam3VideoProcessor (модель Sam3VideoConfig)
- sam_hq — SamHQProcessor (модель SamHQConfig)
- seamless_m4t — SeamlessM4TProcessor (модель SeamlessM4TConfig)
- sew — Wav2Vec2Processor (модель SEWConfig)
- sew-d — Wav2Vec2Processor (модель SEWDConfig)
- siglip — SiglipProcessor (модель SiglipConfig)
- siglip2 — Siglip2Processor (модель Siglip2Config)
- smolvlm — SmolVLMProcessor (модель SmolVLMConfig)
- speech_to_text — Speech2TextProcessor (модель Speech2TextConfig)
- speecht5 — SpeechT5Processor (модель SpeechT5Config)
- step3p7 — Step3p7Processor (модель Step3p7Config)
- t5gemma2 — Gemma3Processor (модель T5Gemma2Config)
- t5gemma2_encoder — Gemma3Processor (модель T5Gemma2EncoderConfig)
- tipsv2 — Tipsv2Processor (модель Tipsv2Config)
- trocr — TrOCRProcessor (модель TrOCRConfig)
- tvp — TvpProcessor (модель TvpConfig)
- udop — UdopProcessor (модель UdopConfig)
- ultravbert — Idefics3Processor (модель UltraVBertConfig)
- unispeech — Wav2Vec2Processor (модель UniSpeechConfig)
- unispeech-sat — Wav2Vec2Processor (модель UniSpeechSatConfig)
- unlimited_ocr — UnlimitedOcrProcessor (модель UnlimitedOcrConfig)
- vibevoice — VibeVoiceProcessor (модель VibeVoiceConfig)
- vibevoice_asr — VibeVoiceAsrProcessor (модель VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3Processor (модель VideoLlama3Config)
- video_llava — VideoLlavaProcessor (модель VideoLlavaConfig)
- videoprism — VideoPrismProcessor (модель VideoPrismConfig)
- vilt — ViltProcessor (модель ViltConfig)
- vipllava — LlavaProcessor (модель VipLlavaConfig)
- vision-text-dual-encoder — VisionTextDualEncoderProcessor (модель VisionTextDualEncoderConfig)
- voxtral — VoxtralProcessor (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeProcessor (модель VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2Processor (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertProcessor (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2Processor (модель Wav2Vec2ConformerConfig)
- wavlm — Wav2Vec2Processor (модель WavLMConfig)
- whisper — WhisperProcessor (модель WhisperConfig)
Передача
token=Trueобязательна, если вы хотите использовать частную модель.
Примеры:
>>> from transformers import AutoProcessor
>>> # Download processor from huggingface.co and cache.
>>> processor = AutoProcessor.from_pretrained("facebook/wav2vec2-base-960h")
>>> # If processor files are in a directory (e.g. processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # processor = AutoProcessor.from_pretrained("./test/saved_model/")register
< source >( config_classprocessor_classexist_ok = False )
Параметры
- config_class (PreTrainedConfig) — Конфигурация, соответствующая модели, которую нужно зарегистрировать.
- processor_class (ProcessorMixin) — процессор для регистрации.
Зарегистрируйте новый процессор для этого класса.
Универсальные классы моделей
Для создания базового класса модели без конкретного слоя-головки доступны следующие автоклассы:
AutoModel
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из базовых классов моделей библиотеки.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации ASTConfig: ASTModel (модель ASTConfig)
- Класс конфигурации AXK1Config: AXK1Model (модель AXK1Config)
- Класс конфигурации AXK2Config: AXK2Model (модель AXK2Config)
- Класс конфигурации AfmoeConfig: AfmoeModel (модель AfmoeConfig)
- Класс конфигурации Aimv2Config: Aimv2Model (модель Aimv2Config)
- Класс конфигурации Aimv2VisionConfig: Aimv2VisionModel (модель Aimv2VisionConfig)
- Класс конфигурации AlbertConfig: AlbertModel (модель AlbertConfig)
- Класс конфигурации AlignConfig: AlignModel (модель AlignConfig)
- Класс конфигурации AltCLIPConfig: AltCLIPModel (модель AltCLIPConfig)
- Класс конфигурации ApertusConfig: ApertusModel (модель ApertusConfig)
- Класс конфигурации ArceeConfig: ArceeModel (модель ArceeConfig)
- Класс конфигурации AriaConfig: AriaModel (модель AriaConfig)
- Класс конфигурации AriaTextConfig: AriaTextModel (модель AriaTextConfig)
- Класс конфигурации AudioFlamingo3Config: AudioFlamingo3Model (модель AudioFlamingo3Config)
- Класс конфигурации AudioFlamingo3EncoderConfig: AudioFlamingo3Encoder (модель AudioFlamingo3EncoderConfig)
- Класс конфигурации AutoformerConfig: AutoformerModel (модель AutoformerConfig)
- Класс конфигурации AyaVisionConfig: AyaVisionModel (модель AyaVisionConfig)
- Класс конфигурации BailingHybridConfig: BailingHybridModel (модель BailingHybridConfig)
- Класс конфигурации BambaConfig: BambaModel (модель BambaConfig)
- Класс конфигурации BarkConfig: BarkModel (модель BarkConfig)
- Класс конфигурации BartConfig: BartModel (модель BartConfig)
- Класс конфигурации BeamConfig: BeamModel (модель BeamConfig)
- Класс конфигурации BeitConfig: BeitModel (модель BeitConfig)
- Класс конфигурации BertConfig: BertModel (модель BertConfig)
- Класс конфигурации BertGenerationConfig: BertGenerationEncoder (модель BertGenerationConfig)
- Класс конфигурации BigBirdConfig: BigBirdModel (модель BigBirdConfig)
- Класс конфигурации BigBirdPegasusConfig: BigBirdPegasusModel (модель BigBirdPegasusConfig)
- Класс конфигурации BioGptConfig: BioGptModel (модель BioGptConfig)
- Класс конфигурации BitConfig: BitModel (модель BitConfig)
- Класс конфигурации BitNetConfig: BitNetModel (модель BitNetConfig)
- Класс конфигурации BlenderbotConfig: BlenderbotModel (модель BlenderbotConfig)
- Класс конфигурации BlenderbotSmallConfig: BlenderbotSmallModel (модель BlenderbotSmallConfig)
- Класс конфигурации Blip2Config: Blip2Model (модель Blip2Config)
- Класс конфигурации Blip2QFormerConfig: Blip2QFormerModel (модель Blip2QFormerConfig)
- Класс конфигурации BlipConfig: BlipModel (модель BlipConfig)
- Класс конфигурации BloomConfig: BloomModel (модель BloomConfig)
- Класс конфигурации BltConfig: BltModel (модель BltConfig)
- Класс конфигурации BridgeTowerConfig: BridgeTowerModel (модель BridgeTowerConfig)
- Класс конфигурации BrosConfig: BrosModel (модель BrosConfig)
- Класс конфигурации CLIPConfig: CLIPModel (модель CLIPConfig)
- Класс конфигурации CLIPSegConfig: CLIPSegModel (модель CLIPSegConfig)
- Класс конфигурации CLIPTextConfig: CLIPTextModel (модель CLIPTextConfig)
- Класс конфигурации CLIPVisionConfig: CLIPVisionModel (модель CLIPVisionConfig)
- Класс конфигурации CTRLConfig: CTRLModel (модель CTRLConfig)
- Класс конфигурации CamembertConfig: CamembertModel (модель CamembertConfig)
- Класс конфигурации CanaryConfig: CanaryModel (модель CanaryConfig)
- Класс конфигурации CanineConfig: CanineModel (модель CanineConfig)
- Класс конфигурации ChameleonConfig: ChameleonModel (модель ChameleonConfig)
- Класс конфигурации ChineseCLIPConfig: ChineseCLIPModel (модель ChineseCLIPConfig)
- Класс конфигурации ChineseCLIPVisionConfig: ChineseCLIPVisionModel (модель ChineseCLIPVisionConfig)
- Класс конфигурации ClapConfig: ClapModel (модель ClapConfig)
- Класс конфигурации ClvpConfig: ClvpModelForConditionalGeneration (модель ClvpConfig)
- Класс конфигурации CodeGenConfig: CodeGenModel (модель CodeGenConfig)
- Класс конфигурации Cohere2Config: Cohere2Model (модель Cohere2Config)
- Класс конфигурации Cohere2MoeConfig: Cohere2MoeModel (модель Cohere2MoeConfig)
- Класс конфигурации Cohere2VisionConfig: Cohere2VisionModel (модель Cohere2VisionConfig)
- Класс конфигурации CohereAsrConfig: CohereAsrModel (модель CohereAsrConfig)
- Класс конфигурации CohereCompassConfig: CohereCompassModel (модель CohereCompassConfig)
- Класс конфигурации CohereCompassTextConfig: CohereCompassTextModel (модель CohereCompassTextConfig)
- Класс конфигурации CohereCompassVisionConfig: CohereCompassVisionModel (модель CohereCompassVisionConfig)
- Класс конфигурации CohereConfig: CohereModel (модель CohereConfig)
- Класс конфигурации ConditionalDetrConfig: ConditionalDetrModel (модель ConditionalDetrConfig)
- Класс конфигурации ConvBertConfig: ConvBertModel (модель ConvBertConfig)
- Класс конфигурации ConvNextConfig: ConvNextModel (модель ConvNextConfig)
- Класс конфигурации ConvNextV2Config: ConvNextV2Model (модель ConvNextV2Config)
- Класс конфигурации Cosmos3EdgeConfig: Cosmos3EdgeModel (модель Cosmos3EdgeConfig)
- Класс конфигурации Cosmos3EdgeTextConfig: Cosmos3EdgeTextModel (модель Cosmos3EdgeTextConfig)
- Класс конфигурации Cosmos3EdgeVisionConfig: Cosmos3EdgeVisionModel (модель Cosmos3EdgeVisionConfig)
- Класс конфигурации Cosmos3OmniConfig: Cosmos3OmniModel (модель Cosmos3OmniConfig)
- Класс конфигурации CpmAntConfig: CpmAntModel (модель CpmAntConfig)
- Класс конфигурации CsmConfig: CsmForConditionalGeneration (модель CsmConfig)
- Класс конфигурации CvtConfig: CvtModel (модель CvtConfig)
- Класс конфигурации CwmConfig: CwmModel (модель CwmConfig)
- Класс конфигурации DFineConfig: DFineModel (модель DFineConfig)
- Класс конфигурации DINOv3ConvNextConfig: DINOv3ConvNextModel (модель DINOv3ConvNextConfig)
- Класс конфигурации DINOv3ViTConfig: DINOv3ViTModel (модель DINOv3ViTConfig)
- Класс конфигурации DPRConfig: DPRQuestionEncoder (модель DPRConfig)
- Класс конфигурации DPTConfig: DPTModel (модель DPTConfig)
- Класс конфигурации DabDetrConfig: DabDetrModel (модель DabDetrConfig)
- Класс конфигурации DacConfig: DacModel (модель DacConfig)
- Класс конфигурации Data2VecAudioConfig: Data2VecAudioModel (модель Data2VecAudioConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextModel (модель Data2VecTextConfig)
- Класс конфигурации Data2VecVisionConfig: Data2VecVisionModel (модель Data2VecVisionConfig)
- Класс конфигурации DbrxConfig: DbrxModel (модель DbrxConfig)
- Класс конфигурации DebertaConfig: DebertaModel (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2Model (модель DebertaV2Config)
- Класс конфигурации DecisionTransformerConfig: DecisionTransformerModel (модель DecisionTransformerConfig)
- Класс конфигурации DeepseekOcr2Config: DeepseekOcr2Model (модель DeepseekOcr2Config)
- Класс конфигурации DeepseekV2Config: DeepseekV2Model (модель DeepseekV2Config)
- Класс конфигурации DeepseekV32Config: DeepseekV32Model (модель DeepseekV32Config)
- Класс конфигурации DeepseekV3Config: DeepseekV3Model (модель DeepseekV3Config)
- Класс конфигурации DeepseekV4Config: DeepseekV4Model (модель DeepseekV4Config)
- Класс конфигурации DeepseekVLConfig: DeepseekVLModel (модель DeepseekVLConfig)
- Класс конфигурации DeepseekVLHybridConfig: DeepseekVLHybridModel (модель DeepseekVLHybridConfig)
- Класс конфигурации DeformableDetrConfig: DeformableDetrModel (модель DeformableDetrConfig)
- Класс конфигурации DeiTConfig: DeiTModel (модель DeiTConfig)
- Класс конфигурации Deimv2Config: Deimv2Model (модель Deimv2Config)
- Класс конфигурации DepthProConfig: DepthProModel (модель DepthProConfig)
- Класс конфигурации DetrConfig: DetrModel (модель DetrConfig)
- Класс конфигурации DiaConfig: DiaModel (модель DiaConfig)
- Класс конфигурации DiffLlamaConfig: DiffLlamaModel (модель DiffLlamaConfig)
- Класс конфигурации DiffusionGemmaConfig: DiffusionGemmaModel (модель DiffusionGemmaConfig)
- Класс конфигурации DinatConfig: DinatModel (модель DinatConfig)
- Класс конфигурации Dinov2Config: Dinov2Model (модель Dinov2Config)
- Класс конфигурации Dinov2WithRegistersConfig: Dinov2WithRegistersModel (модель Dinov2WithRegistersConfig)
- Класс конфигурации DistilBertConfig: DistilBertModel (модель DistilBertConfig)
- Класс конфигурации DogeConfig: DogeModel (модель DogeConfig)
- Класс конфигурации DonutSwinConfig: DonutSwinModel (модель DonutSwinConfig)
- Класс конфигурации Dots1Config: Dots1Model (модель Dots1Config)
- Класс конфигурации EdgeTamConfig: EdgeTamModel (модель EdgeTamConfig)
- Класс конфигурации EdgeTamVideoConfig: EdgeTamVideoModel (модель EdgeTamVideoConfig)
- Класс конфигурации EdgeTamVisionConfig: EdgeTamVisionModel (модель EdgeTamVisionConfig)
- Класс конфигурации EfficientLoFTRConfig: EfficientLoFTRModel (модель EfficientLoFTRConfig)
- Класс конфигурации EfficientNetConfig: EfficientNetModel (модель EfficientNetConfig)
- Класс конфигурации ElectraConfig: ElectraModel (модель ElectraConfig)
- Класс конфигурации EmbeddingGemma2Config: EmbeddingGemma2Model (модель EmbeddingGemma2Config)
- Класс конфигурации EmbeddingGemma2TextConfig: EmbeddingGemma2TextModel (модель EmbeddingGemma2TextConfig)
- Класс конфигурации Emu3Config: Emu3Model (модель Emu3Config)
- Класс конфигурации EncodecConfig: EncodecModel (модель EncodecConfig)
- Класс конфигурации Ernie4_5Config: Ernie4_5Model (модель Ernie4_5Config)
- Класс конфигурации Ernie4_5_MoeConfig: Ernie4_5_MoeModel (модель Ernie4_5_MoeConfig)
- Класс конфигурации Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeModel (модель Ernie4_5_VLMoeConfig)
- Класс конфигурации ErnieConfig: ErnieModel (модель ErnieConfig)
- Класс конфигурации EsmConfig: EsmModel (модель EsmConfig)
- Класс конфигурации EsmcConfig: EsmcModel (модель EsmcConfig)
- Класс конфигурации EuroBertConfig: EuroBertModel (модель EuroBertConfig)
- Класс конфигурации EvollaConfig: EvollaModel (модель EvollaConfig)
- Класс конфигурации Exaone4Config: Exaone4Model (модель Exaone4Config)
- Класс конфигурации Exaone4_5_Config: Exaone4_5_Model (модель Exaone4_5_Config)
- Класс конфигурации Exaone4_5_VisionConfig: Exaone4_5_VisionModel (модель Exaone4_5_VisionConfig)
- Класс конфигурации ExaoneMoeConfig: ExaoneMoeModel (модель ExaoneMoeConfig)
- Класс конфигурации FNetConfig: FNetModel (модель FNetConfig)
- Класс конфигурации FSMTConfig: FSMTModel (модель FSMTConfig)
- Класс конфигурации FalconConfig: FalconModel (модель FalconConfig)
- Класс конфигурации FalconH1Config: FalconH1Model (модель FalconH1Config)
- Класс конфигурации FalconMambaConfig: FalconMambaModel (модель FalconMambaConfig)
- Класс конфигурации FastSpeech2ConformerConfig: FastSpeech2ConformerModel (модель FastSpeech2ConformerConfig)
- Класс конфигурации FastSpeech2ConformerWithHifiGanConfig: FastSpeech2ConformerWithHifiGan (модель FastSpeech2ConformerWithHifiGanConfig)
- Класс конфигурации FastVlmConfig: FastVlmModel (модель FastVlmConfig)
- Класс конфигурации FlaubertConfig: FlaubertModel (модель FlaubertConfig)
- Класс конфигурации FlavaConfig: FlavaModel (модель FlavaConfig)
- Класс конфигурации FlexOlmoConfig: FlexOlmoModel (модель FlexOlmoConfig)
- Класс конфигурации FlintConfig: FlintModel (модель FlintConfig)
- Класс конфигурации Florence2Config: Florence2Model (модель Florence2Config)
- Класс конфигурации FocalNetConfig: FocalNetModel (модель FocalNetConfig)
- Класс конфигурации FunAsrNanoConfig: FunAsrNanoModel (модель FunAsrNanoConfig)
- Класс конфигурации FunAsrNanoEncoderConfig: FunAsrNanoEncoder (модель FunAsrNanoEncoderConfig)
- Класс конфигурации FunnelConfig: FunnelModel или FunnelBaseModel (модель FunnelConfig)
- Класс конфигурации FuyuConfig: FuyuModel (модель FuyuConfig)
- Класс конфигурации GLPNConfig: GLPNModel (модель GLPNConfig)
- Класс конфигурации GPT2Config: GPT2Model (модель GPT2Config)
- Класс конфигурации GPTBigCodeConfig: GPTBigCodeModel (модель GPTBigCodeConfig)
- Класс конфигурации GPTJConfig: GPTJModel (модель GPTJConfig)
- Класс конфигурации GPTNeoConfig: GPTNeoModel (модель GPTNeoConfig)
- Класс конфигурации GPTNeoXConfig: GPTNeoXModel (модель GPTNeoXConfig)
- Класс конфигурации GPTNeoXJapaneseConfig: GPTNeoXJapaneseModel (модель GPTNeoXJapaneseConfig)
- Класс конфигурации Gemma2Config: Gemma2Model (модель Gemma2Config)
- Класс конфигурации Gemma3Config: Gemma3Model (модель Gemma3Config)
- Класс конфигурации Gemma3TextConfig: Gemma3TextModel (модель Gemma3TextConfig)
- Класс конфигурации Gemma3nAudioConfig:
Gemma3nAudioEncoder(модель Gemma3nAudioConfig) - Класс конфигурации Gemma3nConfig: Gemma3nModel (модель Gemma3nConfig)
- Класс конфигурации Gemma3nTextConfig: Gemma3nTextModel (модель Gemma3nTextConfig)
- Класс конфигурации Gemma3nVisionConfig: TimmWrapperModel (модель Gemma3nVisionConfig)
- Класс конфигурации Gemma4AudioConfig: Gemma4AudioModel (модель Gemma4AudioConfig)
- Класс конфигурации Gemma4Config: Gemma4Model (модель Gemma4Config)
- Класс конфигурации Gemma4TextConfig: Gemma4TextModel (модель Gemma4TextConfig)
- Класс конфигурации Gemma4UnifiedConfig: Gemma4UnifiedModel (модель Gemma4UnifiedConfig)
- Класс конфигурации Gemma4UnifiedTextConfig: Gemma4UnifiedTextModel (модель Gemma4UnifiedTextConfig)
- Класс конфигурации Gemma4VisionConfig: Gemma4VisionModel (модель Gemma4VisionConfig)
- Класс конфигурации GemmaConfig: GemmaModel (модель GemmaConfig)
- Класс конфигурации GitConfig: GitModel (модель GitConfig)
- Класс конфигурации Glm46VConfig: Glm46VModel (модель Glm46VConfig)
- Класс конфигурации Glm4Config: Glm4Model (модель Glm4Config)
- Класс конфигурации Glm4MoeConfig: Glm4MoeModel (модель Glm4MoeConfig)
- Класс конфигурации Glm4MoeLiteConfig: Glm4MoeLiteModel (модель Glm4MoeLiteConfig)
- Класс конфигурации Glm4vConfig: Glm4vModel (модель Glm4vConfig)
- Класс конфигурации Glm4vMoeConfig: Glm4vMoeModel (модель Glm4vMoeConfig)
- Класс конфигурации Glm4vMoeTextConfig: Glm4vMoeTextModel (модель Glm4vMoeTextConfig)
- Класс конфигурации Glm4vMoeVisionConfig: Glm4vMoeVisionModel (модель Glm4vMoeVisionConfig)
- Класс конфигурации Glm4vTextConfig: Glm4vTextModel (модель Glm4vTextConfig)
- Класс конфигурации Glm4vVisionConfig: Glm4vVisionModel (модель Glm4vVisionConfig)
- Класс конфигурации Glm5NextConfig: Glm5NextModel (модель Glm5NextConfig)
- Класс конфигурации Glm5NextTextConfig: Glm5NextTextModel (модель Glm5NextTextConfig)
- Класс конфигурации Glm5NextVisionConfig: Glm5NextVisionModel (модель Glm5NextVisionConfig)
- Класс конфигурации GlmAsrConfig: GlmAsrModel (модель GlmAsrConfig)
- Класс конфигурации GlmAsrEncoderConfig: GlmAsrEncoder (модель GlmAsrEncoderConfig)
- Класс конфигурации GlmConfig: GlmModel (модель GlmConfig)
- Класс конфигурации GlmImageConfig: GlmImageModel (модель GlmImageConfig)
- Класс конфигурации GlmImageTextConfig: GlmImageTextModel (модель GlmImageTextConfig)
- Класс конфигурации GlmImageVQVAEConfig: GlmImageVQVAE (модель GlmImageVQVAEConfig)
- Класс конфигурации GlmImageVisionConfig: GlmImageVisionModel (модель GlmImageVisionConfig)
- Класс конфигурации GlmMoeDsaConfig: GlmMoeDsaModel (модель GlmMoeDsaConfig)
- Класс конфигурации GlmOcrConfig: GlmOcrModel (модель GlmOcrConfig)
- Класс конфигурации GlmOcrTextConfig: GlmOcrTextModel (модель GlmOcrTextConfig)
- Класс конфигурации GlmOcrVisionConfig: GlmOcrVisionModel (модель GlmOcrVisionConfig)
- Класс конфигурации GlmgaConfig: Glm46VModel (модель GlmgaConfig)
- Класс конфигурации GotOcr2Config: GotOcr2Model (модель GotOcr2Config)
- Класс конфигурации GptOssConfig: GptOssModel (модель GptOssConfig)
- Класс конфигурации GradiumPhononTTSConfig: GradiumPhononTTSModel (модель GradiumPhononTTSConfig)
- Класс конфигурации Granite4VisionConfig: Granite4VisionModel (модель Granite4VisionConfig)
- Класс конфигурации GraniteConfig: GraniteModel (модель GraniteConfig)
- Класс конфигурации GraniteMoeConfig: GraniteMoeModel (модель GraniteMoeConfig)
- Класс конфигурации GraniteMoeHybridConfig: GraniteMoeHybridModel (модель GraniteMoeHybridConfig)
- Класс конфигурации GraniteMoeSWAConfig: GraniteMoeSWAModel (модель GraniteMoeSWAConfig)
- Класс конфигурации GraniteMoeSharedConfig: GraniteMoeSharedModel (модель GraniteMoeSharedConfig)
- Класс конфигурации GraniteSWAConfig: GraniteSWAModel (модель GraniteSWAConfig)
- Класс конфигурации GraniteSpeech5CTCConfig: GraniteSpeech5ForCTC (модель GraniteSpeech5CTCConfig)
- Класс конфигурации GraniteSpeech5EncoderConfig: GraniteSpeech5Encoder (модель GraniteSpeech5EncoderConfig)
- Класс конфигурации GraniteSpeechConfig: GraniteSpeechModel (модель GraniteSpeechConfig)
- Класс конфигурации GraniteSpeechPlusConfig: GraniteSpeechPlusModel (модель GraniteSpeechPlusConfig)
- Класс конфигурации GroundingDinoConfig: GroundingDinoModel (модель GroundingDinoConfig)
- Класс конфигурации GroupViTConfig: GroupViTModel (модель GroupViTConfig)
- Класс конфигурации GteConfig: GteModel (модель GteConfig)
- Класс конфигурации HGNetV2Config: HGNetV2Backbone (модель HGNetV2Config)
- Класс конфигурации HYV3Config: HYV3Model (модель HYV3Config)
- Класс конфигурации HYV4Config: HYV4Model (модель HYV4Config)
- Класс конфигурации HeliumConfig: HeliumModel (модель HeliumConfig)
- Класс конфигурации HieraConfig: HieraModel (модель HieraConfig)
- Класс конфигурации HiggsAudioV2Config: HiggsAudioV2ForConditionalGeneration (модель HiggsAudioV2Config)
- Класс конфигурации HiggsAudioV2TokenizerConfig: HiggsAudioV2TokenizerModel (модель HiggsAudioV2TokenizerConfig)
- Класс конфигурации HrmTextConfig: HrmTextModel (модель HrmTextConfig)
- Класс конфигурации HubertConfig: HubertModel (модель HubertConfig)
- Класс конфигурации HunYuanDenseV1Config: HunYuanDenseV1Model (модель HunYuanDenseV1Config)
- Класс конфигурации HunYuanMoEV1Config: HunYuanMoEV1Model (модель HunYuanMoEV1Config)
- Класс конфигурации HunYuanVLConfig: HunYuanVLModel (модель HunYuanVLConfig)
- Класс конфигурации HunYuanVLTextConfig: HunYuanVLTextModel (модель HunYuanVLTextConfig)
- Класс конфигурации HunYuanVLVisionConfig: HunYuanVLVisionTransformer (модель HunYuanVLVisionConfig)
- Класс конфигурации HyperCLOVAXConfig: HyperCLOVAXModel (модель HyperCLOVAXConfig)
- Класс конфигурации HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2Model (модель HyperCLOVAXVisionV2Config)
- Класс конфигурации IBertConfig: IBertModel (модель IBertConfig)
- Класс конфигурации IJepaConfig: IJepaModel (модель IJepaConfig)
- Класс конфигурации Idefics2Config: Idefics2Model (модель Idefics2Config)
- Класс конфигурации Idefics3Config: Idefics3Model (модель Idefics3Config)
- Класс конфигурации Idefics3VisionConfig: Idefics3VisionTransformer (модель Idefics3VisionConfig)
- Класс конфигурации IdeficsConfig: IdeficsModel (модель IdeficsConfig)
- Класс конфигурации ImageGPTConfig: ImageGPTModel (модель ImageGPTConfig)
- Класс конфигурации InformerConfig: InformerModel (модель InformerConfig)
- Класс конфигурации InklingConfig: InklingModel (модель InklingConfig)
- Класс конфигурации InklingTextConfig: InklingTextModel (модель InklingTextConfig)
- Класс конфигурации InstructBlipConfig: InstructBlipModel (модель InstructBlipConfig)
- Класс конфигурации InstructBlipVideoConfig: InstructBlipVideoModel (модель InstructBlipVideoConfig)
- Класс конфигурации InternVLConfig: InternVLModel (модель InternVLConfig)
- Класс конфигурации InternVLVisionConfig: InternVLVisionModel (модель InternVLVisionConfig)
- Класс конфигурации Jais2Config: Jais2Model (модель Jais2Config)
- Класс конфигурации JambaConfig: JambaModel (модель JambaConfig)
- Класс конфигурации JanusConfig: JanusModel (модель JanusConfig)
- Класс конфигурации JetMoeConfig: JetMoeModel (модель JetMoeConfig)
- Класс конфигурации JinaEmbeddingsV3Config: JinaEmbeddingsV3Model (модель JinaEmbeddingsV3Config)
- Класс конфигурации KimiLinearConfig: KimiLinearModel (модель KimiLinearConfig)
- Класс конфигурации Kimi_K25Config: Kimi_K25Model (модель Kimi_K25Config)
- Класс конфигурации Kimi_K25VisionConfig: Kimi_K25VisionModel (модель Kimi_K25VisionConfig)
- Класс конфигурации Kolibri1Config: Kolibri1Model (модель Kolibri1Config)
- Класс конфигурации Kosmos2Config: Kosmos2Model (модель Kosmos2Config)
- Класс конфигурации Kosmos2_5Config: Kosmos2_5Model (модель Kosmos2_5Config)
- Класс конфигурации KyutaiSpeechToTextConfig: KyutaiSpeechToTextModel (модель KyutaiSpeechToTextConfig)
- Класс конфигурации LEDConfig: LEDModel (модель LEDConfig)
- Класс конфигурации LagunaConfig: LagunaModel (модель LagunaConfig)
- Класс конфигурации LasrCTCConfig: LasrForCTC (модель LasrCTCConfig)
- Класс конфигурации LasrEncoderConfig: LasrEncoder (модель LasrEncoderConfig)
- Класс конфигурации LayoutLMConfig: LayoutLMModel (модель LayoutLMConfig)
- Класс конфигурации LayoutLMv2Config: LayoutLMv2Model (модель LayoutLMv2Config)
- Класс конфигурации LayoutLMv3Config: LayoutLMv3Model (модель LayoutLMv3Config)
- Класс конфигурации LevitConfig: LevitModel (модель LevitConfig)
- Класс конфигурации Lfm2Config: Lfm2Model (модель Lfm2Config)
- Класс конфигурации Lfm2MoeConfig: Lfm2MoeModel (модель Lfm2MoeConfig)
- Класс конфигурации Lfm2VlConfig: Lfm2VlModel (модель Lfm2VlConfig)
- Класс конфигурации LightGlueConfig: LightGlueForKeypointMatching (модель LightGlueConfig)
- Класс конфигурации LightOnOcrConfig: LightOnOcrModel (модель LightOnOcrConfig)
- Класс конфигурации LiltConfig: LiltModel (модель LiltConfig)
- Класс конфигурации Llama4Config: Llama4ForConditionalGeneration (модель Llama4Config)
- Класс конфигурации Llama4TextConfig: Llama4TextModel (модель Llama4TextConfig)
- Класс конфигурации LlamaConfig: LlamaModel (модель LlamaConfig)
- Класс конфигурации LlavaConfig: LlavaModel (модель LlavaConfig)
- Класс конфигурации LlavaNextConfig: LlavaNextModel (модель LlavaNextConfig)
- Класс конфигурации LlavaNextVideoConfig: LlavaNextVideoModel (модель LlavaNextVideoConfig)
- Класс конфигурации LlavaOnevisionConfig: LlavaOnevisionModel (модель LlavaOnevisionConfig)
- Класс конфигурации LongT5Config: LongT5Model (модель LongT5Config)
- Класс конфигурации LongcatFlashConfig: LongcatFlashModel (модель LongcatFlashConfig)
- Класс конфигурации LongformerConfig: LongformerModel (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeModel (модель LukeConfig)
- Класс конфигурации LwDetrConfig: LwDetrModel (модель LwDetrConfig)
- Класс конфигурации LxmertConfig: LxmertModel (модель LxmertConfig)
- Класс конфигурации M2M100Config: M2M100Model (модель M2M100Config)
- Класс конфигурации MBartConfig: MBartModel (модель MBartConfig)
- Класс конфигурации MLCDVisionConfig: MLCDVisionModel (модель MLCDVisionConfig)
- Класс конфигурации MMGroundingDinoConfig: MMGroundingDinoModel (модель MMGroundingDinoConfig)
- Класс конфигурации MPNetConfig: MPNetModel (модель MPNetConfig)
- Класс конфигурации MT5Config: MT5Model (модель MT5Config)
- Класс конфигурации Mamba2Config: Mamba2Model (модель Mamba2Config)
- Класс конфигурации MambaConfig: MambaModel (модель MambaConfig)
- Класс конфигурации MarianConfig: MarianModel (модель MarianConfig)
- Класс конфигурации MarkupLMConfig: MarkupLMModel (модель MarkupLMConfig)
- Класс конфигурации Mask2FormerConfig: Mask2FormerModel (модель Mask2FormerConfig)
- Класс конфигурации MaskFormerConfig: MaskFormerModel (модель MaskFormerConfig)
MaskFormerSwinConfig— класс конфигурации:MaskFormerSwinModel(модель MaskFormerSwinConfig)- Класс конфигурации MegatronBertConfig: MegatronBertModel (модель MegatronBertConfig)
- Класс конфигурации MellumConfig: MellumModel (модель MellumConfig)
- Класс конфигурации MetaClip2Config: MetaClip2Model (модель MetaClip2Config)
- Класс конфигурации MgpstrConfig: MgpstrForSceneTextRecognition (модель MgpstrConfig)
- Класс конфигурации MiMoV2FlashConfig: MiMoV2FlashModel (модель MiMoV2FlashConfig)
- Класс конфигурации MimiConfig: MimiModel (модель MimiConfig)
- Класс конфигурации MimiDecoderConfig: MimiDecoderModel (модель MimiDecoderConfig)
- Класс конфигурации MimiEncoderConfig: MimiEncoderModel (модель MimiEncoderConfig)
- Класс конфигурации MiniCPM3Config: MiniCPM3Model (модель MiniCPM3Config)
- Класс конфигурации MiniCPMOcrConfig: MiniCPMOcrModel (модель MiniCPMOcrConfig)
- Класс конфигурации MiniCPMOcrVisionConfig: MiniCPMOcrVisionModel (модель MiniCPMOcrVisionConfig)
- Класс конфигурации MiniCPMV4_6Config: MiniCPMV4_6Model (модель MiniCPMV4_6Config)
- Класс конфигурации MiniCPMV4_7Config: MiniCPMV4_7Model (модель MiniCPMV4_7Config)
- Класс конфигурации MiniCPMV4_7VisionConfig: MiniCPMV4_7VisionModel (модель MiniCPMV4_7VisionConfig)
- Класс конфигурации MiniMaxConfig: MiniMaxModel (модель MiniMaxConfig)
- Класс конфигурации MiniMaxM2Config: MiniMaxM2Model (модель MiniMaxM2Config)
- Класс конфигурации MiniMaxM3VLConfig: MiniMaxM3VLModel (модель MiniMaxM3VLConfig)
- Класс конфигурации MiniMaxM3VLTextConfig: MiniMaxM3VLTextModel (модель MiniMaxM3VLTextConfig)
- Класс конфигурации Ministral3Config: Ministral3Model (модель Ministral3Config)
- Класс конфигурации MinistralConfig: MinistralModel (модель MinistralConfig)
- Класс конфигурации Mistral3Config: Mistral3Model (модель Mistral3Config)
- Класс конфигурации Mistral4Config: Mistral4Model (модель Mistral4Config)
- Класс конфигурации MistralConfig: MistralModel (модель MistralConfig)
- Класс конфигурации MistralLarge4Config: MistralLarge4Model (модель MistralLarge4Config)
- Класс конфигурации MistralLarge4TextConfig: MistralLarge4TextModel (модель MistralLarge4TextConfig)
- Класс конфигурации MixtralConfig: MixtralModel (модель MixtralConfig)
- Класс конфигурации MllamaConfig: MllamaModel (модель MllamaConfig)
- Класс конфигурации MobileBertConfig: MobileBertModel (модель MobileBertConfig)
- Класс конфигурации MobileNetV1Config: MobileNetV1Model (модель MobileNetV1Config)
- Класс конфигурации MobileNetV2Config: MobileNetV2Model (модель MobileNetV2Config)
- Класс конфигурации MobileViTConfig: MobileViTModel (модель MobileViTConfig)
- Класс конфигурации MobileViTV2Config: MobileViTV2Model (модель MobileViTV2Config)
- Класс конфигурации ModernBertConfig: ModernBertModel (модель ModernBertConfig)
- Класс конфигурации ModernBertDecoderConfig: ModernBertDecoderModel (модель ModernBertDecoderConfig)
- Класс конфигурации ModernVBertConfig: ModernVBertModel (модель ModernVBertConfig)
- Класс конфигурации Molmo2Config: Molmo2Model (модель Molmo2Config)
- Класс конфигурации Molmo2TextConfig: Molmo2TextModel (модель Molmo2TextConfig)
- Класс конфигурации MoonshineConfig: MoonshineModel (модель MoonshineConfig)
- Класс конфигурации MoonshineStreamingConfig: MoonshineStreamingModel (модель MoonshineStreamingConfig)
- Класс конфигурации MoshiConfig: MoshiModel (модель MoshiConfig)
- Класс конфигурации MossTranscribeDiarizeAudioConfig: MossTranscribeDiarizeAudioModel (модель MossTranscribeDiarizeAudioConfig)
- Класс конфигурации MossTranscribeDiarizeConfig: MossTranscribeDiarizeModel (модель MossTranscribeDiarizeConfig)
- Класс конфигурации MptConfig: MptModel (модель MptConfig)
- Класс конфигурации MraConfig: MraModel (модель MraConfig)
- Класс конфигурации MuseGlimmerAssistantConfig: MuseGlimmerAssistantModel (модель MuseGlimmerAssistantConfig)
- Класс конфигурации MuseGlimmerConfig: MuseGlimmerModel (модель MuseGlimmerConfig)
- Класс конфигурации MuseGlimmerTextConfig: MuseGlimmerTextModel (модель MuseGlimmerTextConfig)
- Класс конфигурации MuseGlimmerVisionConfig: MuseGlimmerVisionModel (модель MuseGlimmerVisionConfig)
- Класс конфигурации MuseSparkAudioConfig: MuseSparkAudioModel (модель MuseSparkAudioConfig)
- Класс конфигурации MuseSparkConfig: MuseSparkModel (модель MuseSparkConfig)
- Класс конфигурации MuseSparkTextConfig: MuseSparkTextModel (модель MuseSparkTextConfig)
- Класс конфигурации MuseSparkVisionConfig: MuseSparkVisionModel (модель MuseSparkVisionConfig)
- Класс конфигурации MusicFlamingoConfig: MusicFlamingoModel (модель MusicFlamingoConfig)
- Класс конфигурации MusicgenConfig: MusicgenModel (модель MusicgenConfig)
- Класс конфигурации MusicgenMelodyConfig: MusicgenMelodyModel (модель MusicgenMelodyConfig)
- Класс конфигурации MvpConfig: MvpModel (модель MvpConfig)
- Класс конфигурации NanoChatConfig: NanoChatModel (модель NanoChatConfig)
- Класс конфигурации Nemotron3DiarizationAudioConfig: Nemotron3DiarizationAudioModel (модель Nemotron3DiarizationAudioConfig)
- Класс конфигурации Nemotron3DiarizationConfig: Nemotron3DiarizationModel (модель Nemotron3DiarizationConfig)
- Класс конфигурации Nemotron3_5AsrConfig: Nemotron3_5AsrForRNNT (модель Nemotron3_5AsrConfig)
- Класс конфигурации Nemotron3_5TranscribeAsrAudioConfig: Nemotron3_5TranscribeAsrAudioModel (модель Nemotron3_5TranscribeAsrAudioConfig)
- Класс конфигурации Nemotron3_5TranscribeAudioConfig: Nemotron3_5TranscribeAudioModel (модель Nemotron3_5TranscribeAudioConfig)
- Класс конфигурации Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeModel (модель Nemotron3_5TranscribeConfig)
- Класс конфигурации Nemotron3_5TranscribeWordTimestampConfig: Nemotron3_5TranscribeWordTimestampModel (модель Nemotron3_5TranscribeWordTimestampConfig)
- Класс конфигурации NemotronAsrStreamingConfig: NemotronAsrStreamingForRNNT (модель NemotronAsrStreamingConfig)
- Класс конфигурации NemotronAsrStreamingEncoderConfig: NemotronAsrStreamingEncoder (модель NemotronAsrStreamingEncoderConfig)
- Класс конфигурации NemotronConfig: NemotronModel (модель NemotronConfig)
- Класс конфигурации NemotronHConfig: NemotronHModel (модель NemotronHConfig)
- Класс конфигурации NeoMMEConfig: NeoMMEModel (модель NeoMMEConfig)
- Класс конфигурации NeuCodecConfig: NeuCodecModel (модель NeuCodecConfig)
- Класс конфигурации NllbMoeConfig: NllbMoeModel (модель NllbMoeConfig)
- Класс конфигурации NomicBertConfig: NomicBertModel (модель NomicBertConfig)
- Класс конфигурации NystromformerConfig: NystromformerModel (модель NystromformerConfig)
- Класс конфигурации OPTConfig: OPTModel (модель OPTConfig)
- Класс конфигурации Olmo2Config: Olmo2Model (модель Olmo2Config)
- Класс конфигурации Olmo3Config: Olmo3Model (модель Olmo3Config)
- Класс конфигурации OlmoConfig: OlmoModel (модель OlmoConfig)
- Класс конфигурации OlmoHybridConfig: OlmoHybridModel (модель OlmoHybridConfig)
- Класс конфигурации OlmoeConfig: OlmoeModel (модель OlmoeConfig)
- Класс конфигурации OmDetTurboConfig: OmDetTurboForObjectDetection (модель OmDetTurboConfig)
- Класс конфигурации OneFormerConfig: OneFormerModel (модель OneFormerConfig)
- Класс конфигурации OpenAIGPTConfig: OpenAIGPTModel (модель OpenAIGPTConfig)
- Класс конфигурации OpenAIPrivacyFilterConfig: OpenAIPrivacyFilterModel (модель OpenAIPrivacyFilterConfig)
- Класс конфигурации Ovis2Config: Ovis2Model (модель Ovis2Config)
- Класс конфигурации OwlViTConfig: OwlViTModel (модель OwlViTConfig)
- Класс конфигурации Owlv2Config: Owlv2Model (модель Owlv2Config)
- Класс конфигурации PI0Config: PI0Model (модель PI0Config)
- Класс конфигурации PLBartConfig: PLBartModel (модель PLBartConfig)
- Класс конфигурации PPDocLayoutV3Config: PPDocLayoutV3Model (модель PPDocLayoutV3Config)
- Класс конфигурации PPDocLayoutV4Config: PPDocLayoutV4Model (модель PPDocLayoutV4Config)
- Класс конфигурации PPOCRV5MobileRecConfig: PPOCRV5MobileRecModel (модель PPOCRV5MobileRecConfig)
- Класс конфигурации PPOCRV5ServerRecConfig: PPOCRV5ServerRecModel (модель PPOCRV5ServerRecConfig)
- Класс конфигурации PPOCRV6MediumDetConfig: PPOCRV6MediumDetModel (модель PPOCRV6MediumDetConfig)
- Класс конфигурации PPOCRV6SmallDetConfig: PPOCRV6SmallDetModel (модель PPOCRV6SmallDetConfig)
- Класс конфигурации PPOCRV6SmallRecConfig: PPOCRV6SmallRecModel (модель PPOCRV6SmallRecConfig)
- Класс конфигурации PPOCRV6TinyRecConfig: PPOCRV6TinyRecModel (модель PPOCRV6TinyRecConfig)
- Класс конфигурации PaddleOCRVLConfig: PaddleOCRVLModel (модель PaddleOCRVLConfig)
- Класс конфигурации PaliGemmaConfig: PaliGemmaModel (модель PaliGemmaConfig)
- Класс конфигурации ParakeetCTCConfig: ParakeetForCTC (модель ParakeetCTCConfig)
- Класс конфигурации ParakeetEncoderConfig: ParakeetEncoder (модель ParakeetEncoderConfig)
- Класс конфигурации ParakeetRNNTConfig: ParakeetForRNNT (модель ParakeetRNNTConfig)
- Класс конфигурации ParakeetTDTConfig: ParakeetForTDT (модель ParakeetTDTConfig)
- Класс конфигурации PatchTSMixerConfig: PatchTSMixerModel (модель PatchTSMixerConfig)
- Класс конфигурации PatchTSTConfig: PatchTSTModel (модель PatchTSTConfig)
- Класс конфигурации PeAudioConfig: PeAudioModel (модель PeAudioConfig)
- Класс конфигурации PeAudioEncoderConfig: PeAudioEncoder (модель PeAudioEncoderConfig)
- Класс конфигурации PeAudioVideoConfig: PeAudioVideoModel (модель PeAudioVideoConfig)
- Класс конфигурации PeAudioVideoEncoderConfig: PeAudioVideoEncoder (модель PeAudioVideoEncoderConfig)
- Класс конфигурации PeVideoConfig: PeVideoModel (модель PeVideoConfig)
- Класс конфигурации PeVideoEncoderConfig: PeVideoEncoder (модель PeVideoEncoderConfig)
- Класс конфигурации PegasusConfig: PegasusModel (модель PegasusConfig)
- Класс конфигурации PegasusXConfig: PegasusXModel (модель PegasusXConfig)
- Класс конфигурации PerceiverConfig: PerceiverModel (модель PerceiverConfig)
- Класс конфигурации PerceptionLMConfig: PerceptionLMModel (модель PerceptionLMConfig)
- Класс конфигурации PersimmonConfig: PersimmonModel (модель PersimmonConfig)
- Класс конфигурации Phi3Config: Phi3Model (модель Phi3Config)
- Класс конфигурации Phi4MultimodalConfig: Phi4MultimodalModel (модель Phi4MultimodalConfig)
- Класс конфигурации PhiConfig: PhiModel (модель PhiConfig)
- Класс конфигурации PhimoeConfig: PhimoeModel (модель PhimoeConfig)
- Класс конфигурации PixioConfig: PixioModel (модель PixioConfig)
- Класс конфигурации PixtralVisionConfig: PixtralVisionModel (модель PixtralVisionConfig)
- Класс конфигурации PocketTTSAudioTokenizerConfig: PocketTTSAudioTokenizerModel (модель PocketTTSAudioTokenizerConfig)
- Класс конфигурации PocketTTSAudioTokenizerDecoderConfig: PocketTTSAudioTokenizerDecoderModel (модель PocketTTSAudioTokenizerDecoderConfig)
- Класс конфигурации PocketTTSAudioTokenizerEncoderConfig: PocketTTSAudioTokenizerEncoderModel (модель PocketTTSAudioTokenizerEncoderConfig)
- Класс конфигурации PocketTTSConfig: PocketTTSModel (модель PocketTTSConfig)
- Класс конфигурации PoolFormerConfig: PoolFormerModel (модель PoolFormerConfig)
- Класс конфигурации ProphetNetConfig: ProphetNetModel (модель ProphetNetConfig)
- Класс конфигурации PvtConfig: PvtModel (модель PvtConfig)
- Класс конфигурации PvtV2Config: PvtV2Model (модель PvtV2Config)
- Класс конфигурации QianfanOCRConfig: QianfanOCRModel (модель QianfanOCRConfig)
- Класс конфигурации QianfanOCRVisionConfig: QianfanOCRVisionModel (модель QianfanOCRVisionConfig)
- Класс конфигурации Qwen2AudioConfig: Qwen2AudioModel (модель Qwen2AudioConfig)
- Класс конфигурации Qwen2AudioEncoderConfig: Qwen2AudioEncoder (модель Qwen2AudioEncoderConfig)
- Класс конфигурации Qwen2Config: Qwen2Model (модель Qwen2Config)
- Класс конфигурации Qwen2MoeConfig: Qwen2MoeModel (модель Qwen2MoeConfig)
- Класс конфигурации Qwen2VLConfig: Qwen2VLModel (модель Qwen2VLConfig)
- Класс конфигурации Qwen2VLTextConfig: Qwen2VLTextModel (модель Qwen2VLTextConfig)
- Класс конфигурации Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerModel (модель Qwen2_5OmniThinkerConfig)
- Класс конфигурации Qwen2_5_VLConfig: Qwen2_5_VLModel (модель Qwen2_5_VLConfig)
- Класс конфигурации Qwen2_5_VLTextConfig: Qwen2_5_VLTextModel (модель Qwen2_5_VLTextConfig)
- Класс конфигурации Qwen2_5_VLVisionConfig: Qwen2_5_VisionTransformerPretrainedModel (модель Qwen2_5_VLVisionConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRModel (модель Qwen3ASRConfig)
- Класс конфигурации Qwen3ASREncoderConfig: Qwen3ASREncoder (модель Qwen3ASREncoderConfig)
- Класс конфигурации Qwen3Config: Qwen3Model (модель Qwen3Config)
- Класс конфигурации Qwen3MoeConfig: Qwen3MoeModel (модель Qwen3MoeConfig)
- Класс конфигурации Qwen3NextConfig: Qwen3NextModel (модель Qwen3NextConfig)
- Класс конфигурации Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerModel (модель Qwen3OmniMoeThinkerConfig)
- Класс конфигурации Qwen3VLConfig: Qwen3VLModel (модель Qwen3VLConfig)
- Класс конфигурации Qwen3VLMoeConfig: Qwen3VLMoeModel (модель Qwen3VLMoeConfig)
- Класс конфигурации Qwen3VLMoeTextConfig: Qwen3VLMoeTextModel (модель Qwen3VLMoeTextConfig)
- Класс конфигурации Qwen3VLMoeVisionConfig: Qwen3VLMoeVisionModel (модель Qwen3VLMoeVisionConfig)
- Класс конфигурации Qwen3VLTextConfig: Qwen3VLTextModel (модель Qwen3VLTextConfig)
- Класс конфигурации Qwen3VLVisionConfig: Qwen3VLVisionModel (модель Qwen3VLVisionConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5Model (модель Qwen3_5Config)
- Класс конфигурации Qwen3_5MoeConfig: Qwen3_5MoeModel (модель Qwen3_5MoeConfig)
- Класс конфигурации Qwen3_5MoeTextConfig: Qwen3_5MoeTextModel (модель Qwen3_5MoeTextConfig)
- Класс конфигурации Qwen3_5MoeVisionConfig: Qwen3_5MoeVisionModel (модель Qwen3_5MoeVisionConfig)
- Класс конфигурации Qwen3_5TextConfig: Qwen3_5TextModel (модель Qwen3_5TextConfig)
- Класс конфигурации Qwen3_5VisionConfig: Qwen3_5VisionModel (модель Qwen3_5VisionConfig)
- Класс конфигурации Qwen4ExpConfig: Qwen4ExpModel (модель Qwen4ExpConfig)
- Класс конфигурации Qwen4ExpTextConfig: Qwen4ExpTextModel (модель Qwen4ExpTextConfig)
- Класс конфигурации Qwen4ExpVisionConfig: Qwen4ExpVisionModel (модель Qwen4ExpVisionConfig)
- Класс конфигурации RTDetrConfig: RTDetrModel (модель RTDetrConfig)
- Класс конфигурации RTDetrV2Config: RTDetrV2Model (модель RTDetrV2Config)
- Класс конфигурации RadioConfig: RadioModel (модель RadioConfig)
- Класс конфигурации RecurrentGemmaConfig: RecurrentGemmaModel (модель RecurrentGemmaConfig)
- Класс конфигурации ReformerConfig: ReformerModel (модель ReformerConfig)
- Класс конфигурации RegNetConfig: RegNetModel (модель RegNetConfig)
- Класс конфигурации RemBertConfig: RemBertModel (модель RemBertConfig)
- Класс конфигурации ResNetConfig: ResNetModel (модель ResNetConfig)
- Класс конфигурации RfDetrConfig: RfDetrModel (модель RfDetrConfig)
- Класс конфигурации RoCBertConfig: RoCBertModel (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerModel (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaModel (модель Robe
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormModel (модель RobertaPreLayerNormConfig)
- Класс конфигурации RwkvConfig: RwkvModel (модель RwkvConfig)
- Класс конфигурации SEWConfig: SEWModel (модель SEWConfig)
- Класс конфигурации SEWDConfig: SEWDModel (модель SEWDConfig)
- Класс конфигурации Sam2Config: Sam2Model (модель Sam2Config)
- Класс конфигурации Sam2HieraDetConfig: Sam2HieraDetModel (модель Sam2HieraDetConfig)
- Класс конфигурации Sam2VideoConfig: Sam2VideoModel (модель Sam2VideoConfig)
- Класс конфигурации Sam2VisionConfig: Sam2VisionModel (модель Sam2VisionConfig)
- Класс конфигурации Sam3Config: Sam3Model (модель Sam3Config)
- Класс конфигурации Sam3LiteTextConfig: Sam3LiteTextModel (модель Sam3LiteTextConfig)
- Класс конфигурации Sam3LiteTextTextConfig: Sam3LiteTextTextModel (модель Sam3LiteTextTextConfig)
- Класс конфигурации Sam3TrackerConfig: Sam3TrackerModel (модель Sam3TrackerConfig)
- Класс конфигурации Sam3TrackerVideoConfig: Sam3TrackerVideoModel (модель Sam3TrackerVideoConfig)
- Класс конфигурации Sam3ViTConfig: Sam3ViTModel (модель Sam3ViTConfig)
- Класс конфигурации Sam3VideoConfig: Sam3VideoModel (модель Sam3VideoConfig)
- Класс конфигурации Sam3VisionConfig: Sam3VisionModel (модель Sam3VisionConfig)
- Класс конфигурации SamConfig: SamModel (модель SamConfig)
- Класс конфигурации SamHQConfig: SamHQModel (модель SamHQConfig)
- Класс конфигурации SamHQVisionConfig: SamHQVisionModel (модель SamHQVisionConfig)
- Класс конфигурации SamVisionConfig: SamVisionModel (модель SamVisionConfig)
- Класс конфигурации Sapiens2Config: Sapiens2Model (модель Sapiens2Config)
- Класс конфигурации SeamlessM4TConfig: SeamlessM4TModel (модель SeamlessM4TConfig)
- Класс конфигурации SeamlessM4Tv2Config: SeamlessM4Tv2Model (модель SeamlessM4Tv2Config)
- Класс конфигурации SeedOssConfig: SeedOssModel (модель SeedOssConfig)
- Класс конфигурации SegGptConfig: SegGptModel (модель SegGptConfig)
- Класс конфигурации SegformerConfig: SegformerModel (модель SegformerConfig)
- Класс конфигурации Siglip2Config: Siglip2Model (модель Siglip2Config)
- Класс конфигурации Siglip2VisionConfig: Siglip2VisionModel (модель Siglip2VisionConfig)
- Класс конфигурации SiglipConfig: SiglipModel (модель SiglipConfig)
- Класс конфигурации SiglipVisionConfig: SiglipVisionModel (модель SiglipVisionConfig)
- Класс конфигурации SmolLM3Config: SmolLM3Model (модель SmolLM3Config)
- Класс конфигурации SmolVLMConfig: SmolVLMModel (модель SmolVLMConfig)
- Класс конфигурации SmolVLMVisionConfig: SmolVLMVisionTransformer (модель SmolVLMVisionConfig)
- Класс конфигурации SolarOpenConfig: SolarOpenModel (модель SolarOpenConfig)
- Класс конфигурации Speech2TextConfig: Speech2TextModel (модель Speech2TextConfig)
- Класс конфигурации SpeechT5Config: SpeechT5Model (модель SpeechT5Config)
- Класс конфигурации SplinterConfig: SplinterModel (модель SplinterConfig)
- Класс конфигурации SqueezeBertConfig: SqueezeBertModel (модель SqueezeBertConfig)
- Класс конфигурации StableLmConfig: StableLmModel (модель StableLmConfig)
- Класс конфигурации Starcoder2Config: Starcoder2Model (модель Starcoder2Config)
- Класс конфигурации Step3p7Config: Step3p7Model (модель Step3p7Config)
- Класс конфигурации SwiftFormerConfig: SwiftFormerModel (модель SwiftFormerConfig)
- Класс конфигурации Swin2SRConfig: Swin2SRModel (модель Swin2SRConfig)
- Класс конфигурации SwinConfig: SwinModel (модель SwinConfig)
- Класс конфигурации Swinv2Config: Swinv2Model (модель Swinv2Config)
- Класс конфигурации SwitchTransformersConfig: SwitchTransformersModel (модель SwitchTransformersConfig)
- Класс конфигурации T5Config: T5Model (модель T5Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2Model (модель T5Gemma2Config)
- Класс конфигурации T5Gemma2EncoderConfig:
T5Gemma2Encoder(модель T5Gemma2EncoderConfig) - Класс конфигурации T5GemmaConfig: T5GemmaModel (модель T5GemmaConfig)
- Класс конфигурации TableTransformerConfig: TableTransformerModel (модель TableTransformerConfig)
- Класс конфигурации TapasConfig: TapasModel (модель TapasConfig)
- Класс конфигурации TextNetConfig: TextNetModel (модель TextNetConfig)
- Класс конфигурации TimeSeriesTransformerConfig: TimeSeriesTransformerModel (модель TimeSeriesTransformerConfig)
- Класс конфигурации TimesFm2_5Config: TimesFm2_5Model (модель TimesFm2_5Config)
- Класс конфигурации TimesFmConfig: TimesFmModel (модель TimesFmConfig)
- Класс конфигурации TimesformerConfig: TimesformerModel (модель TimesformerConfig)
- Класс конфигурации TimmBackboneConfig: TimmBackbone (модель TimmBackboneConfig)
- Класс конфигурации TimmWrapperConfig: TimmWrapperModel (модель TimmWrapperConfig)
- Класс конфигурации Tipsv2Config: Tipsv2Model (модель Tipsv2Config)
- Класс конфигурации Tipsv2TextConfig: Tipsv2TextModel (модель Tipsv2TextConfig)
- Класс конфигурации Tipsv2VisionConfig: Tipsv2VisionModel (модель Tipsv2VisionConfig)
- Класс конфигурации TvpConfig: TvpModel (модель TvpConfig)
- Класс конфигурации UMT5Config: UMT5Model (модель UMT5Config)
- Класс конфигурации UVDocConfig: UVDocModel (модель UVDocConfig)
- Класс конфигурации UdopConfig: UdopModel (модель UdopConfig)
- Класс конфигурации UltraVBertConfig: UltraVBertModel (модель UltraVBertConfig)
- Класс конфигурации UltrabertConfig: UltrabertModel (модель UltrabertConfig)
- Класс конфигурации UniSpeechConfig: UniSpeechModel (модель UniSpeechConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatModel (модель UniSpeechSatConfig)
- Класс конфигурации UnivNetConfig: UnivNetModel (модель UnivNetConfig)
- Класс конфигурации UnlimitedOcrConfig: UnlimitedOcrModel (модель UnlimitedOcrConfig)
- Класс конфигурации VJEPA2Config: VJEPA2Model (модель VJEPA2Config)
- Класс конфигурации VaultGemmaConfig: VaultGemmaModel (модель VaultGemmaConfig)
- Класс конфигурации ViTConfig: ViTModel (модель ViTConfig)
- Класс конфигурации ViTMAEConfig: ViTMAEModel (модель ViTMAEConfig)
- Класс конфигурации ViTMSNConfig: ViTMSNModel (модель ViTMSNConfig)
- Класс конфигурации VibeVoiceAcousticTokenizerConfig: VibeVoiceAcousticTokenizerModel (модель VibeVoiceAcousticTokenizerConfig)
- Класс конфигурации VibeVoiceAcousticTokenizerDecoderConfig: VibeVoiceAcousticTokenizerDecoderModel (модель VibeVoiceAcousticTokenizerDecoderConfig)
- Класс конфигурации VibeVoiceAcousticTokenizerEncoderConfig: VibeVoiceAcousticTokenizerEncoderModel (модель VibeVoiceAcousticTokenizerEncoderConfig)
- Класс конфигурации VibeVoiceAsrConfig: VibeVoiceAsrModel (модель VibeVoiceAsrConfig)
- Класс конфигурации VibeVoiceConfig: VibeVoiceForConditionalGeneration (модель VibeVoiceConfig)
- Класс конфигурации VideoLlama3Config: VideoLlama3Model (модель VideoLlama3Config)
- Класс конфигурации VideoLlama3VisionConfig: VideoLlama3VisionModel (модель VideoLlama3VisionConfig)
- Класс конфигурации VideoLlavaConfig: VideoLlavaModel (модель VideoLlavaConfig)
- Класс конфигурации VideoMAEConfig: VideoMAEModel (модель VideoMAEConfig)
- Класс конфигурации VideoPrismConfig: VideoPrismClipModel (модель VideoPrismConfig)
- Класс конфигурации VideoPrismVisionConfig: VideoPrismVisionModel (модель VideoPrismVisionConfig)
- Класс конфигурации ViltConfig: ViltModel (модель ViltConfig)
- Класс конфигурации VipLlavaConfig: VipLlavaModel (модель VipLlavaConfig)
- Класс конфигурации VisionTextDualEncoderConfig: VisionTextDualEncoderModel (модель VisionTextDualEncoderConfig)
- Класс конфигурации VisualBertConfig: VisualBertModel (модель VisualBertConfig)
- Класс конфигурации VitDetConfig: VitDetModel (модель VitDetConfig)
- Класс конфигурации VitsConfig: VitsModel (модель VitsConfig)
- Класс конфигурации VivitConfig: VivitModel (модель VivitConfig)
- Класс конфигурации VoxtralConfig: VoxtralModel (модель VoxtralConfig)
- Класс конфигурации VoxtralEncoderConfig: VoxtralEncoder (модель VoxtralEncoderConfig)
- Класс конфигурации VoxtralRealtimeConfig: VoxtralRealtimeModel (модель VoxtralRealtimeConfig)
- Класс конфигурации VoxtralRealtimeEncoderConfig: VoxtralRealtimeEncoder (модель VoxtralRealtimeEncoderConfig)
- Класс конфигурации VoxtralRealtimeTextConfig:
VoxtralRealtimeTextModel(модель VoxtralRealtimeTextConfig) - Класс конфигурации Wav2Vec2BertConfig: Wav2Vec2BertModel (модель Wav2Vec2BertConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2Model (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerModel (модель Wav2Vec2ConformerConfig)
- Класс конфигурации WavLMConfig: WavLMModel (модель WavLMConfig)
- Класс конфигурации WhisperConfig: WhisperModel (модель WhisperConfig)
- Класс конфигурации XCLIPConfig: XCLIPModel (модель XCLIPConfig)
- Класс конфигурации XGLMConfig: XGLMModel (модель XGLMConfig)
- Класс конфигурации XLMConfig: XLMModel (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaModel (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLModel (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetModel (модель XLNetConfig)
- Класс конфигурации Xcodec2Config: Xcodec2Model (модель Xcodec2Config)
- Класс конфигурации XcodecConfig: XcodecModel (модель XcodecConfig)
- Класс конфигурации XmodConfig: XmodModel (модель XmodConfig)
- Класс конфигурации YolosConfig: YolosModel (модель YolosConfig)
- Класс конфигурации YosoConfig: YosoModel (модель YosoConfig)
- Класс конфигурации YoutuConfig: YoutuModel (модель YoutuConfig)
- Класс конфигурации Zamba2Config: Zamba2Model (модель Zamba2Config)
- Класс конфигурации ZambaConfig: ZambaModel (модель ZambaConfig)
- Класс конфигурации ZayaConfig: ZayaModel (модель ZayaConfig)
- Класс конфигурации xLSTMConfig: xLSTMModel (модель xLSTMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из базовых классов моделей библиотеки на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из базовых классов моделей библиотеки из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- afmoe — AfmoeModel (модель AfmoeConfig)
- aimv2 — Aimv2Model (модель Aimv2Config)
- aimv2_vision_model — Aimv2VisionModel (модель Aimv2VisionConfig)
- albert — AlbertModel (модель AlbertConfig)
- align — AlignModel (модель AlignConfig)
- altclip — AltCLIPModel (модель AltCLIPConfig)
- apertus — ApertusModel (модель ApertusConfig)
- arcee — ArceeModel (модель ArceeConfig)
- aria — AriaModel (модель AriaConfig)
- aria_text — AriaTextModel (модель AriaTextConfig)
- audio-spectrogram-transformer — ASTModel (модель ASTConfig)
- audioflamingo3 — AudioFlamingo3Model (модель AudioFlamingo3Config)
- audioflamingo3_encoder — AudioFlamingo3Encoder (модель AudioFlamingo3EncoderConfig)
- autoformer — AutoformerModel (модель AutoformerConfig)
- axk1 — AXK1Model (модель AXK1Config)
- axk2 — AXK2Model (модель AXK2Config)
- aya_vision — AyaVisionModel (модель AyaVisionConfig)
- bailing_hybrid — BailingHybridModel (модель BailingHybridConfig)
- bamba — BambaModel (модель BambaConfig)
- bark — BarkModel (модель BarkConfig)
- bart — BartModel (модель BartConfig)
- beam — BeamModel (модель BeamConfig)
- beit — BeitModel (модель BeitConfig)
- bert — BertModel (модель BertConfig)
- bert-generation — BertGenerationEncoder (модель BertGenerationConfig)
- big_bird — BigBirdModel (модель BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusModel (модель BigBirdPegasusConfig)
- biogpt — BioGptModel (модель BioGptConfig)
- bit — BitModel (модель BitConfig)
- bitnet — BitNetModel (модель BitNetConfig)
- blenderbot — BlenderbotModel (модель BlenderbotConfig)
- blenderbot-small — BlenderbotSmallModel (модель BlenderbotSmallConfig)
- blip — BlipModel (модель BlipConfig)
- blip-2 — Blip2Model (модель Blip2Config)
- blip_2_qformer — Blip2QFormerModel (модель Blip2QFormerConfig)
- bloom — BloomModel (модель BloomConfig)
- blt — BltModel (модель BltConfig)
- bridgetower — BridgeTowerModel (модель BridgeTowerConfig)
- bros — BrosModel (модель BrosConfig)
- camembert — CamembertModel (модель CamembertConfig)
- canary — CanaryModel (модель CanaryConfig)
- canine — CanineModel (модель CanineConfig)
- chameleon — ChameleonModel (модель ChameleonConfig)
- chinese_clip — ChineseCLIPModel (модель ChineseCLIPConfig)
- chinese_clip_vision_model — ChineseCLIPVisionModel (модель ChineseCLIPVisionConfig)
- clap — ClapModel (модель ClapConfig)
- clip — CLIPModel (модель CLIPConfig)
- clip_text_model — CLIPTextModel (модель CLIPTextConfig)
- clip_vision_model — CLIPVisionModel (модель CLIPVisionConfig)
- clipseg — CLIPSegModel (модель CLIPSegConfig)
- clvp — ClvpModelForConditionalGeneration (модель ClvpConfig)
- codegen — CodeGenModel (модель CodeGenConfig)
- cohere — CohereModel (модель CohereConfig)
- cohere2 — Cohere2Model (модель Cohere2Config)
- cohere2_moe — Cohere2MoeModel (модель Cohere2MoeConfig)
- cohere2_vision — Cohere2VisionModel (модель Cohere2VisionConfig)
- cohere_asr — CohereAsrModel (модель CohereAsrConfig)
- cohere_compass — CohereCompassModel (модель CohereCompassConfig)
- cohere_compass_text — CohereCompassTextModel (модель CohereCompassTextConfig)
- cohere_compass_vision — CohereCompassVisionModel (модель CohereCompassVisionConfig)
- conditional_detr — ConditionalDetrModel (модель ConditionalDetrConfig)
- convbert — ConvBertModel (модель ConvBertConfig)
- convnext — ConvNextModel (модель ConvNextConfig)
- convnextv2 — ConvNextV2Model (модель ConvNextV2Config)
- cosmos3_edge — Cosmos3EdgeModel (модель Cosmos3EdgeConfig)
- cosmos3_edge_text — Cosmos3EdgeTextModel (модель Cosmos3EdgeTextConfig)
- cosmos3_edge_vision — Cosmos3EdgeVisionModel (модель Cosmos3EdgeVisionConfig)
- cosmos3_omni — Cosmos3OmniModel (модель Cosmos3OmniConfig)
- cpmant — CpmAntModel (модель CpmAntConfig)
- csm — CsmForConditionalGeneration (модель CsmConfig)
- ctrl — CTRLModel (модель CTRLConfig)
- cvt — CvtModel (модель CvtConfig)
- cwm — CwmModel (модель CwmConfig)
- d_fine — DFineModel (модель DFineConfig)
- dab-detr — DabDetrModel (модель DabDetrConfig)
- dac — DacModel (модель DacConfig)
- data2vec-audio — Data2VecAudioModel (модель Data2VecAudioConfig)
- data2vec-text — Data2VecTextModel (модель Data2VecTextConfig)
- data2vec-vision — Data2VecVisionModel (модель Data2VecVisionConfig)
- dbrx — DbrxModel (модель DbrxConfig)
- deberta — DebertaModel (модель DebertaConfig)
- deberta-v2 — DebertaV2Model (модель DebertaV2Config)
- decision_transformer — DecisionTransformerModel (модель DecisionTransformerConfig)
- deepseek_ocr2 — DeepseekOcr2Model (модель DeepseekOcr2Config)
- deepseek_v2 — DeepseekV2Model (модель DeepseekV2Config)
- deepseek_v3 — DeepseekV3Model (модель DeepseekV3Config)
- deepseek_v32 — DeepseekV32Model (модель DeepseekV32Config)
- deepseek_v4 — DeepseekV4Model (модель DeepseekV4Config)
- deepseek_vl — DeepseekVLModel (модель DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridModel (модель DeepseekVLHybridConfig)
- deformable_detr — DeformableDetrModel (модель DeformableDetrConfig)
- deimv2 — Deimv2Model (модель Deimv2Config)
- deit — DeiTModel (модель DeiTConfig)
- depth_pro — DepthProModel (модель DepthProConfig)
- detr — DetrModel (модель DetrConfig)
- dia — DiaModel (модель DiaConfig)
- diffllama — DiffLlamaModel (модель DiffLlamaConfig)
- diffusion_gemma — DiffusionGemmaModel (модель DiffusionGemmaConfig)
- dinat — DinatModel (модель DinatConfig)
- dinov2 — Dinov2Model (модель Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersModel (модель Dinov2WithRegistersConfig)
- dinov3_convnext — DINOv3ConvNextModel (модель DINOv3ConvNextConfig)
- dinov3_vit — DINOv3ViTModel (модель DINOv3ViTConfig)
- distilbert — DistilBertModel (модель DistilBertConfig)
- doge — DogeModel (модель DogeConfig)
- donut-swin — DonutSwinModel (модель DonutSwinConfig)
- dots1 — Dots1Model (модель Dots1Config)
- dpr — DPRQuestionEncoder (модель DPRConfig)
- dpt — DPTModel (модель DPTConfig)
- edgetam — EdgeTamModel (модель EdgeTamConfig)
- edgetam_video — EdgeTamVideoModel (модель EdgeTamVideoConfig)
- edgetam_vision_model — EdgeTamVisionModel (модель EdgeTamVisionConfig)
- efficientloftr — EfficientLoFTRModel (модель EfficientLoFTRConfig)
- efficientnet — EfficientNetModel (модель EfficientNetConfig)
- electra — ElectraModel (модель ElectraConfig)
- embedding_gemma2 — EmbeddingGemma2Model (модель EmbeddingGemma2Config)
- embedding_gemma2_text — EmbeddingGemma2TextModel (модель EmbeddingGemma2TextConfig)
- emu3 — Emu3Model (модель Emu3Config)
- encodec — EncodecModel (модель EncodecConfig)
- ernie — ErnieModel (модель ErnieConfig)
- ernie4_5 — Ernie4_5Model (модель Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeModel (модель Ernie4_5_MoeConfig)
- ernie4_5_vl_moe — Ernie4_5_VLMoeModel (модель Ernie4_5_VLMoeConfig)
- esm — EsmModel (модель EsmConfig)
- esmc — EsmcModel (модель EsmcConfig)
- eurobert — EuroBertModel (модель EuroBertConfig)
- evolla — EvollaModel (модель EvollaConfig)
- exaone4 — Exaone4Model (модель Exaone4Config)
- exaone4_5 — Exaone4_5_Model (модель Exaone4_5_Config)
- exaone4_5_vision — Exaone4_5_VisionModel (модель Exaone4_5_VisionConfig)
- exaone_moe — ExaoneMoeModel (модель ExaoneMoeConfig)
- falcon — FalconModel (модель FalconConfig)
- falcon_h1 — FalconH1Model (модель FalconH1Config)
- falcon_mamba — FalconMambaModel (модель FalconMambaConfig)
- fast_vlm — FastVlmModel (модель FastVlmConfig)
- fastspeech2_conformer — FastSpeech2ConformerModel (модель FastSpeech2ConformerConfig)
- fastspeech2_conformer_with_hifigan — FastSpeech2ConformerWithHifiGan (модель FastSpeech2ConformerWithHifiGanConfig)
- flaubert — FlaubertModel (модель FlaubertConfig)
- flava — FlavaModel (модель FlavaConfig)
- flex_olmo — FlexOlmoModel (модель FlexOlmoConfig)
- flint — FlintModel (модель FlintConfig)
- florence2 — Florence2Model (модель Florence2Config)
- fnet — FNetModel (модель FNetConfig)
- focalnet — FocalNetModel (модель FocalNetConfig)
- fsmt — FSMTModel (модель FSMTConfig)
- fun_asr_nano — FunAsrNanoModel (модель FunAsrNanoConfig)
- fun_asr_nano_encoder — FunAsrNanoEncoder (модель FunAsrNanoEncoderConfig)
- funnel — FunnelModel или FunnelBaseModel (модель FunnelConfig)
- fuyu — FuyuModel (модель FuyuConfig)
- gemma — GemmaModel (модель GemmaConfig)
- gemma2 — Gemma2Model (модель Gemma2Config)
- gemma3 — Gemma3Model (модель Gemma3Config)
- gemma3_text — Gemma3TextModel (модель Gemma3TextConfig)
- gemma3n — Gemma3nModel (модель Gemma3nConfig)
- gemma3n_audio —
Gemma3nAudioEncoder(модель Gemma3nAudioConfig) - gemma3n_text — Gemma3nTextModel (модель Gemma3nTextConfig)
- gemma3n_vision — TimmWrapperModel (модель Gemma3nVisionConfig)
- gemma4 — Gemma4Model (модель Gemma4Config)
- gemma4_audio — Gemma4AudioModel (модель Gemma4AudioConfig)
- gemma4_text — Gemma4TextModel (модель Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedModel (модель Gemma4UnifiedConfig)
- gemma4_unified_text — Gemma4UnifiedTextModel (модель Gemma4UnifiedTextConfig)
- gemma4_vision — Gemma4VisionModel (модель Gemma4VisionConfig)
- git — GitModel (модель GitConfig)
- glm — GlmModel (модель GlmConfig)
- glm4 — Glm4Model (модель Glm4Config)
- glm46v — Glm46VModel (модель Glm46VConfig)
- glm4_moe — Glm4MoeModel (модель Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteModel (модель Glm4MoeLiteConfig)
- glm4v — Glm4vModel (модель Glm4vConfig)
- glm4v_moe — Glm4vMoeModel (модель Glm4vMoeConfig)
- glm4v_moe_text — Glm4vMoeTextModel (модель Glm4vMoeTextConfig)
- glm4v_moe_vision — Glm4vMoeVisionModel (модель Glm4vMoeVisionConfig)
- glm4v_text — Glm4vTextModel (модель Glm4vTextConfig)
- glm4v_vision — Glm4vVisionModel (модель Glm4vVisionConfig)
- glm5_next — Glm5NextModel (модель Glm5NextConfig)
- glm5_next_text — Glm5NextTextModel (модель Glm5NextTextConfig)
- glm5_next_vision — Glm5NextVisionModel (модель Glm5NextVisionConfig)
- glm_image — GlmImageModel (модель GlmImageConfig)
- glm_image_text — GlmImageTextModel (модель GlmImageTextConfig)
- glm_image_vision — GlmImageVisionModel (модель GlmImageVisionConfig)
- glm_image_vqmodel — GlmImageVQVAE (модель GlmImageVQVAEConfig)
- glm_moe_dsa — GlmMoeDsaModel (модель GlmMoeDsaConfig)
- glm_ocr — GlmOcrModel (модель GlmOcrConfig)
- glm_ocr_text — GlmOcrTextModel (модель GlmOcrTextConfig)
- glm_ocr_vision — GlmOcrVisionModel (модель GlmOcrVisionConfig)
- glmasr — GlmAsrModel (модель GlmAsrConfig)
- glmasr_encoder — GlmAsrEncoder (модель GlmAsrEncoderConfig)
- glmga — Glm46VModel (модель GlmgaConfig)
- glpn — GLPNModel (модель GLPNConfig)
- got_ocr2 — GotOcr2Model (модель GotOcr2Config)
- gpt-sw3 — GPT2Model (модель GPT2Config)
- gpt2 — GPT2Model (модель GPT2Config)
- gpt_bigcode — GPTBigCodeModel (модель GPTBigCodeConfig)
- gpt_neo — GPTNeoModel (модель GPTNeoConfig)
- gpt_neox — GPTNeoXModel (модель GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseModel (модель GPTNeoXJapaneseConfig)
- gpt_oss — GptOssModel (модель GptOssConfig)
- gptj — GPTJModel (модель GPTJConfig)
- gradium_phonon_tts — GradiumPhononTTSModel (модель GradiumPhononTTSConfig)
- granite — GraniteModel (модель GraniteConfig)
- granite4_vision — Granite4VisionModel (модель Granite4VisionConfig)
- granite_speech — GraniteSpeechModel (модель GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5ForCTC (модель GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5Encoder (модель GraniteSpeech5EncoderConfig)
- granite_speech_plus — GraniteSpeechPlusModel (модель GraniteSpeechPlusConfig)
- granite_swa — GraniteSWAModel (модель GraniteSWAConfig)
- granitemoe — GraniteMoeModel (модель GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAModel (модель GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridModel (модель GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedModel (модель GraniteMoeSharedConfig)
- grounding-dino — GroundingDinoModel (модель GroundingDinoConfig)
- groupvit — GroupViTModel (модель GroupViTConfig)
- gte — GteModel (модель GteConfig)
- helium — HeliumModel (модель HeliumConfig)
- hgnet_v2 — HGNetV2Backbone (модель HGNetV2Config)
- hiera — HieraModel (модель HieraConfig)
- higgs_audio_v2 — HiggsAudioV2ForConditionalGeneration (модель HiggsAudioV2Config)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerModel (модель HiggsAudioV2TokenizerConfig)
- hrm_text — HrmTextModel (модель HrmTextConfig)
- hubert — HubertModel (модель HubertConfig)
- hunyuan_v1_dense — HunYuanDenseV1Model (модель HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1Model (модель HunYuanMoEV1Config)
- hunyuan_vl — HunYuanVLModel (модель HunYuanVLConfig)
- hunyuan_vl_text — HunYuanVLTextModel (модель HunYuanVLTextConfig)
- hunyuan_vl_vision — HunYuanVLVisionTransformer (модель HunYuanVLVisionConfig)
- hy_v3 — HYV3Model (модель HYV3Config)
- hy_v4 — HYV4Model (модель HYV4Config)
- hyperclovax — HyperCLOVAXModel (модель HyperCLOVAXConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Model (модель HyperCLOVAXVisionV2Config)
- ibert — IBertModel (модель IBertConfig)
- idefics — IdeficsModel (модель IdeficsConfig)
- idefics2 — Idefics2Model (модель Idefics2Config)
- idefics3 — Idefics3Model (модель Idefics3Config)
- idefics3_vision — Idefics3VisionTransformer (модель Idefics3VisionConfig)
- ijepa — IJepaModel (модель IJepaConfig)
- imagegpt — ImageGPTModel (модель ImageGPTConfig)
- informer — InformerModel (модель InformerConfig)
- inkling_mm_model — InklingModel (модель InklingConfig)
- inkling_text — InklingTextModel (модель InklingTextConfig)
- instructblip — InstructBlipModel (модель InstructBlipConfig)
- instructblipvideo — InstructBlipVideoModel (модель InstructBlipVideoConfig)
- internvl — InternVLModel (модель InternVLConfig)
- internvl_vision — InternVLVisionModel (модель InternVLVisionConfig)
- jais2 — Jais2Model (модель Jais2Config)
- jamba — JambaModel (модель JambaConfig)
- janus — JanusModel (модель JanusConfig)
- jetmoe — JetMoeModel (модель JetMoeConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3Model (модель JinaEmbeddingsV3Config)
- kimi_k25 — Kimi_K25Model (модель Kimi_K25Config)
- kimi_k25_vision — Kimi_K25VisionModel (модель Kimi_K25VisionConfig)
- kimi_linear — KimiLinearModel (модель KimiLinearConfig)
- kolibri1 — Kolibri1Model (модель Kolibri1Config)
- kosmos-2 — Kosmos2Model (модель Kosmos2Config)
- kosmos-2.5 — Kosmos2_5Model (модель Kosmos2_5Config)
- kyutai_speech_to_text — KyutaiSpeechToTextModel (модель KyutaiSpeechToTextConfig)
- laguna — LagunaModel (модель LagunaConfig)
- lasr_ctc — LasrForCTC (модель LasrCTCConfig)
- lasr_encoder — LasrEncoder (модель LasrEncoderConfig)
- layoutlm — LayoutLMModel (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Model (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Model (модель LayoutLMv3Config)
- led — LEDModel (модель LEDConfig)
- levit — LevitModel (модель LevitConfig)
- lfm2 — Lfm2Model (модель Lfm2Config)
- lfm2_moe — Lfm2MoeModel (модель Lfm2MoeConfig)
- lfm2_vl — Lfm2VlModel (модель Lfm2VlConfig)
- lightglue — LightGlueForKeypointMatching (модель LightGlueConfig)
- lighton_ocr — LightOnOcrModel (модель LightOnOcrConfig)
- lilt — LiltModel (модель LiltConfig)
- llama — LlamaModel (модель LlamaConfig)
- llama4 — Llama4ForConditionalGeneration (модель Llama4Config)
- llama4_text — Llama4TextModel (модель Llama4TextConfig)
- llava — LlavaModel (модель LlavaConfig)
- llava_next — LlavaNextModel (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoModel (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionModel (модель LlavaOnevisionConfig)
- longcat_flash — LongcatFlashModel (модель LongcatFlashConfig)
- longformer — LongformerModel (модель LongformerConfig)
- longt5 — LongT5Model (модель LongT5Config)
- luke — LukeModel (модель LukeConfig)
- lw_detr — LwDetrModel (модель LwDetrConfig)
- lxmert — LxmertModel (модель LxmertConfig)
- m2m_100 — M2M100Model (модель M2M100Config)
- mamba — MambaModel (модель MambaConfig)
- mamba2 — Mamba2Model (модель Mamba2Config)
- marian — MarianModel (модель MarianConfig)
- markuplm — MarkupLMModel (модель MarkupLMConfig)
- mask2former — Mask2FormerModel (модель Mask2FormerConfig)
- maskformer — MaskFormerModel (модель MaskFormerConfig)
- maskformer-swin —
MaskFormerSwinModel(модель MaskFormerSwinConfig) - mbart — MBartModel (модель MBartConfig)
- megatron-bert — MegatronBertModel (модель MegatronBertConfig)
- mellum — MellumModel (модель MellumConfig)
- metaclip_2 — MetaClip2Model (модель MetaClip2Config)
- mgp-str — MgpstrForSceneTextRecognition (модель MgpstrConfig)
- mimi — MimiModel (модель MimiConfig)
- mimi_decoder — MimiDecoderModel (модель MimiDecoderConfig)
- mimi_encoder — MimiEncoderModel (модель MimiEncoderConfig)
- mimo_v2_flash — MiMoV2FlashModel (модель MiMoV2FlashConfig)
- minicpm3 — MiniCPM3Model (модель MiniCPM3Config)
- minicpm_ocr — MiniCPMOcrModel (модель MiniCPMOcrConfig)
- minicpm_ocr_vision — MiniCPMOcrVisionModel (модель MiniCPMOcrVisionConfig)
- minicpmv4_6 — MiniCPMV4_6Model (модель MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7Model (модель MiniCPMV4_7Config)
- minicpmv4_7_vision — MiniCPMV4_7VisionModel (модель MiniCPMV4_7VisionConfig)
- minimax — MiniMaxModel (модель MiniMaxConfig)
- minimax_m2 — MiniMaxM2Model (модель MiniMaxM2Config)
- minimax_m3_vl — MiniMaxM3VLModel (модель MiniMaxM3VLConfig)
- minimax_m3_vl_text — MiniMaxM3VLTextModel (модель MiniMaxM3VLTextConfig)
- ministral — MinistralModel (модель MinistralConfig)
- ministral3 — Ministral3Model (модель Ministral3Config)
- mistral — MistralModel (модель MistralConfig)
- mistral3 — Mistral3Model (модель Mistral3Config)
- mistral4 — Mistral4Model (модель Mistral4Config)
- mistral_large4 — MistralLarge4Model (модель MistralLarge4Config)
- mistral_large4_text — MistralLarge4TextModel (модель MistralLarge4TextConfig)
- mixtral — MixtralModel (модель MixtralConfig)
- mlcd — MLCDVisionModel (модель MLCDVisionConfig)
- mlcd_vision_model — MLCDVisionModel (модель MLCDVisionConfig)
- mllama — MllamaModel (модель MllamaConfig)
- mm-grounding-dino — MMGroundingDinoModel (модель MMGroundingDinoConfig)
- mobilebert — MobileBertModel (модель MobileBertConfig)
- mobilenet_v1 — MobileNetV1Model (модель MobileNetV1Config)
- mobilenet_v2 — MobileNetV2Model (модель MobileNetV2Config)
- mobilevit — MobileViTModel (модель MobileViTConfig)
- mobilevitv2 — MobileViTV2Model (модель MobileViTV2Config)
- modernbert — ModernBertModel (модель ModernBertConfig)
- modernbert-decoder — ModernBertDecoderModel (модель ModernBertDecoderConfig)
- modernvbert — ModernVBertModel (модель ModernVBertConfig)
- molmo2 — Molmo2Model (модель Molmo2Config)
- molmo2_text — Molmo2TextModel (модель Molmo2TextConfig)
- moonshine — MoonshineModel (модель MoonshineConfig)
- moonshine_streaming — MoonshineStreamingModel (модель MoonshineStreamingConfig)
- moshi — MoshiModel (модель MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeModel (модель MossTranscribeDiarizeConfig)
- moss_transcribe_diarize_audio — MossTranscribeDiarizeAudioModel (модель MossTranscribeDiarizeAudioConfig)
- mpnet — MPNetModel (модель MPNetConfig)
- mpt — MptModel (модель MptConfig)
- mra — MraModel (модель MraConfig)
- mt5 — MT5Model (модель MT5Config)
- muse_glimmer — MuseGlimmerModel (модель MuseGlimmerConfig)
- muse_glimmer_assistant — MuseGlimmerAssistantModel (модель MuseGlimmerAssistantConfig)
- muse_glimmer_text — MuseGlimmerTextModel (модель MuseGlimmerTextConfig)
- muse_glimmer_vision — MuseGlimmerVisionModel (модель MuseGlimmerVisionConfig)
- muse_spark — MuseSparkModel (модель MuseSparkConfig)
- muse_spark_audio — MuseSparkAudioModel (модель MuseSparkAudioConfig)
- muse_spark_text — MuseSparkTextModel (модель MuseSparkTextConfig)
- muse_spark_vision — MuseSparkVisionModel (модель MuseSparkVisionConfig)
- musicflamingo — MusicFlamingoModel (модель MusicFlamingoConfig)
- musicgen — MusicgenModel (модель MusicgenConfig)
- musicgen_melody — MusicgenMelodyModel (модель MusicgenMelodyConfig)
- mvp — MvpModel (модель MvpConfig)
- nanochat — NanoChatModel (модель NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeModel (модель Nemotron3_5TranscribeConfig)
- nemotron — NemotronModel (модель NemotronConfig)
- nemotron3_5_asr — Nemotron3_5AsrForRNNT (модель Nemotron3_5AsrConfig)
- nemotron3_5_transcribe_asr_audio — Nemotron3_5TranscribeAsrAudioModel (модель Nemotron3_5TranscribeAsrAudioConfig)
- nemotron3_5_transcribe_audio — Nemotron3_5TranscribeAudioModel (модель Nemotron3_5TranscribeAudioConfig)
- nemotron3_5_transcribe_word_timestamp — Nemotron3_5TranscribeWordTimestampModel (модель Nemotron3_5TranscribeWordTimestampConfig)
- nemotron3_diarization — Nemotron3DiarizationModel (модель Nemotron3DiarizationConfig)
- nemotron3_diarization_audio — Nemotron3DiarizationAudioModel (модель Nemotron3DiarizationAudioConfig)
- nemotron_asr_streaming — NemotronAsrStreamingForRNNT (модель NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingEncoder (модель NemotronAsrStreamingEncoderConfig)
- nemotron_h — NemotronHModel (модель NemotronHConfig)
- neomme — NeoMMEModel (модель NeoMMEConfig)
- neucodec — NeuCodecModel (модель NeuCodecConfig)
- nllb-moe — NllbMoeModel (модель NllbMoeConfig)
- nomic_bert — NomicBertModel (модель NomicBertConfig)
- nystromformer — NystromformerModel (модель NystromformerConfig)
- olmo — OlmoModel (модель OlmoConfig)
- olmo2 — Olmo2Model (модель Olmo2Config)
- olmo3 — Olmo3Model (модель Olmo3Config)
- olmo_hybrid — OlmoHybridModel (модель OlmoHybridConfig)
- olmoe — OlmoeModel (модель OlmoeConfig)
- omdet-turbo — OmDetTurboForObjectDetection (модель OmDetTurboConfig)
- oneformer — OneFormerModel (модель OneFormerConfig)
- openai-gpt — OpenAIGPTModel (модель OpenAIGPTConfig)
- openai_privacy_filter — OpenAIPrivacyFilterModel (модель OpenAIPrivacyFilterConfig)
- opt — OPTModel (модель OPTConfig)
- ovis2 — Ovis2Model (модель Ovis2Config)
- owlv2 — Owlv2Model (модель Owlv2Config)
- owlvit — OwlViTModel (модель OwlViTConfig)
- paddleocr_vl — PaddleOCRVLModel (модель PaddleOCRVLConfig)
- paligemma — PaliGemmaModel (модель PaliGemmaConfig)
- parakeet_ctc — ParakeetForCTC (модель ParakeetCTCConfig)
- parakeet_encoder — ParakeetEncoder (модель ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetForRNNT (модель ParakeetRNNTConfig)
- parakeet_tdt — ParakeetForTDT (модель ParakeetTDTConfig)
- patchtsmixer — PatchTSMixerModel (модель PatchTSMixerConfig)
- patchtst — PatchTSTModel (модель PatchTSTConfig)
- pe_audio — PeAudioModel (модель PeAudioConfig)
- pe_audio_encoder — PeAudioEncoder (модель PeAudioEncoderConfig)
- pe_audio_video — PeAudioVideoModel (модель PeAudioVideoConfig)
- pe_audio_video_encoder — PeAudioVideoEncoder (модель PeAudioVideoEncoderConfig)
- pe_video — PeVideoModel (модель PeVideoConfig)
- pe_video_encoder — PeVideoEncoder (модель PeVideoEncoderConfig)
- pegasus — PegasusModel (модель PegasusConfig)
- pegasus_x — PegasusXModel (модель PegasusXConfig)
- perceiver — PerceiverModel (модель PerceiverConfig)
- perception_lm — PerceptionLMModel (модель PerceptionLMConfig)
- persimmon — PersimmonModel (модель PersimmonConfig)
- phi — PhiModel (модель PhiConfig)
- phi3 — Phi3Model (модель Phi3Config)
- phi4_multimodal — Phi4MultimodalModel (модель Phi4MultimodalConfig)
- phimoe — PhimoeModel (модель PhimoeConfig)
- pi0 — PI0Model (модель PI0Config)
- pixio — PixioModel (модель PixioConfig)
- pixtral — PixtralVisionModel (модель PixtralVisionConfig)
- plbart — PLBartModel (модель PLBartConfig)
- pocket_tts — PocketTTSModel (модель PocketTTSConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerModel (модель PocketTTSAudioTokenizerConfig)
- pocket_tts_audio_tokenizer_decoder — PocketTTSAudioTokenizerDecoderModel (модель PocketTTSAudioTokenizerDecoderConfig)
- pocket_tts_audio_tokenizer_encoder — PocketTTSAudioTokenizerEncoderModel (модель PocketTTSAudioTokenizerEncoderConfig)
- poolformer — PoolFormerModel (модель PoolFormerConfig)
- pp_doclayout_v3 — PPDocLayoutV3Model (модель PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4Model (модель PPDocLayoutV4Config)
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecModel (модель PPOCRV5MobileRecConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecModel (модель PPOCRV5ServerRecConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetModel (модель PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetModel (модель PPOCRV6SmallDetConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecModel (модель PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecModel (модель PPOCRV6TinyRecConfig)
- prophetnet — ProphetNetModel (модель ProphetNetConfig)
- pvt — PvtModel (модель PvtConfig)
- pvt_v2 — PvtV2Model (модель PvtV2Config)
- qianfan_ocr — QianfanOCRModel (модель QianfanOCRConfig)
- qianfan_ocr_vision — QianfanOCRVisionModel (модель QianfanOCRVisionConfig)
- qwen2 — Qwen2Model (модель Qwen2Config)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerModel (модель Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLModel (модель Qwen2_5_VLConfig)
- qwen2_5_vl_text — Qwen2_5_VLTextModel (модель Qwen2_5_VLTextConfig)
- qwen2_5_vl_vision — Qwen2_5_VisionTransformerPretrainedModel (модель Qwen2_5_VLVisionConfig)
- qwen2_audio — Qwen2AudioModel (модель Qwen2AudioConfig)
- qwen2_audio_encoder — Qwen2AudioEncoder (модель Qwen2AudioEncoderConfig)
- qwen2_moe — Qwen2MoeModel (модель Qwen2MoeConfig)
- qwen2_vl — Qwen2VLModel (модель Qwen2VLConfig)
- qwen2_vl_text — Qwen2VLTextModel (модель Qwen2VLTextConfig)
- qwen3 — Qwen3Model (модель Qwen3Config)
- qwen3_5 — Qwen3_5Model (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeModel (модель Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeTextModel (модель Qwen3_5MoeTextConfig)
- qwen3_5_moe_vision — Qwen3_5MoeVisionModel (модель Qwen3_5MoeVisionConfig)
- qwen3_5_text — Qwen3_5TextModel (модель Qwen3_5TextConfig)
- qwen3_5_vision — Qwen3_5VisionModel (модель Qwen3_5VisionConfig)
- qwen3_asr — Qwen3ASRModel (модель Qwen3ASRConfig)
- qwen3_asr_encoder — Qwen3ASREncoder (модель Qwen3ASREncoderConfig)
- qwen3_moe — Qwen3MoeModel (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextModel (модель Qwen3NextConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerModel (модель Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLModel (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeModel (модель Qwen3VLMoeConfig)
- qwen3_vl_moe_text — Qwen3VLMoeTextModel (модель Qwen3VLMoeTextConfig)
- qwen3_vl_moe_vision — Qwen3VLMoeVisionModel (модель Qwen3VLMoeVisionConfig)
- qwen3_vl_text — Qwen3VLTextModel (модель Qwen3VLTextConfig)
- qwen3_vl_vision — Qwen3VLVisionModel (модель Qwen3VLVisionConfig)
- qwen4_exp — Qwen4ExpModel (модель Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpTextModel (модель Qwen4ExpTextConfig)
- qwen4_exp_vision — Qwen4ExpVisionModel (модель Qwen4ExpVisionConfig)
- radio — RadioModel (модель RadioConfig)
- recurrent_gemma — RecurrentGemmaModel (модель RecurrentGemmaConfig)
- reformer — ReformerModel (модель ReformerConfig)
- regnet — RegNetModel (модель RegNetConfig)
- rembert — RemBertModel (модель RemBertConfig)
- resnet — ResNetModel (модель ResNetConfig)
- rf_detr — RfDetrModel (модель RfDetrConfig)
- roberta — RobertaModel (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormModel (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertModel (модель RoCBertConfig)
- roformer — RoFormerModel (модель RoFormerConfig)
- rt_detr — RTDetrModel (модель RTDetrConfig)
- rt_detr_v2 — RTDetrV2Model (модель RTDetrV2Config)
- rwkv — RwkvModel (модель RwkvConfig)
- sam — SamModel (модель SamConfig)
- sam2 — Sam2Model (модель Sam2Config)
- sam2_hiera_det_model — Sam2HieraDetModel (модель Sam2HieraDetConfig)
- sam2_video — Sam2VideoModel (модель Sam2VideoConfig)
- sam2_vision_model — Sam2VisionModel (модель Sam2VisionConfig)
- sam3 — Sam3Model (модель Sam3Config)
- sam3_lite_text — Sam3LiteTextModel (модель Sam3LiteTextConfig)
- sam3_lite_text_text_model — Sam3LiteTextTextModel (модель Sam3LiteTextTextConfig)
- sam3_tracker — Sam3TrackerModel (модель Sam3TrackerConfig)
- sam3_tracker_video — Sam3TrackerVideoModel (модель Sam3TrackerVideoConfig)
- sam3_video — Sam3VideoModel (модель Sam3VideoConfig)
- sam3_vision_model — Sam3VisionModel (модель Sam3VisionConfig)
- sam3_vit_model — Sam3ViTModel (модель Sam3ViTConfig)
- sam_hq — SamHQModel (модель SamHQConfig)
- sam_hq_vision_model — SamHQVisionModel (модель SamHQVisionConfig)
- sam_vision_model — SamVisionModel (модель SamVisionConfig)
- sapiens2 — Sapiens2Model (модель Sapiens2Config)
- seamless_m4t — SeamlessM4TModel (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2Model (модель SeamlessM4Tv2Config)
- seed_oss — SeedOssModel (модель SeedOssConfig)
- segformer — SegformerModel (модель SegformerConfig)
- seggpt — SegGptModel (модель SegGptConfig)
- sew — SEWModel (модель SEWConfig)
- sew-d — SEWDModel (модель SEWDConfig)
- siglip — SiglipModel (модель SiglipConfig)
- siglip2 — Siglip2Model (модель Siglip2Config)
- siglip2_vision_model — Siglip2VisionModel (модель Siglip2VisionConfig)
- siglip_vision_model — SiglipVisionModel (модель SiglipVisionConfig)
- smollm3 — SmolLM3Model (модель SmolLM3Config)
- smolvlm — SmolVLMModel (модель SmolVLMConfig)
- smolvlm_vision — SmolVLMVisionTransformer (модель SmolVLMVisionConfig)
- solar_open — SolarOpenModel (модель SolarOpenConfig)
- speech_to_text — Speech2TextModel (модель Speech2TextConfig)
- speecht5 — SpeechT5Model (модель SpeechT5Config)
- splinter — SplinterModel (модель SplinterConfig)
- squeezebert — SqueezeBertModel (модель SqueezeBertConfig)
- stablelm — StableLmModel (модель StableLmConfig)
- starcoder2 — Starcoder2Model (модель Starcoder2Config)
- step3p7 — Step3p7Model (модель Step3p7Config)
- swiftformer — SwiftFormerModel (модель SwiftFormerConfig)
- swin — SwinModel (модель SwinConfig)
- swin2sr — Swin2SRModel (модель Swin2SRConfig)
- swinv2 — Swinv2Model (модель Swinv2Config)
- switch_transformers — SwitchTransformersModel (модель SwitchTransformersConfig)
- t5 — T5Model (модель T5Config)
- t5gemma — T5GemmaModel (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2Model (модель T5Gemma2Config)
- t5gemma2_encoder —
T5Gemma2Encoder(модель T5Gemma2EncoderConfig) - table-transformer — TableTransformerModel (модель TableTransformerConfig)
- tapas — TapasModel (модель TapasConfig)
- textnet — TextNetModel (модель TextNetConfig)
- time_series_transformer — TimeSeriesTransformerModel (модель TimeSeriesTransformerConfig)
- timesfm — TimesFmModel (модель TimesFmConfig)
- timesfm2_5 — TimesFm2_5Model (модель TimesFm2_5Config)
- timesformer — TimesformerModel (модель TimesformerConfig)
- timm_backbone — TimmBackbone (модель TimmBackboneConfig)
- timm_wrapper — TimmWrapperModel (модель TimmWrapperConfig)
- tipsv2 — Tipsv2Model (модель Tipsv2Config)
- tipsv2_text_model — Tipsv2TextModel (модель Tipsv2TextConfig)
- tipsv2_vision_model — Tipsv2VisionModel (модель Tipsv2VisionConfig)
- tvp — TvpModel (модель TvpConfig)
- udop — UdopModel (модель UdopConfig)
- ultrabert — UltrabertModel (модель UltrabertConfig)
- ultravbert — UltraVBertModel (модель UltraVBertConfig)
- umt5 — UMT5Model (модель UMT5Config)
- unispeech — UniSpeechModel (модель UniSpeechConfig)
- unispeech-sat — UniSpeechSatModel (модель UniSpeechSatConfig)
- univnet — UnivNetModel (модель UnivNetConfig)
- unlimited_ocr — UnlimitedOcrModel (модель UnlimitedOcrConfig)
- uvdoc — UVDocModel (модель UVDocConfig)
- vaultgemma — VaultGemmaModel (модель VaultGemmaConfig)
- vibevoice — VibeVoiceForConditionalGeneration (модель VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerModel (модель VibeVoiceAcousticTokenizerConfig)
- vibevoice_acoustic_tokenizer_decoder — VibeVoiceAcousticTokenizerDecoderModel (модель VibeVoiceAcousticTokenizerDecoderConfig)
- vibevoice_acoustic_tokenizer_encoder — VibeVoiceAcousticTokenizerEncoderModel (модель VibeVoiceAcousticTokenizerEncoderConfig)
- vibevoice_asr — VibeVoiceAsrModel (модель VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3Model (модель VideoLlama3Config)
- video_llama_3_vision — VideoLlama3VisionModel (модель VideoLlama3VisionConfig)
- video_llava — VideoLlavaModel (модель VideoLlavaConfig)
- videomae — VideoMAEModel (модель VideoMAEConfig)
- videoprism — VideoPrismClipModel (модель VideoPrismConfig)
- videoprism_vision_model — VideoPrismVisionModel (модель VideoPrismVisionConfig)
- vilt — ViltModel (модель ViltConfig)
- vipllava — VipLlavaModel (модель VipLlavaConfig)
- vision-text-dual-encoder — VisionTextDualEncoderModel (модель VisionTextDualEncoderConfig)
- visual_bert — VisualBertModel (модель VisualBertConfig)
- vit — ViTModel (модель ViTConfig)
- vit_mae — ViTMAEModel (модель ViTMAEConfig)
- vit_msn — ViTMSNModel (модель ViTMSNConfig)
- vitdet — VitDetModel (модель VitDetConfig)
- vits — VitsModel (модель VitsConfig)
- vivit — VivitModel (модель VivitConfig)
- vjepa2 — VJEPA2Model (модель VJEPA2Config)
- voxtral — VoxtralModel (модель VoxtralConfig)
- voxtral_encoder — VoxtralEncoder (модель VoxtralEncoderConfig)
- voxtral_realtime — VoxtralRealtimeModel (модель VoxtralRealtimeConfig)
- voxtral_realtime_encoder — VoxtralRealtimeEncoder (модель VoxtralRealtimeEncoderConfig)
- voxtral_realtime_text —
VoxtralRealtimeTextModel(модель VoxtralRealtimeTextConfig) - wav2vec2 — Wav2Vec2Model (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertModel (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerModel (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMModel (модель WavLMConfig)
- whisper — WhisperModel (модель WhisperConfig)
- xclip — XCLIPModel (модель XCLIPConfig)
- xcodec — XcodecModel (модель XcodecConfig)
- xcodec2 — Xcodec2Model (модель Xcodec2Config)
- xglm — XGLMModel (модель XGLMConfig)
- xlm — XLMModel (модель XLMConfig)
- xlm-roberta — XLMRobertaModel (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLModel (модель XLMRobertaXLConfig)
- xlnet — XLNetModel (модель XLNetConfig)
- xlstm — xLSTMModel (модель xLSTMConfig)
- xmod — XmodModel (модель XmodConfig)
- yolos — YolosModel (модель YolosConfig)
- yoso — YosoModel (модель YosoConfig)
- youtu — YoutuModel (модель YoutuConfig)
- zamba — ZambaModel (модель ZambaConfig)
- zamba2 — Zamba2Model (модель Zamba2Config)
- zaya — ZayaModel (модель ZayaConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModel
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueУниверсальные классы предварительного обучения
Для создания модели с головой предобучения доступны следующие автоклассы.
AutoModelForPreTraining
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с заголовком для предобучения).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации AlbertConfig: AlbertForPreTraining (модель AlbertConfig)
- Класс конфигурации AudioFlamingo3Config: AudioFlamingo3ForConditionalGeneration (модель AudioFlamingo3Config)
- Класс конфигурации BartConfig: BartForConditionalGeneration (модель BartConfig)
- Класс конфигурации BertConfig: BertForPreTraining (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForPreTraining (модель BigBirdConfig)
- Класс конфигурации BloomConfig: BloomForCausalLM (модель BloomConfig)
- Класс конфигурации CTRLConfig: CTRLLMHeadModel (модель CTRLConfig)
- Класс конфигурации CamembertConfig: CamembertForMaskedLM (модель CamembertConfig)
- Класс конфигурации ColModernVBertConfig: ColModernVBertForRetrieval (модель ColModernVBertConfig)
- Класс конфигурации ColPaliConfig: ColPaliForRetrieval (модель ColPaliConfig)
- Класс конфигурации ColQwen2Config: ColQwen2ForRetrieval (модель ColQwen2Config)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForMaskedLM (модель Data2VecTextConfig)
- Класс конфигурации DebertaConfig: DebertaForMaskedLM (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForMaskedLM (модель DebertaV2Config)
- Класс конфигурации DistilBertConfig: DistilBertForMaskedLM (модель DistilBertConfig)
- Класс конфигурации ElectraConfig: ElectraForPreTraining (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForPreTraining (модель ErnieConfig)
- Класс конфигурации EvollaConfig: EvollaForProteinText2Text (модель EvollaConfig)
- Класс конфигурации Exaone4Config: Exaone4ForCausalLM (модель Exaone4Config)
- Класс конфигурации ExaoneMoeConfig: ExaoneMoeForCausalLM (модель ExaoneMoeConfig)
- Класс конфигурации FNetConfig: FNetForPreTraining (модель FNetConfig)
- Класс конфигурации FSMTConfig: FSMTForConditionalGeneration (модель FSMTConfig)
- Класс конфигурации FalconMambaConfig: FalconMambaForCausalLM (модель FalconMambaConfig)
- Класс конфигурации FlaubertConfig: FlaubertWithLMHeadModel (модель FlaubertConfig)
- Класс конфигурации FlavaConfig: FlavaForPreTraining (модель FlavaConfig)
- Класс конфигурации Florence2Config: Florence2ForConditionalGeneration (модель Florence2Config)
- Класс конфигурации FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- Класс конфигурации FunnelConfig: FunnelForPreTraining (модель FunnelConfig)
- Класс конфигурации GPT2Config: GPT2LMHeadModel (модель GPT2Config)
- Класс конфигурации GPTBigCodeConfig: GPTBigCodeForCausalLM (модель GPTBigCodeConfig)
- Класс конфигурации Gemma3Config: Gemma3ForConditionalGeneration (модель Gemma3Config)
- Класс конфигурации Gemma4Config: Gemma4ForConditionalGeneration (модель Gemma4Config)
- Класс конфигурации Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- Класс конфигурации GlmAsrConfig: GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- Класс конфигурации HieraConfig: HieraForPreTraining (модель HieraConfig)
- Класс конфигурации IBertConfig: IBertForMaskedLM (модель IBertConfig)
- Класс конфигурации Idefics2Config: Idefics2ForConditionalGeneration (модель Idefics2Config)
- Класс конфигурации Idefics3Config: Idefics3ForConditionalGeneration (модель Idefics3Config)
- Класс конфигурации IdeficsConfig: IdeficsForVisionText2Text (модель IdeficsConfig)
- Класс конфигурации InklingConfig: InklingForConditionalGeneration (модель InklingConfig)
- Класс конфигурации JanusConfig: JanusForConditionalGeneration (модель JanusConfig)
- Класс конфигурации LayoutLMConfig: LayoutLMForMaskedLM (модель LayoutLMConfig)
- Класс конфигурации LlavaConfig: LlavaForConditionalGeneration (модель LlavaConfig)
- Класс конфигурации LlavaNextConfig: LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- Класс конфигурации LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- Класс конфигурации LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- Класс конфигурации LongformerConfig: LongformerForMaskedLM (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForMaskedLM (модель LukeConfig)
- Класс конфигурации LxmertConfig: LxmertForPreTraining (модель LxmertConfig)
- Класс конфигурации MPNetConfig: MPNetForMaskedLM (модель MPNetConfig)
- Класс конфигурации Mamba2Config: Mamba2ForCausalLM (модель Mamba2Config)
- Класс конфигурации MambaConfig: MambaForCausalLM (модель MambaConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForPreTraining (модель MegatronBertConfig)
- Класс конфигурации Mistral3Config: Mistral3ForConditionalGeneration (модель Mistral3Config)
- Класс конфигурации Mistral4Config: Mistral4ForCausalLM (модель Mistral4Config)
- Класс конфигурации MistralLarge4Config: MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- Класс конфигурации MllamaConfig: MllamaForConditionalGeneration (модель MllamaConfig)
- Класс конфигурации MobileBertConfig: MobileBertForPreTraining (модель MobileBertConfig)
- Класс конфигурации MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- Класс конфигурации MptConfig: MptForCausalLM (модель MptConfig)
- Класс конфигурации MraConfig: MraForMaskedLM (модель MraConfig)
- Класс конфигурации MusicFlamingoConfig: MusicFlamingoForConditionalGeneration (модель MusicFlamingoConfig)
- Класс конфигурации MvpConfig: MvpForConditionalGeneration (модель MvpConfig)
- Класс конфигурации NanoChatConfig: NanoChatForCausalLM (модель NanoChatConfig)
- Класс конфигурации Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- Класс конфигурации NllbMoeConfig: NllbMoeForConditionalGeneration (модель NllbMoeConfig)
- Класс конфигурации OpenAIGPTConfig: OpenAIGPTLMHeadModel (модель OpenAIGPTConfig)
- Класс конфигурации PaliGemmaConfig: PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- Класс конфигурации Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- Класс конфигурации RoCBertConfig: RoCBertForPreTraining (модель RoCBertConfig)
- Класс конфигурации RobertaConfig: RobertaForMaskedLM (модель Robe
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForMaskedLM (модель RobertaPreLayerNormConfig)
- Класс конфигурации RwkvConfig: RwkvForCausalLM (модель RwkvConfig)
- Класс конфигурации SplinterConfig: SplinterForPreTraining (модель SplinterConfig)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForMaskedLM (модель SqueezeBertConfig)
- Класс конфигурации SwitchTransformersConfig: SwitchTransformersForConditionalGeneration (модель SwitchTransformersConfig)
- Класс конфигурации T5Config: T5ForConditionalGeneration (модель T5Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- Класс конфигурации T5GemmaConfig: T5GemmaForConditionalGeneration (модель T5GemmaConfig)
- Класс конфигурации TapasConfig: TapasForMaskedLM (модель TapasConfig)
- Класс конфигурации UniSpeechConfig: UniSpeechForPreTraining (модель UniSpeechConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatForPreTraining (модель UniSpeechSatConfig)
- Класс конфигурации ViTMAEConfig: ViTMAEForPreTraining (модель ViTMAEConfig)
- Класс конфигурации VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- Класс конфигурации VideoLlavaConfig: VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- Класс конфигурации VideoMAEConfig: VideoMAEForPreTraining (модель VideoMAEConfig)
- Класс конфигурации VipLlavaConfig: VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- Класс конфигурации VisualBertConfig: VisualBertForPreTraining (модель VisualBertConfig)
- Класс конфигурации VoxtralConfig: VoxtralForConditionalGeneration (модель VoxtralConfig)
- Класс конфигурации VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2ForPreTraining (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerForPreTraining (модель Wav2Vec2ConformerConfig)
- Класс конфигурации XLMConfig: XLMWithLMHeadModel (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForMaskedLM (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForMaskedLM (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetLMHeadModel (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForMaskedLM (модель XmodConfig)
- Класс конфигурации xLSTMConfig: xLSTMForCausalLM (модель xLSTMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой предобучения) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой предобучения) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForPreTraining (модель AlbertConfig)
- audioflamingo3 — AudioFlamingo3ForConditionalGeneration (модель AudioFlamingo3Config)
- bart — BartForConditionalGeneration (модель BartConfig)
- bert — BertForPreTraining (модель BertConfig)
- big_bird — BigBirdForPreTraining (модель BigBirdConfig)
- bloom — BloomForCausalLM (модель BloomConfig)
- camembert — CamembertForMaskedLM (модель CamembertConfig)
- colmodernvbert — ColModernVBertForRetrieval (модель ColModernVBertConfig)
- colpali — ColPaliForRetrieval (модель ColPaliConfig)
- colqwen2 — ColQwen2ForRetrieval (модель ColQwen2Config)
- ctrl — CTRLLMHeadModel (модель CTRLConfig)
- data2vec-text — Data2VecTextForMaskedLM (модель Data2VecTextConfig)
- deberta — DebertaForMaskedLM (модель DebertaConfig)
- deberta-v2 — DebertaV2ForMaskedLM (модель DebertaV2Config)
- distilbert — DistilBertForMaskedLM (модель DistilBertConfig)
- electra — ElectraForPreTraining (модель ElectraConfig)
- ernie — ErnieForPreTraining (модель ErnieConfig)
- evolla — EvollaForProteinText2Text (модель EvollaConfig)
- exaone4 — Exaone4ForCausalLM (модель Exaone4Config)
- exaone_moe — ExaoneMoeForCausalLM (модель ExaoneMoeConfig)
- falcon_mamba — FalconMambaForCausalLM (модель FalconMambaConfig)
- flaubert — FlaubertWithLMHeadModel (модель FlaubertConfig)
- flava — FlavaForPreTraining (модель FlavaConfig)
- florence2 — Florence2ForConditionalGeneration (модель Florence2Config)
- fnet — FNetForPreTraining (модель FNetConfig)
- fsmt — FSMTForConditionalGeneration (модель FSMTConfig)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- funnel — FunnelForPreTraining (модель FunnelConfig)
- gemma3 — Gemma3ForConditionalGeneration (модель Gemma3Config)
- gemma4 — Gemma4ForConditionalGeneration (модель Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- glmasr — GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- gpt-sw3 — GPT2LMHeadModel (модель GPT2Config)
- gpt2 — GPT2LMHeadModel (модель GPT2Config)
- gpt_bigcode — GPTBigCodeForCausalLM (модель GPTBigCodeConfig)
- hiera — HieraForPreTraining (модель HieraConfig)
- ibert — IBertForMaskedLM (модель IBertConfig)
- idefics — IdeficsForVisionText2Text (модель IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (модель Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (модель Idefics3Config)
- inkling_mm_model — InklingForConditionalGeneration (модель InklingConfig)
- janus — JanusForConditionalGeneration (модель JanusConfig)
- layoutlm — LayoutLMForMaskedLM (модель LayoutLMConfig)
- llava — LlavaForConditionalGeneration (модель LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- longformer — LongformerForMaskedLM (модель LongformerConfig)
- luke — LukeForMaskedLM (модель LukeConfig)
- lxmert — LxmertForPreTraining (модель LxmertConfig)
- mamba — MambaForCausalLM (модель MambaConfig)
- mamba2 — Mamba2ForCausalLM (модель Mamba2Config)
- megatron-bert — MegatronBertForPreTraining (модель MegatronBertConfig)
- mistral3 — Mistral3ForConditionalGeneration (модель Mistral3Config)
- mistral4 — Mistral4ForCausalLM (модель Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (модель MllamaConfig)
- mobilebert — MobileBertForPreTraining (модель MobileBertConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- mpnet — MPNetForMaskedLM (модель MPNetConfig)
- mpt — MptForCausalLM (модель MptConfig)
- mra — MraForMaskedLM (модель MraConfig)
- musicflamingo — MusicFlamingoForConditionalGeneration (модель MusicFlamingoConfig)
- mvp — MvpForConditionalGeneration (модель MvpConfig)
- nanochat — NanoChatForCausalLM (модель NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- nllb-moe — NllbMoeForConditionalGeneration (модель NllbMoeConfig)
- openai-gpt — OpenAIGPTLMHeadModel (модель OpenAIGPTConfig)
- paligemma — PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- roberta — RobertaForMaskedLM (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMaskedLM (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForPreTraining (модель RoCBertConfig)
- rwkv — RwkvForCausalLM (модель RwkvConfig)
- splinter — SplinterForPreTraining (модель SplinterConfig)
- squeezebert — SqueezeBertForMaskedLM (модель SqueezeBertConfig)
- switch_transformers — SwitchTransformersForConditionalGeneration (модель SwitchTransformersConfig)
- t5 — T5ForConditionalGeneration (модель T5Config)
- t5gemma — T5GemmaForConditionalGeneration (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- tapas — TapasForMaskedLM (модель TapasConfig)
- unispeech — UniSpeechForPreTraining (модель UniSpeechConfig)
- unispeech-sat — UniSpeechSatForPreTraining (модель UniSpeechSatConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- video_llava — VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- videomae — VideoMAEForPreTraining (модель VideoMAEConfig)
- vipllava — VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- visual_bert — VisualBertForPreTraining (модель VisualBertConfig)
- vit_mae — ViTMAEForPreTraining (модель ViTMAEConfig)
- voxtral — VoxtralForConditionalGeneration (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2ForPreTraining (модель Wav2Vec2Config)
- wav2vec2-conformer — Wav2Vec2ConformerForPreTraining (модель Wav2Vec2ConformerConfig)
- xlm — XLMWithLMHeadModel (модель XLMConfig)
- xlm-roberta — XLMRobertaForMaskedLM (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMaskedLM (модель XLMRobertaXLConfig)
- xlnet — XLNetLMHeadModel (модель XLNetConfig)
- xlstm — xLSTMForCausalLM (модель xLSTMConfig)
- xmod — XmodForMaskedLM (модель XmodConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForPreTraining
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueОбработка естественного языка
Для следующих задач обработки естественного языка доступны следующие автоклассы.
AutoModelForCausalLM
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для каузального языкового моделирования).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации AXK1Config: AXK1ForCausalLM (модель AXK1Config)
- Класс конфигурации AXK2Config: AXK2ForCausalLM (модель AXK2Config)
- Класс конфигурации AfmoeConfig: AfmoeForCausalLM (модель AfmoeConfig)
- Класс конфигурации ApertusConfig: ApertusForCausalLM (модель ApertusConfig)
- Класс конфигурации ArceeConfig: ArceeForCausalLM (модель ArceeConfig)
- Класс конфигурации AriaTextConfig: AriaTextForCausalLM (модель AriaTextConfig)
- Класс конфигурации BailingHybridConfig: BailingHybridForCausalLM (модель BailingHybridConfig)
- Класс конфигурации BambaConfig: BambaForCausalLM (модель BambaConfig)
- Класс конфигурации BartConfig: BartForCausalLM (модель BartConfig)
- Класс конфигурации BeamConfig: BeamForCausalLM (модель BeamConfig)
- Класс конфигурации BertConfig: BertLMHeadModel (модель BertConfig)
- Класс конфигурации BertGenerationConfig: BertGenerationDecoder (модель BertGenerationConfig)
- Класс конфигурации BigBirdConfig: BigBirdForCausalLM (модель BigBirdConfig)
- Класс конфигурации BigBirdPegasusConfig: BigBirdPegasusForCausalLM (модель BigBirdPegasusConfig)
- Класс конфигурации BioGptConfig: BioGptForCausalLM (модель BioGptConfig)
- Класс конфигурации BitNetConfig: BitNetForCausalLM (модель BitNetConfig)
- Класс конфигурации BlenderbotConfig: BlenderbotForCausalLM (модель BlenderbotConfig)
- Класс конфигурации BlenderbotSmallConfig: BlenderbotSmallForCausalLM (модель BlenderbotSmallConfig)
- Класс конфигурации BloomConfig: BloomForCausalLM (модель BloomConfig)
- Класс конфигурации BltConfig: BltForCausalLM (модель BltConfig)
- Класс конфигурации CTRLConfig: CTRLLMHeadModel (модель CTRLConfig)
- Класс конфигурации CamembertConfig: CamembertForCausalLM (модель CamembertConfig)
- Класс конфигурации CodeGenConfig: CodeGenForCausalLM (модель CodeGenConfig)
- Класс конфигурации Cohere2Config: Cohere2ForCausalLM (модель Cohere2Config)
- Класс конфигурации Cohere2MoeConfig: Cohere2MoeForCausalLM (модель Cohere2MoeConfig)
- Класс конфигурации CohereCompassTextConfig: CohereCompassForCausalLM (модель CohereCompassTextConfig)
- Класс конфигурации CohereConfig: CohereForCausalLM (модель CohereConfig)
- Класс конфигурации CpmAntConfig: CpmAntForCausalLM (модель CpmAntConfig)
- Класс конфигурации CwmConfig: CwmForCausalLM (модель CwmConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForCausalLM (модель Data2VecTextConfig)
- Класс конфигурации DbrxConfig: DbrxForCausalLM (модель DbrxConfig)
- Класс конфигурации DeepseekV2Config: DeepseekV2ForCausalLM (модель DeepseekV2Config)
- Класс конфигурации DeepseekV32Config: DeepseekV32ForCausalLM (модель DeepseekV32Config)
- Класс конфигурации DeepseekV3Config: DeepseekV3ForCausalLM (модель DeepseekV3Config)
- Класс конфигурации DeepseekV4Config: DeepseekV4ForCausalLM (модель DeepseekV4Config)
- Класс конфигурации DiffLlamaConfig: DiffLlamaForCausalLM (модель DiffLlamaConfig)
- Класс конфигурации DogeConfig: DogeForCausalLM (модель DogeConfig)
- Класс конфигурации Dots1Config: Dots1ForCausalLM (модель Dots1Config)
- Класс конфигурации ElectraConfig: ElectraForCausalLM (модель ElectraConfig)
- Класс конфигурации Emu3Config: Emu3ForCausalLM (модель Emu3Config)
- Класс конфигурации Ernie4_5Config: Ernie4_5ForCausalLM (модель Ernie4_5Config)
- Класс конфигурации Ernie4_5_MoeConfig: Ernie4_5_MoeForCausalLM (модель Ernie4_5_MoeConfig)
- Класс конфигурации ErnieConfig: ErnieForCausalLM (модель ErnieConfig)
- Класс конфигурации Exaone4Config: Exaone4ForCausalLM (модель Exaone4Config)
- Класс конфигурации ExaoneMoeConfig: ExaoneMoeForCausalLM (модель ExaoneMoeConfig)
- Класс конфигурации FalconConfig: FalconForCausalLM (модель FalconConfig)
- Класс конфигурации FalconH1Config: FalconH1ForCausalLM (модель FalconH1Config)
- Класс конфигурации FalconMambaConfig: FalconMambaForCausalLM (модель FalconMambaConfig)
- Класс конфигурации FlexOlmoConfig: FlexOlmoForCausalLM (модель FlexOlmoConfig)
- Класс конфигурации FlintConfig: FlintForCausalLM (модель FlintConfig)
- Класс конфигурации FuyuConfig: FuyuForCausalLM (модель FuyuConfig)
- Класс конфигурации GPT2Config: GPT2LMHeadModel (модель GPT2Config)
- Класс конфигурации GPTBigCodeConfig: GPTBigCodeForCausalLM (модель GPTBigCodeConfig)
- Класс конфигурации GPTJConfig: GPTJForCausalLM (модель GPTJConfig)
- Класс конфигурации GPTNeoConfig: GPTNeoForCausalLM (модель GPTNeoConfig)
- Класс конфигурации GPTNeoXConfig: GPTNeoXForCausalLM (модель GPTNeoXConfig)
- Класс конфигурации GPTNeoXJapaneseConfig: GPTNeoXJapaneseForCausalLM (модель GPTNeoXJapaneseConfig)
- Класс конфигурации Gemma2Config: Gemma2ForCausalLM (модель Gemma2Config)
- Класс конфигурации Gemma3Config: Gemma3ForConditionalGeneration (модель Gemma3Config)
- Класс конфигурации Gemma3TextConfig: Gemma3ForCausalLM (модель Gemma3TextConfig)
- Класс конфигурации Gemma3nConfig: Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- Класс конфигурации Gemma3nTextConfig: Gemma3nForCausalLM (модель Gemma3nTextConfig)
- Класс конфигурации Gemma4AssistantConfig: Gemma4AssistantForCausalLM (модель Gemma4AssistantConfig)
- Класс конфигурации Gemma4Config: Gemma4ForConditionalGeneration (модель Gemma4Config)
- Класс конфигурации Gemma4TextConfig: Gemma4ForCausalLM (модель Gemma4TextConfig)
- Класс конфигурации Gemma4UnifiedAssistantConfig: Gemma4UnifiedAssistantForCausalLM (модель Gemma4UnifiedAssistantConfig)
- Класс конфигурации Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- Класс конфигурации Gemma4UnifiedTextConfig: Gemma4UnifiedForCausalLM (модель Gemma4UnifiedTextConfig)
- Класс конфигурации GemmaConfig: GemmaForCausalLM (модель GemmaConfig)
- Класс конфигурации GitConfig: GitForCausalLM (модель GitConfig)
- Класс конфигурации Glm4Config: Glm4ForCausalLM (модель Glm4Config)
- Класс конфигурации Glm4MoeConfig: Glm4MoeForCausalLM (модель Glm4MoeConfig)
- Класс конфигурации Glm4MoeLiteConfig: Glm4MoeLiteForCausalLM (модель Glm4MoeLiteConfig)
- Класс конфигурации GlmConfig: GlmForCausalLM (модель GlmConfig)
- Класс конфигурации GlmMoeDsaConfig: GlmMoeDsaForCausalLM (модель GlmMoeDsaConfig)
- Класс конфигурации GotOcr2Config: GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- Класс конфигурации GptOssConfig: GptOssForCausalLM (модель GptOssConfig)
- Класс конфигурации GraniteConfig: GraniteForCausalLM (модель GraniteConfig)
- Класс конфигурации GraniteMoeConfig: GraniteMoeForCausalLM (модель GraniteMoeConfig)
- Класс конфигурации GraniteMoeHybridConfig: GraniteMoeHybridForCausalLM (модель GraniteMoeHybridConfig)
- Класс конфигурации GraniteMoeSWAConfig: GraniteMoeSWAForCausalLM (модель GraniteMoeSWAConfig)
- Класс конфигурации GraniteMoeSharedConfig: GraniteMoeSharedForCausalLM (модель GraniteMoeSharedConfig)
- Класс конфигурации GraniteSWAConfig: GraniteSWAForCausalLM (модель GraniteSWAConfig)
- Класс конфигурации HYV3Config: HYV3ForCausalLM (модель HYV3Config)
- Класс конфигурации HYV4Config: HYV4ForCausalLM (модель HYV4Config)
- Класс конфигурации HeliumConfig: HeliumForCausalLM (модель HeliumConfig)
- Класс конфигурации HrmTextConfig: HrmTextForCausalLM (модель HrmTextConfig)
- Класс конфигурации HunYuanDenseV1Config: HunYuanDenseV1ForCausalLM (модель HunYuanDenseV1Config)
- Класс конфигурации HunYuanMoEV1Config: HunYuanMoEV1ForCausalLM (модель HunYuanMoEV1Config)
- Класс конфигурации HyperCLOVAXConfig: HyperCLOVAXForCausalLM (модель HyperCLOVAXConfig)
- Класс конфигурации InklingTextConfig: InklingForCausalLM (модель InklingTextConfig)
- Класс конфигурации Jais2Config: Jais2ForCausalLM (модель Jais2Config)
- Класс конфигурации JambaConfig: JambaForCausalLM (модель JambaConfig)
- Класс конфигурации JetMoeConfig: JetMoeForCausalLM (модель JetMoeConfig)
- Класс конфигурации KimiLinearConfig: KimiLinearForCausalLM (модель KimiLinearConfig)
- Класс конфигурации Kolibri1Config: Kolibri1ForCausalLM (модель Kolibri1Config)
- Класс конфигурации LagunaConfig: LagunaForCausalLM (модель LagunaConfig)
- Класс конфигурации Lfm2Config: Lfm2ForCausalLM (модель Lfm2Config)
- Класс конфигурации Lfm2MoeConfig: Lfm2MoeForCausalLM (модель Lfm2MoeConfig)
- Класс конфигурации Llama4Config: Llama4ForCausalLM (модель Llama4Config)
- Класс конфигурации Llama4TextConfig: Llama4ForCausalLM (модель Llama4TextConfig)
- Класс конфигурации LlamaConfig: LlamaForCausalLM (модель LlamaConfig)
- Класс конфигурации LongcatFlashConfig: LongcatFlashForCausalLM (модель LongcatFlashConfig)
- Класс конфигурации MBartConfig: MBartForCausalLM (модель MBartConfig)
- Класс конфигурации Mamba2Config: Mamba2ForCausalLM (модель Mamba2Config)
- Класс конфигурации MambaConfig: MambaForCausalLM (модель MambaConfig)
- Класс конфигурации MarianConfig: MarianForCausalLM (модель MarianConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForCausalLM (модель MegatronBertConfig)
- Класс конфигурации MellumConfig: MellumForCausalLM (модель MellumConfig)
- Класс конфигурации MiMoV2FlashConfig: MiMoV2FlashForCausalLM (модель MiMoV2FlashConfig)
- Класс конфигурации MiniCPM3Config: MiniCPM3ForCausalLM (модель MiniCPM3Config)
- Класс конфигурации MiniMaxConfig: MiniMaxForCausalLM (модель MiniMaxConfig)
- Класс конфигурации MiniMaxM2Config: MiniMaxM2ForCausalLM (модель MiniMaxM2Config)
- Класс конфигурации MiniMaxM3VLTextConfig: MiniMaxM3VLForCausalLM (модель MiniMaxM3VLTextConfig)
- Класс конфигурации Ministral3Config: Ministral3ForCausalLM (модель Ministral3Config)
- Класс конфигурации MinistralConfig: MinistralForCausalLM (модель MinistralConfig)
- Класс конфигурации MistralConfig: MistralForCausalLM (модель MistralConfig)
- Класс конфигурации MixtralConfig: MixtralForCausalLM (модель MixtralConfig)
- Класс конфигурации MllamaConfig: MllamaForCausalLM (модель MllamaConfig)
- Класс конфигурации ModernBertDecoderConfig: ModernBertDecoderForCausalLM (модель ModernBertDecoderConfig)
- Класс конфигурации MoshiConfig: MoshiForCausalLM (модель MoshiConfig)
- Класс конфигурации MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- Класс конфигурации MptConfig: MptForCausalLM (модель MptConfig)
- Класс конфигурации MusicgenConfig: MusicgenForCausalLM (модель MusicgenConfig)
- Класс конфигурации MusicgenMelodyConfig: MusicgenMelodyForCausalLM (модель MusicgenMelodyConfig)
- Класс конфигурации MvpConfig: MvpForCausalLM (модель MvpConfig)
- Класс конфигурации NanoChatConfig: NanoChatForCausalLM (модель NanoChatConfig)
- Класс конфигурации NemotronConfig: NemotronForCausalLM (модель NemotronConfig)
- Класс конфигурации NemotronHConfig: NemotronHForCausalLM (модель NemotronHConfig)
- Класс конфигурации OPTConfig: OPTForCausalLM (модель OPTConfig)
- Класс конфигурации Olmo2Config: Olmo2ForCausalLM (модель Olmo2Config)
- Класс конфигурации Olmo3Config: Olmo3ForCausalLM (модель Olmo3Config)
- Класс конфигурации OlmoConfig: OlmoForCausalLM (модель OlmoConfig)
- Класс конфигурации OlmoHybridConfig: OlmoHybridForCausalLM (модель OlmoHybridConfig)
- Класс конфигурации OlmoeConfig: OlmoeForCausalLM (модель OlmoeConfig)
- Класс конфигурации OpenAIGPTConfig: OpenAIGPTLMHeadModel (модель OpenAIGPTConfig)
- Класс конфигурации PLBartConfig: PLBartForCausalLM (модель PLBartConfig)
- Класс конфигурации PegasusConfig: PegasusForCausalLM (модель PegasusConfig)
- Класс конфигурации PersimmonConfig: PersimmonForCausalLM (модель PersimmonConfig)
- Класс конфигурации Phi3Config: Phi3ForCausalLM (модель Phi3Config)
- Класс конфигурации Phi4MultimodalConfig: Phi4MultimodalForCausalLM (модель Phi4MultimodalConfig)
- Класс конфигурации PhiConfig: PhiForCausalLM (модель PhiConfig)
- Класс конфигурации PhimoeConfig: PhimoeForCausalLM (модель PhimoeConfig)
- Класс конфигурации ProphetNetConfig: ProphetNetForCausalLM (модель ProphetNetConfig)
- Класс конфигурации Qwen2Config: Qwen2ForCausalLM (модель Qwen2Config)
- Класс конфигурации Qwen2MoeConfig: Qwen2MoeForCausalLM (модель Qwen2MoeConfig)
- Класс конфигурации Qwen3Config: Qwen3ForCausalLM (модель Qwen3Config)
- Класс конфигурации Qwen3MoeConfig: Qwen3MoeForCausalLM (модель Qwen3MoeConfig)
- Класс конфигурации Qwen3NextConfig: Qwen3NextForCausalLM (модель Qwen3NextConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5ForCausalLM (модель Qwen3_5Config)
- Класс конфигурации Qwen3_5MoeConfig: Qwen3_5MoeForCausalLM (модель Qwen3_5MoeConfig)
- Класс конфигурации Qwen3_5MoeTextConfig: Qwen3_5MoeForCausalLM (модель Qwen3_5MoeTextConfig)
- Класс конфигурации Qwen3_5TextConfig: Qwen3_5ForCausalLM (модель Qwen3_5TextConfig)
- Класс конфигурации Qwen4ExpConfig: Qwen4ExpForCausalLM (модель Qwen4ExpConfig)
- Класс конфигурации Qwen4ExpTextConfig: Qwen4ExpForCausalLM (модель Qwen4ExpTextConfig)
- Класс конфигурации RecurrentGemmaConfig: RecurrentGemmaForCausalLM (модель RecurrentGemmaConfig)
- Класс конфигурации ReformerConfig: ReformerModelWithLMHead (модель ReformerConfig)
- Класс конфигурации RemBertConfig: RemBertForCausalLM (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForCausalLM (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForCausalLM (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForCausalLM (модель Robe
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForCausalLM (модель RobertaPreLayerNormConfig)
- Класс конфигурации RwkvConfig: RwkvForCausalLM (модель RwkvConfig)
- Класс конфигурации SeedOssConfig: SeedOssForCausalLM (модель SeedOssConfig)
- Класс конфигурации SmolLM3Config: SmolLM3ForCausalLM (модель SmolLM3Config)
- Класс конфигурации SolarOpenConfig: SolarOpenForCausalLM (модель SolarOpenConfig)
- Класс конфигурации StableLmConfig: StableLmForCausalLM (модель StableLmConfig)
- Класс конфигурации Starcoder2Config: Starcoder2ForCausalLM (модель Starcoder2Config)
- Класс конфигурации TrOCRConfig: TrOCRForCausalLM (модель TrOCRConfig)
- Класс конфигурации VaultGemmaConfig: VaultGemmaForCausalLM (модель VaultGemmaConfig)
- Класс конфигурации WhisperConfig: WhisperForCausalLM (модель WhisperConfig)
- Класс конфигурации XGLMConfig: XGLMForCausalLM (модель XGLMConfig)
- Класс конфигурации XLMConfig: XLMWithLMHeadModel (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForCausalLM (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForCausalLM (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetLMHeadModel (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForCausalLM (модель XmodConfig)
- Класс конфигурации YoutuConfig: YoutuForCausalLM (модель YoutuConfig)
- Класс конфигурации Zamba2Config: Zamba2ForCausalLM (модель Zamba2Config)
- Класс конфигурации ZambaConfig: ZambaForCausalLM (модель ZambaConfig)
- Класс конфигурации ZayaConfig: ZayaForCausalLM (модель ZayaConfig)
- Класс конфигурации xLSTMConfig: xLSTMForCausalLM (модель xLSTMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для каузального моделирования языка) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с заголовком для каузального языкового моделирования) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- afmoe — AfmoeForCausalLM (модель AfmoeConfig)
- apertus — ApertusForCausalLM (модель ApertusConfig)
- arcee — ArceeForCausalLM (модель ArceeConfig)
- aria_text — AriaTextForCausalLM (модель AriaTextConfig)
- axk1 — AXK1ForCausalLM (модель AXK1Config)
- axk2 — AXK2ForCausalLM (модель AXK2Config)
- bailing_hybrid — BailingHybridForCausalLM (модель BailingHybridConfig)
- bamba — BambaForCausalLM (модель BambaConfig)
- bart — BartForCausalLM (модель BartConfig)
- beam — BeamForCausalLM (модель BeamConfig)
- bert — BertLMHeadModel (модель BertConfig)
- bert-generation — BertGenerationDecoder (модель BertGenerationConfig)
- big_bird — BigBirdForCausalLM (модель BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForCausalLM (модель BigBirdPegasusConfig)
- biogpt — BioGptForCausalLM (модель BioGptConfig)
- bitnet — BitNetForCausalLM (модель BitNetConfig)
- blenderbot — BlenderbotForCausalLM (модель BlenderbotConfig)
- blenderbot-small — BlenderbotSmallForCausalLM (модель BlenderbotSmallConfig)
- bloom — BloomForCausalLM (модель BloomConfig)
- blt — BltForCausalLM (модель BltConfig)
- camembert — CamembertForCausalLM (модель CamembertConfig)
- codegen — CodeGenForCausalLM (модель CodeGenConfig)
- cohere — CohereForCausalLM (модель CohereConfig)
- cohere2 — Cohere2ForCausalLM (модель Cohere2Config)
- cohere2_moe — Cohere2MoeForCausalLM (модель Cohere2MoeConfig)
- cohere_compass_text — CohereCompassForCausalLM (модель CohereCompassTextConfig)
- cpmant — CpmAntForCausalLM (модель CpmAntConfig)
- ctrl — CTRLLMHeadModel (модель CTRLConfig)
- cwm — CwmForCausalLM (модель CwmConfig)
- data2vec-text — Data2VecTextForCausalLM (модель Data2VecTextConfig)
- dbrx — DbrxForCausalLM (модель DbrxConfig)
- deepseek_v2 — DeepseekV2ForCausalLM (модель DeepseekV2Config)
- deepseek_v3 — DeepseekV3ForCausalLM (модель DeepseekV3Config)
- deepseek_v32 — DeepseekV32ForCausalLM (модель DeepseekV32Config)
- deepseek_v4 — DeepseekV4ForCausalLM (модель DeepseekV4Config)
- diffllama — DiffLlamaForCausalLM (модель DiffLlamaConfig)
- doge — DogeForCausalLM (модель DogeConfig)
- dots1 — Dots1ForCausalLM (модель Dots1Config)
- electra — ElectraForCausalLM (модель ElectraConfig)
- emu3 — Emu3ForCausalLM (модель Emu3Config)
- ernie — ErnieForCausalLM (модель ErnieConfig)
- ernie4_5 — Ernie4_5ForCausalLM (модель Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeForCausalLM (модель Ernie4_5_MoeConfig)
- exaone4 — Exaone4ForCausalLM (модель Exaone4Config)
- exaone_moe — ExaoneMoeForCausalLM (модель ExaoneMoeConfig)
- falcon — FalconForCausalLM (модель FalconConfig)
- falcon_h1 — FalconH1ForCausalLM (модель FalconH1Config)
- falcon_mamba — FalconMambaForCausalLM (модель FalconMambaConfig)
- flex_olmo — FlexOlmoForCausalLM (модель FlexOlmoConfig)
- flint — FlintForCausalLM (модель FlintConfig)
- fuyu — FuyuForCausalLM (модель FuyuConfig)
- gemma — GemmaForCausalLM (модель GemmaConfig)
- gemma2 — Gemma2ForCausalLM (модель Gemma2Config)
- gemma3 — Gemma3ForConditionalGeneration (модель Gemma3Config)
- gemma3_text — Gemma3ForCausalLM (модель Gemma3TextConfig)
- gemma3n — Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- gemma3n_text — Gemma3nForCausalLM (модель Gemma3nTextConfig)
- gemma4 — Gemma4ForConditionalGeneration (модель Gemma4Config)
- gemma4_assistant — Gemma4AssistantForCausalLM (модель Gemma4AssistantConfig)
- gemma4_text — Gemma4ForCausalLM (модель Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- gemma4_unified_assistant — Gemma4UnifiedAssistantForCausalLM (модель Gemma4UnifiedAssistantConfig)
- gemma4_unified_text — Gemma4UnifiedForCausalLM (модель Gemma4UnifiedTextConfig)
- git — GitForCausalLM (модель GitConfig)
- glm — GlmForCausalLM (модель GlmConfig)
- glm4 — Glm4ForCausalLM (модель Glm4Config)
- glm4_moe — Glm4MoeForCausalLM (модель Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteForCausalLM (модель Glm4MoeLiteConfig)
- glm_moe_dsa — GlmMoeDsaForCausalLM (модель GlmMoeDsaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- gpt-sw3 — GPT2LMHeadModel (модель GPT2Config)
- gpt2 — GPT2LMHeadModel (модель GPT2Config)
- gpt_bigcode — GPTBigCodeForCausalLM (модель GPTBigCodeConfig)
- gpt_neo — GPTNeoForCausalLM (модель GPTNeoConfig)
- gpt_neox — GPTNeoXForCausalLM (модель GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseForCausalLM (модель GPTNeoXJapaneseConfig)
- gpt_oss — GptOssForCausalLM (модель GptOssConfig)
- gptj — GPTJForCausalLM (модель GPTJConfig)
- granite — GraniteForCausalLM (модель GraniteConfig)
- granite_swa — GraniteSWAForCausalLM (модель GraniteSWAConfig)
- granitemoe — GraniteMoeForCausalLM (модель GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAForCausalLM (модель GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridForCausalLM (модель GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedForCausalLM (модель GraniteMoeSharedConfig)
- helium — HeliumForCausalLM (модель HeliumConfig)
- hrm_text — HrmTextForCausalLM (модель HrmTextConfig)
- hunyuan_v1_dense — HunYuanDenseV1ForCausalLM (модель HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1ForCausalLM (модель HunYuanMoEV1Config)
- hy_v3 — HYV3ForCausalLM (модель HYV3Config)
- hy_v4 — HYV4ForCausalLM (модель HYV4Config)
- hyperclovax — HyperCLOVAXForCausalLM (модель HyperCLOVAXConfig)
- inkling_text — InklingForCausalLM (модель InklingTextConfig)
- jais2 — Jais2ForCausalLM (модель Jais2Config)
- jamba — JambaForCausalLM (модель JambaConfig)
- jetmoe — JetMoeForCausalLM (модель JetMoeConfig)
- kimi_linear — KimiLinearForCausalLM (модель KimiLinearConfig)
- kolibri1 — Kolibri1ForCausalLM (модель Kolibri1Config)
- laguna — LagunaForCausalLM (модель LagunaConfig)
- lfm2 — Lfm2ForCausalLM (модель Lfm2Config)
- lfm2_moe — Lfm2MoeForCausalLM (модель Lfm2MoeConfig)
- llama — LlamaForCausalLM (модель LlamaConfig)
- llama4 — Llama4ForCausalLM (модель Llama4Config)
- llama4_text — Llama4ForCausalLM (модель Llama4TextConfig)
- longcat_flash — LongcatFlashForCausalLM (модель LongcatFlashConfig)
- mamba — MambaForCausalLM (модель MambaConfig)
- mamba2 — Mamba2ForCausalLM (модель Mamba2Config)
- marian — MarianForCausalLM (модель MarianConfig)
- mbart — MBartForCausalLM (модель MBartConfig)
- megatron-bert — MegatronBertForCausalLM (модель MegatronBertConfig)
- mellum — MellumForCausalLM (модель MellumConfig)
- mimo_v2_flash — MiMoV2FlashForCausalLM (модель MiMoV2FlashConfig)
- minicpm3 — MiniCPM3ForCausalLM (модель MiniCPM3Config)
- minimax — MiniMaxForCausalLM (модель MiniMaxConfig)
- minimax_m2 — MiniMaxM2ForCausalLM (модель MiniMaxM2Config)
- minimax_m3_vl_text — MiniMaxM3VLForCausalLM (модель MiniMaxM3VLTextConfig)
- ministral — MinistralForCausalLM (модель MinistralConfig)
- ministral3 — Ministral3ForCausalLM (модель Ministral3Config)
- mistral — MistralForCausalLM (модель MistralConfig)
- mixtral — MixtralForCausalLM (модель MixtralConfig)
- mllama — MllamaForCausalLM (модель MllamaConfig)
- modernbert-decoder — ModernBertDecoderForCausalLM (модель ModernBertDecoderConfig)
- moshi — MoshiForCausalLM (модель MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- mpt — MptForCausalLM (модель MptConfig)
- musicgen — MusicgenForCausalLM (модель MusicgenConfig)
- musicgen_melody — MusicgenMelodyForCausalLM (модель MusicgenMelodyConfig)
- mvp — MvpForCausalLM (модель MvpConfig)
- nanochat — NanoChatForCausalLM (модель NanoChatConfig)
- nemotron — NemotronForCausalLM (модель NemotronConfig)
- nemotron_h — NemotronHForCausalLM (модель NemotronHConfig)
- olmo — OlmoForCausalLM (модель OlmoConfig)
- olmo2 — Olmo2ForCausalLM (модель Olmo2Config)
- olmo3 — Olmo3ForCausalLM (модель Olmo3Config)
- olmo_hybrid — OlmoHybridForCausalLM (модель OlmoHybridConfig)
- olmoe — OlmoeForCausalLM (модель OlmoeConfig)
- openai-gpt — OpenAIGPTLMHeadModel (модель OpenAIGPTConfig)
- opt — OPTForCausalLM (модель OPTConfig)
- pegasus — PegasusForCausalLM (модель PegasusConfig)
- persimmon — PersimmonForCausalLM (модель PersimmonConfig)
- phi — PhiForCausalLM (модель PhiConfig)
- phi3 — Phi3ForCausalLM (модель Phi3Config)
- phi4_multimodal — Phi4MultimodalForCausalLM (модель Phi4MultimodalConfig)
- phimoe — PhimoeForCausalLM (модель PhimoeConfig)
- plbart — PLBartForCausalLM (модель PLBartConfig)
- prophetnet — ProphetNetForCausalLM (модель ProphetNetConfig)
- qwen2 — Qwen2ForCausalLM (модель Qwen2Config)
- qwen2_moe — Qwen2MoeForCausalLM (модель Qwen2MoeConfig)
- qwen3 — Qwen3ForCausalLM (модель Qwen3Config)
- qwen3_5 — Qwen3_5ForCausalLM (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForCausalLM (модель Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeForCausalLM (модель Qwen3_5MoeTextConfig)
- qwen3_5_text — Qwen3_5ForCausalLM (модель Qwen3_5TextConfig)
- qwen3_moe — Qwen3MoeForCausalLM (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextForCausalLM (модель Qwen3NextConfig)
- qwen4_exp — Qwen4ExpForCausalLM (модель Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpForCausalLM (модель Qwen4ExpTextConfig)
- recurrent_gemma — RecurrentGemmaForCausalLM (модель RecurrentGemmaConfig)
- reformer — ReformerModelWithLMHead (модель ReformerConfig)
- rembert — RemBertForCausalLM (модель RemBertConfig)
- roberta — RobertaForCausalLM (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForCausalLM (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForCausalLM (модель RoCBertConfig)
- roformer — RoFormerForCausalLM (модель RoFormerConfig)
- rwkv — RwkvForCausalLM (модель RwkvConfig)
- seed_oss — SeedOssForCausalLM (модель SeedOssConfig)
- smollm3 — SmolLM3ForCausalLM (модель SmolLM3Config)
- solar_open — SolarOpenForCausalLM (модель SolarOpenConfig)
- stablelm — StableLmForCausalLM (модель StableLmConfig)
- starcoder2 — Starcoder2ForCausalLM (модель Starcoder2Config)
- trocr — TrOCRForCausalLM (модель TrOCRConfig)
- vaultgemma — VaultGemmaForCausalLM (модель VaultGemmaConfig)
- whisper — WhisperForCausalLM (модель WhisperConfig)
- xglm — XGLMForCausalLM (модель XGLMConfig)
- xlm — XLMWithLMHeadModel (модель XLMConfig)
- xlm-roberta — XLMRobertaForCausalLM (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForCausalLM (модель XLMRobertaXLConfig)
- xlnet — XLNetLMHeadModel (модель XLNetConfig)
- xlstm — xLSTMForCausalLM (модель xLSTMConfig)
- xmod — XmodForCausalLM (модель XmodConfig)
- youtu — YoutuForCausalLM (модель YoutuConfig)
- zamba — ZambaForCausalLM (модель ZambaConfig)
- zamba2 — Zamba2ForCausalLM (модель Zamba2Config)
- zaya — ZayaForCausalLM (модель ZayaConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForCausalLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMaskedLM
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для маскированного языкового моделирования).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AlbertConfig: AlbertForMaskedLM (модель AlbertConfig)
- Класс конфигурации BartConfig: BartForConditionalGeneration (модель BartConfig)
- Класс конфигурации BertConfig: BertForMaskedLM (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForMaskedLM (модель BigBirdConfig)
- Класс конфигурации CamembertConfig: CamembertForMaskedLM (модель CamembertConfig)
- Класс конфигурации ConvBertConfig: ConvBertForMaskedLM (модель ConvBertConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForMaskedLM (модель Data2VecTextConfig)
- Класс конфигурации DebertaConfig: DebertaForMaskedLM (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForMaskedLM (модель DebertaV2Config)
- Класс конфигурации DistilBertConfig: DistilBertForMaskedLM (модель DistilBertConfig)
- Класс конфигурации ElectraConfig: ElectraForMaskedLM (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForMaskedLM (модель ErnieConfig)
- Класс конфигурации EsmConfig: EsmForMaskedLM (модель EsmConfig)
- Класс конфигурации EsmcConfig: EsmcForMaskedLM (модель EsmcConfig)
- Класс конфигурации EuroBertConfig: EuroBertForMaskedLM (модель EuroBertConfig)
- Класс конфигурации FNetConfig: FNetForMaskedLM (модель FNetConfig)
- Класс конфигурации FlaubertConfig: FlaubertWithLMHeadModel (модель FlaubertConfig)
- Класс конфигурации FunnelConfig: FunnelForMaskedLM (модель FunnelConfig)
- Класс конфигурации GteConfig: GteForMaskedLM (модель GteConfig)
- Класс конфигурации IBertConfig: IBertForMaskedLM (модель IBertConfig)
- Класс конфигурации JinaEmbeddingsV3Config: JinaEmbeddingsV3ForMaskedLM (модель JinaEmbeddingsV3Config)
- Класс конфигурации LayoutLMConfig: LayoutLMForMaskedLM (модель LayoutLMConfig)
- Класс конфигурации LongformerConfig: LongformerForMaskedLM (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForMaskedLM (модель LukeConfig)
- Класс конфигурации MBartConfig: MBartForConditionalGeneration (модель MBartConfig)
- Класс конфигурации MPNetConfig: MPNetForMaskedLM (модель MPNetConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForMaskedLM (модель MegatronBertConfig)
- Класс конфигурации MobileBertConfig: MobileBertForMaskedLM (модель MobileBertConfig)
- Класс конфигурации ModernBertConfig: ModernBertForMaskedLM (модель ModernBertConfig)
- Класс конфигурации ModernVBertConfig: ModernVBertForMaskedLM (модель ModernVBertConfig)
- Класс конфигурации MraConfig: MraForMaskedLM (модель MraConfig)
- Класс конфигурации MvpConfig: MvpForConditionalGeneration (модель MvpConfig)
- Класс конфигурации NeoMMEConfig: NeoMMEForMaskedLM (модель NeoMMEConfig)
- Класс конфигурации NomicBertConfig: NomicBertForMaskedLM (модель NomicBertConfig)
- Класс конфигурации NystromformerConfig: NystromformerForMaskedLM (модель NystromformerConfig)
- Класс конфигурации PerceiverConfig: PerceiverForMaskedLM (модель PerceiverConfig)
- Класс конфигурации ReformerConfig: ReformerForMaskedLM (модель ReformerConfig)
- Класс конфигурации RemBertConfig: RemBertForMaskedLM (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForMaskedLM (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForMaskedLM (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForMaskedLM (модель Robe
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForMaskedLM (модель RobertaPreLayerNormConfig)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForMaskedLM (модель SqueezeBertConfig)
- Класс конфигурации TapasConfig: TapasForMaskedLM (модель TapasConfig)
- Класс конфигурации UltraVBertConfig: UltraVBertForMaskedLM (модель UltraVBertConfig)
- Класс конфигурации UltrabertConfig: UltrabertForMaskedLM (модель UltrabertConfig)
- Класс конфигурации XLMConfig: XLMWithLMHeadModel (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForMaskedLM (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForMaskedLM (модель XLMRobertaXLConfig)
- Класс конфигурации XmodConfig: XmodForMaskedLM (модель XmodConfig)
- Класс конфигурации YosoConfig: YosoForMaskedLM (модель YosoConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для маскированного языкового моделирования) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для маскированного языкового моделирования) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForMaskedLM (модель AlbertConfig)
- bart — BartForConditionalGeneration (модель BartConfig)
- bert — BertForMaskedLM (модель BertConfig)
- big_bird — BigBirdForMaskedLM (модель BigBirdConfig)
- camembert — CamembertForMaskedLM (модель CamembertConfig)
- convbert — ConvBertForMaskedLM (модель ConvBertConfig)
- data2vec-text — Data2VecTextForMaskedLM (модель Data2VecTextConfig)
- deberta — DebertaForMaskedLM (модель DebertaConfig)
- deberta-v2 — DebertaV2ForMaskedLM (модель DebertaV2Config)
- distilbert — DistilBertForMaskedLM (модель DistilBertConfig)
- electra — ElectraForMaskedLM (модель ElectraConfig)
- ernie — ErnieForMaskedLM (модель ErnieConfig)
- esm — EsmForMaskedLM (модель EsmConfig)
- esmc — EsmcForMaskedLM (модель EsmcConfig)
- eurobert — EuroBertForMaskedLM (модель EuroBertConfig)
- flaubert — FlaubertWithLMHeadModel (модель FlaubertConfig)
- fnet — FNetForMaskedLM (модель FNetConfig)
- funnel — FunnelForMaskedLM (модель FunnelConfig)
- gte — GteForMaskedLM (модель GteConfig)
- ibert — IBertForMaskedLM (модель IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForMaskedLM (модель JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForMaskedLM (модель LayoutLMConfig)
- longformer — LongformerForMaskedLM (модель LongformerConfig)
- luke — LukeForMaskedLM (модель LukeConfig)
- mbart — MBartForConditionalGeneration (модель MBartConfig)
- megatron-bert — MegatronBertForMaskedLM (модель MegatronBertConfig)
- mobilebert — MobileBertForMaskedLM (модель MobileBertConfig)
- modernbert — ModernBertForMaskedLM (модель ModernBertConfig)
- modernvbert — ModernVBertForMaskedLM (модель ModernVBertConfig)
- mpnet — MPNetForMaskedLM (модель MPNetConfig)
- mra — MraForMaskedLM (модель MraConfig)
- mvp — MvpForConditionalGeneration (модель MvpConfig)
- neomme — NeoMMEForMaskedLM (модель NeoMMEConfig)
- nomic_bert — NomicBertForMaskedLM (модель NomicBertConfig)
- nystromformer — NystromformerForMaskedLM (модель NystromformerConfig)
- perceiver — PerceiverForMaskedLM (модель PerceiverConfig)
- reformer — ReformerForMaskedLM (модель ReformerConfig)
- rembert — RemBertForMaskedLM (модель RemBertConfig)
- roberta — RobertaForMaskedLM (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMaskedLM (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForMaskedLM (модель RoCBertConfig)
- roformer — RoFormerForMaskedLM (модель RoFormerConfig)
- squeezebert — SqueezeBertForMaskedLM (модель SqueezeBertConfig)
- tapas — TapasForMaskedLM (модель TapasConfig)
- ultrabert — UltrabertForMaskedLM (модель UltrabertConfig)
- ultravbert — UltraVBertForMaskedLM (модель UltraVBertConfig)
- xlm — XLMWithLMHeadModel (модель XLMConfig)
- xlm-roberta — XLMRobertaForMaskedLM (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMaskedLM (модель XLMRobertaXLConfig)
- xmod — XmodForMaskedLM (модель XmodConfig)
- yoso — YosoForMaskedLM (модель YosoConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForMaskedLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMaskGeneration
AutoModelForSeq2SeqLM
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для последовательностно-последовательностного языкового моделирования).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации AudioFlamingo3Config: AudioFlamingo3ForConditionalGeneration (модель AudioFlamingo3Config)
- Класс конфигурации BartConfig: BartForConditionalGeneration (модель BartConfig)
- Класс конфигурации BigBirdPegasusConfig: BigBirdPegasusForConditionalGeneration (модель BigBirdPegasusConfig)
- Класс конфигурации BlenderbotConfig: BlenderbotForConditionalGeneration (модель BlenderbotConfig)
- Класс конфигурации BlenderbotSmallConfig: BlenderbotSmallForConditionalGeneration (модель BlenderbotSmallConfig)
- Класс конфигурации EncoderDecoderConfig: EncoderDecoderModel (модель EncoderDecoderConfig)
- Класс конфигурации FSMTConfig: FSMTForConditionalGeneration (модель FSMTConfig)
- Класс конфигурации GlmAsrConfig: GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- Класс конфигурации GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- Класс конфигурации GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- Класс конфигурации LEDConfig: LEDForConditionalGeneration (модель LEDConfig)
- Класс конфигурации LongT5Config: LongT5ForConditionalGeneration (модель LongT5Config)
- Класс конфигурации M2M100Config: M2M100ForConditionalGeneration (модель M2M100Config)
- Класс конфигурации MBartConfig: MBartForConditionalGeneration (модель MBartConfig)
- Класс конфигурации MT5Config: MT5ForConditionalGeneration (модель MT5Config)
- Класс конфигурации MarianConfig: MarianMTModel (модель MarianConfig)
- Класс конфигурации MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- Класс конфигурации MusicFlamingoConfig: MusicFlamingoForConditionalGeneration (модель MusicFlamingoConfig)
- Класс конфигурации MvpConfig: MvpForConditionalGeneration (модель MvpConfig)
- Класс конфигурации Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- Класс конфигурации NllbMoeConfig: NllbMoeForConditionalGeneration (модель NllbMoeConfig)
- Класс конфигурации PLBartConfig: PLBartForConditionalGeneration (модель PLBartConfig)
- Класс конфигурации PegasusConfig: PegasusForConditionalGeneration (модель PegasusConfig)
- Класс конфигурации PegasusXConfig: PegasusXForConditionalGeneration (модель PegasusXConfig)
- Класс конфигурации ProphetNetConfig: ProphetNetForConditionalGeneration (модель ProphetNetConfig)
- Класс конфигурации Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- Класс конфигурации SeamlessM4TConfig: SeamlessM4TForTextToText (модель SeamlessM4TConfig)
- Класс конфигурации SeamlessM4Tv2Config: SeamlessM4Tv2ForTextToText (модель SeamlessM4Tv2Config)
- Класс конфигурации SwitchTransformersConfig: SwitchTransformersForConditionalGeneration (модель SwitchTransformersConfig)
- Класс конфигурации T5Config: T5ForConditionalGeneration (модель T5Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- Класс конфигурации T5GemmaConfig: T5GemmaForConditionalGeneration (модель T5GemmaConfig)
- Класс конфигурации UMT5Config: UMT5ForConditionalGeneration (модель UMT5Config)
- Класс конфигурации VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- Класс конфигурации VoxtralConfig: VoxtralForConditionalGeneration (модель VoxtralConfig)
- Класс конфигурации VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для последовательностно-последовательностного языкового моделирования) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для последовательностно-последовательностного языкового моделирования) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- audioflamingo3 — AudioFlamingo3ForConditionalGeneration (модель AudioFlamingo3Config)
- bart — BartForConditionalGeneration (модель BartConfig)
- bigbird_pegasus — BigBirdPegasusForConditionalGeneration (модель BigBirdPegasusConfig)
- blenderbot — BlenderbotForConditionalGeneration (модель BlenderbotConfig)
- blenderbot-small — BlenderbotSmallForConditionalGeneration (модель BlenderbotSmallConfig)
- encoder-decoder — EncoderDecoderModel (модель EncoderDecoderConfig)
- fsmt — FSMTForConditionalGeneration (модель FSMTConfig)
- glmasr — GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- led — LEDForConditionalGeneration (модель LEDConfig)
- longt5 — LongT5ForConditionalGeneration (модель LongT5Config)
- m2m_100 — M2M100ForConditionalGeneration (модель M2M100Config)
- marian — MarianMTModel (модель MarianConfig)
- mbart — MBartForConditionalGeneration (модель MBartConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- mt5 — MT5ForConditionalGeneration (модель MT5Config)
- musicflamingo — MusicFlamingoForConditionalGeneration (модель MusicFlamingoConfig)
- mvp — MvpForConditionalGeneration (модель MvpConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- nllb-moe — NllbMoeForConditionalGeneration (модель NllbMoeConfig)
- pegasus — PegasusForConditionalGeneration (модель PegasusConfig)
- pegasus_x — PegasusXForConditionalGeneration (модель PegasusXConfig)
- plbart — PLBartForConditionalGeneration (модель PLBartConfig)
- prophetnet — ProphetNetForConditionalGeneration (модель ProphetNetConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- seamless_m4t — SeamlessM4TForTextToText (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2ForTextToText (модель SeamlessM4Tv2Config)
- switch_transformers — SwitchTransformersForConditionalGeneration (модель SwitchTransformersConfig)
- t5 — T5ForConditionalGeneration (модель T5Config)
- t5gemma — T5GemmaForConditionalGeneration (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- umt5 — UMT5ForConditionalGeneration (модель UMT5Config)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- voxtral — VoxtralForConditionalGeneration (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForSeq2SeqLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base")
>>> # Update configuration during loading
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForSequenceClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для классификации последовательностей).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AXK1Config: AXK1ForSequenceClassification (модель AXK1Config)
- Класс конфигурации AXK2Config: AXK2ForSequenceClassification (модель AXK2Config)
- Класс конфигурации AlbertConfig: AlbertForSequenceClassification (модель AlbertConfig)
- Класс конфигурации ArceeConfig: ArceeForSequenceClassification (модель ArceeConfig)
- Класс конфигурации BartConfig: BartForSequenceClassification (модель BartConfig)
- Класс конфигурации BertConfig: BertForSequenceClassification (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForSequenceClassification (модель BigBirdConfig)
- Класс конфигурации BigBirdPegasusConfig: BigBirdPegasusForSequenceClassification (модель BigBirdPegasusConfig)
- Класс конфигурации BioGptConfig: BioGptForSequenceClassification (модель BioGptConfig)
- Класс конфигурации BloomConfig: BloomForSequenceClassification (модель BloomConfig)
- Класс конфигурации CTRLConfig: CTRLForSequenceClassification (модель CTRLConfig)
- Класс конфигурации CamembertConfig: CamembertForSequenceClassification (модель CamembertConfig)
- Класс конфигурации CanineConfig: CanineForSequenceClassification (модель CanineConfig)
- Класс конфигурации CohereCompassTextConfig: CohereCompassTextForSequenceClassification (модель CohereCompassTextConfig)
- Класс конфигурации ConvBertConfig: ConvBertForSequenceClassification (модель ConvBertConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForSequenceClassification (модель Data2VecTextConfig)
- Класс конфигурации DebertaConfig: DebertaForSequenceClassification (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForSequenceClassification (модель DebertaV2Config)
- Класс конфигурации DeepseekV2Config: DeepseekV2ForSequenceClassification (модель DeepseekV2Config)
- Класс конфигурации DeepseekV3Config: DeepseekV3ForSequenceClassification (модель DeepseekV3Config)
- Класс конфигурации DiffLlamaConfig: DiffLlamaForSequenceClassification (модель DiffLlamaConfig)
- Класс конфигурации DistilBertConfig: DistilBertForSequenceClassification (модель DistilBertConfig)
- Класс конфигурации DogeConfig: DogeForSequenceClassification (модель DogeConfig)
- Класс конфигурации ElectraConfig: ElectraForSequenceClassification (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForSequenceClassification (модель ErnieConfig)
- Класс конфигурации EsmConfig: EsmForSequenceClassification (модель EsmConfig)
- Класс конфигурации EsmcConfig: EsmcForSequenceClassification (модель EsmcConfig)
- Класс конфигурации EuroBertConfig: EuroBertForSequenceClassification (модель EuroBertConfig)
- Класс конфигурации Exaone4Config: Exaone4ForSequenceClassification (модель Exaone4Config)
- Класс конфигурации FNetConfig: FNetForSequenceClassification (модель FNetConfig)
- Класс конфигурации FalconConfig: FalconForSequenceClassification (модель FalconConfig)
- Класс конфигурации FlaubertConfig: FlaubertForSequenceClassification (модель FlaubertConfig)
- Класс конфигурации FunnelConfig: FunnelForSequenceClassification (модель FunnelConfig)
- Класс конфигурации GPT2Config: GPT2ForSequenceClassification (модель GPT2Config)
- Класс конфигурации GPTBigCodeConfig: GPTBigCodeForSequenceClassification (модель GPTBigCodeConfig)
- Класс конфигурации GPTJConfig: GPTJForSequenceClassification (модель GPTJConfig)
- Класс конфигурации GPTNeoConfig: GPTNeoForSequenceClassification (модель GPTNeoConfig)
- Класс конфигурации GPTNeoXConfig: GPTNeoXForSequenceClassification (модель GPTNeoXConfig)
- Класс конфигурации Gemma2Config: Gemma2ForSequenceClassification (модель Gemma2Config)
- Класс конфигурации Gemma3Config: Gemma3ForSequenceClassification (модель Gemma3Config)
- Класс конфигурации Gemma3TextConfig: Gemma3TextForSequenceClassification (модель Gemma3TextConfig)
- Класс конфигурации GemmaConfig: GemmaForSequenceClassification (модель GemmaConfig)
- Класс конфигурации Glm4Config: Glm4ForSequenceClassification (модель Glm4Config)
- Класс конфигурации GlmConfig: GlmForSequenceClassification (модель GlmConfig)
- Класс конфигурации GptOssConfig: GptOssForSequenceClassification (модель GptOssConfig)
- Класс конфигурации GteConfig: GteForSequenceClassification (модель GteConfig)
- Класс конфигурации HeliumConfig: HeliumForSequenceClassification (модель HeliumConfig)
- Класс конфигурации HunYuanDenseV1Config: HunYuanDenseV1ForSequenceClassification (модель HunYuanDenseV1Config)
- Класс конфигурации HunYuanMoEV1Config: HunYuanMoEV1ForSequenceClassification (модель HunYuanMoEV1Config)
- Класс конфигурации IBertConfig: IBertForSequenceClassification (модель IBertConfig)
- Класс конфигурации JambaConfig: JambaForSequenceClassification (модель JambaConfig)
- Класс конфигурации JetMoeConfig: JetMoeForSequenceClassification (модель JetMoeConfig)
- Класс конфигурации JinaEmbeddingsV3Config: JinaEmbeddingsV3ForSequenceClassification (модель JinaEmbeddingsV3Config)
- Класс конфигурации LayoutLMConfig: LayoutLMForSequenceClassification (модель LayoutLMConfig)
- Класс конфигурации LayoutLMv2Config: LayoutLMv2ForSequenceClassification (модель LayoutLMv2Config)
- Класс конфигурации LayoutLMv3Config: LayoutLMv3ForSequenceClassification (модель LayoutLMv3Config)
- Класс конфигурации LiltConfig: LiltForSequenceClassification (модель LiltConfig)
- Класс конфигурации LlamaConfig: LlamaForSequenceClassification (модель LlamaConfig)
- Класс конфигурации LongformerConfig: LongformerForSequenceClassification (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForSequenceClassification (модель LukeConfig)
- Класс конфигурации MBartConfig: MBartForSequenceClassification (модель MBartConfig)
- Класс конфигурации MPNetConfig: MPNetForSequenceClassification (модель MPNetConfig)
- Класс конфигурации MT5Config: MT5ForSequenceClassification (модель MT5Config)
- Класс конфигурации MarkupLMConfig: MarkupLMForSequenceClassification (модель MarkupLMConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForSequenceClassification (модель MegatronBertConfig)
- Класс конфигурации MiniCPM3Config: MiniCPM3ForSequenceClassification (модель MiniCPM3Config)
- Класс конфигурации MiniMaxConfig: MiniMaxForSequenceClassification (модель MiniMaxConfig)
- Класс конфигурации Ministral3Config: Ministral3ForSequenceClassification (модель Ministral3Config)
- Класс конфигурации MinistralConfig: MinistralForSequenceClassification (модель MinistralConfig)
- Класс конфигурации Mistral4Config: Mistral4ForSequenceClassification (модель Mistral4Config)
- Класс конфигурации MistralConfig: MistralForSequenceClassification (модель MistralConfig)
- Класс конфигурации MixtralConfig: MixtralForSequenceClassification (модель MixtralConfig)
- Класс конфигурации MobileBertConfig: MobileBertForSequenceClassification (модель MobileBertConfig)
- Класс конфигурации ModernBertConfig: ModernBertForSequenceClassification (модель ModernBertConfig)
- Класс конфигурации ModernBertDecoderConfig: ModernBertDecoderForSequenceClassification (модель ModernBertDecoderConfig)
- Класс конфигурации ModernVBertConfig: ModernVBertForSequenceClassification (модель ModernVBertConfig)
- Класс конфигурации MptConfig: MptForSequenceClassification (модель MptConfig)
- Класс конфигурации MraConfig: MraForSequenceClassification (модель MraConfig)
- Класс конфигурации MvpConfig: MvpForSequenceClassification (модель MvpConfig)
- Класс конфигурации NemotronConfig: NemotronForSequenceClassification (модель NemotronConfig)
- Класс конфигурации NomicBertConfig: NomicBertForSequenceClassification (модель NomicBertConfig)
- Класс конфигурации NystromformerConfig: NystromformerForSequenceClassification (модель NystromformerConfig)
- Класс конфигурации OPTConfig: OPTForSequenceClassification (модель OPTConfig)
- Класс конфигурации Olmo2Config: Olmo2ForSequenceClassification (модель Olmo2Config)
- Класс конфигурации Olmo3Config: Olmo3ForSequenceClassification (модель Olmo3Config)
- Класс конфигурации OlmoConfig: OlmoForSequenceClassification (модель OlmoConfig)
- Класс конфигурации OpenAIGPTConfig: OpenAIGPTForSequenceClassification (модель OpenAIGPTConfig)
- Класс конфигурации PLBartConfig: PLBartForSequenceClassification (модель PLBartConfig)
- Класс конфигурации PerceiverConfig: PerceiverForSequenceClassification (модель PerceiverConfig)
- Класс конфигурации PersimmonConfig: PersimmonForSequenceClassification (модель PersimmonConfig)
- Класс конфигурации Phi3Config: Phi3ForSequenceClassification (модель Phi3Config)
- Класс конфигурации PhiConfig: PhiForSequenceClassification (модель PhiConfig)
- Класс конфигурации PhimoeConfig: PhimoeForSequenceClassification (модель PhimoeConfig)
- Класс конфигурации Qwen2Config: Qwen2ForSequenceClassification (модель Qwen2Config)
- Класс конфигурации Qwen2MoeConfig: Qwen2MoeForSequenceClassification (модель Qwen2MoeConfig)
- Класс конфигурации Qwen3Config: Qwen3ForSequenceClassification (модель Qwen3Config)
- Класс конфигурации Qwen3MoeConfig: Qwen3MoeForSequenceClassification (модель Qwen3MoeConfig)
- Класс конфигурации Qwen3NextConfig: Qwen3NextForSequenceClassification (модель Qwen3NextConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5ForSequenceClassification (модель Qwen3_5Config)
- Класс конфигурации Qwen3_5TextConfig: Qwen3_5TextForSequenceClassification (модель Qwen3_5TextConfig)
- Класс конфигурации ReformerConfig: ReformerForSequenceClassification (модель ReformerConfig)
- Класс конфигурации RemBertConfig: RemBertForSequenceClassification (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForSequenceClassification (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForSequenceClassification (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForSequenceClassification (модель RobertaConfig)
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForSequenceClassification (модель RobertaPreLayerNormConfig)
- Класс конфигурации SeedOssConfig: SeedOssForSequenceClassification (модель SeedOssConfig)
- Класс конфигурации SmolLM3Config: SmolLM3ForSequenceClassification (модель SmolLM3Config)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForSequenceClassification (модель SqueezeBertConfig)
- Класс конфигурации StableLmConfig: StableLmForSequenceClassification (модель StableLmConfig)
- Класс конфигурации Starcoder2Config: Starcoder2ForSequenceClassification (модель Starcoder2Config)
- Класс конфигурации T5Config: T5ForSequenceClassification (модель T5Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForSequenceClassification (модель T5Gemma2Config)
- Класс конфигурации T5GemmaConfig: T5GemmaForSequenceClassification (модель T5GemmaConfig)
- Класс конфигурации TapasConfig: TapasForSequenceClassification (модель TapasConfig)
- Класс конфигурации UMT5Config: UMT5ForSequenceClassification (модель UMT5Config)
- Класс конфигурации UltraVBertConfig: UltraVBertForSequenceClassification (модель UltraVBertConfig)
- Класс конфигурации UltrabertConfig: UltrabertForSequenceClassification (модель UltrabertConfig)
- Класс конфигурации XLMConfig: XLMForSequenceClassification (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForSequenceClassification (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForSequenceClassification (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetForSequenceClassification (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForSequenceClassification (модель XmodConfig)
- Класс конфигурации YosoConfig: YosoForSequenceClassification (модель YosoConfig)
- Класс конфигурации Zamba2Config: Zamba2ForSequenceClassification (модель Zamba2Config)
- Класс конфигурации ZambaConfig: ZambaForSequenceClassification (модель ZambaConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для классификации последовательностей) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для классификации последовательностей) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForSequenceClassification (модель AlbertConfig)
- arcee — ArceeForSequenceClassification (модель ArceeConfig)
- axk1 — AXK1ForSequenceClassification (модель AXK1Config)
- axk2 — AXK2ForSequenceClassification (модель AXK2Config)
- bart — BartForSequenceClassification (модель BartConfig)
- bert — BertForSequenceClassification (модель BertConfig)
- big_bird — BigBirdForSequenceClassification (модель BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForSequenceClassification (модель BigBirdPegasusConfig)
- biogpt — BioGptForSequenceClassification (модель BioGptConfig)
- bloom — BloomForSequenceClassification (модель BloomConfig)
- camembert — CamembertForSequenceClassification (модель CamembertConfig)
- canine — CanineForSequenceClassification (модель CanineConfig)
- cohere_compass_text — CohereCompassTextForSequenceClassification (модель CohereCompassTextConfig)
- convbert — ConvBertForSequenceClassification (модель ConvBertConfig)
- ctrl — CTRLForSequenceClassification (модель CTRLConfig)
- data2vec-text — Data2VecTextForSequenceClassification (модель Data2VecTextConfig)
- deberta — DebertaForSequenceClassification (модель DebertaConfig)
- deberta-v2 — DebertaV2ForSequenceClassification (модель DebertaV2Config)
- deepseek_v2 — DeepseekV2ForSequenceClassification (модель DeepseekV2Config)
- deepseek_v3 — DeepseekV3ForSequenceClassification (модель DeepseekV3Config)
- diffllama — DiffLlamaForSequenceClassification (модель DiffLlamaConfig)
- distilbert — DistilBertForSequenceClassification (модель DistilBertConfig)
- doge — DogeForSequenceClassification (модель DogeConfig)
- electra — ElectraForSequenceClassification (модель ElectraConfig)
- ernie — ErnieForSequenceClassification (модель ErnieConfig)
- esm — EsmForSequenceClassification (модель EsmConfig)
- esmc — EsmcForSequenceClassification (модель EsmcConfig)
- eurobert — EuroBertForSequenceClassification (модель EuroBertConfig)
- exaone4 — Exaone4ForSequenceClassification (модель Exaone4Config)
- falcon — FalconForSequenceClassification (модель FalconConfig)
- flaubert — FlaubertForSequenceClassification (модель FlaubertConfig)
- fnet — FNetForSequenceClassification (модель FNetConfig)
- funnel — FunnelForSequenceClassification (модель FunnelConfig)
- gemma — GemmaForSequenceClassification (модель GemmaConfig)
- gemma2 — Gemma2ForSequenceClassification (модель Gemma2Config)
- gemma3 — Gemma3ForSequenceClassification (модель Gemma3Config)
- gemma3_text — Gemma3TextForSequenceClassification (модель Gemma3TextConfig)
- glm — GlmForSequenceClassification (модель GlmConfig)
- glm4 — Glm4ForSequenceClassification (модель Glm4Config)
- gpt-sw3 — GPT2ForSequenceClassification (модель GPT2Config)
- gpt2 — GPT2ForSequenceClassification (модель GPT2Config)
- gpt_bigcode — GPTBigCodeForSequenceClassification (модель GPTBigCodeConfig)
- gpt_neo — GPTNeoForSequenceClassification (модель GPTNeoConfig)
- gpt_neox — GPTNeoXForSequenceClassification (модель GPTNeoXConfig)
- gpt_oss — GptOssForSequenceClassification (модель GptOssConfig)
- gptj — GPTJForSequenceClassification (модель GPTJConfig)
- gte — GteForSequenceClassification (модель GteConfig)
- helium — HeliumForSequenceClassification (модель HeliumConfig)
- hunyuan_v1_dense — HunYuanDenseV1ForSequenceClassification (модель HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1ForSequenceClassification (модель HunYuanMoEV1Config)
- ibert — IBertForSequenceClassification (модель IBertConfig)
- jamba — JambaForSequenceClassification (модель JambaConfig)
- jetmoe — JetMoeForSequenceClassification (модель JetMoeConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForSequenceClassification (модель JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForSequenceClassification (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForSequenceClassification (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForSequenceClassification (модель LayoutLMv3Config)
- lilt — LiltForSequenceClassification (модель LiltConfig)
- llama — LlamaForSequenceClassification (модель LlamaConfig)
- longformer — LongformerForSequenceClassification (модель LongformerConfig)
- luke — LukeForSequenceClassification (модель LukeConfig)
- markuplm — MarkupLMForSequenceClassification (модель MarkupLMConfig)
- mbart — MBartForSequenceClassification (модель MBartConfig)
- megatron-bert — MegatronBertForSequenceClassification (модель MegatronBertConfig)
- minicpm3 — MiniCPM3ForSequenceClassification (модель MiniCPM3Config)
- minimax — MiniMaxForSequenceClassification (модель MiniMaxConfig)
- ministral — MinistralForSequenceClassification (модель MinistralConfig)
- ministral3 — Ministral3ForSequenceClassification (модель Ministral3Config)
- mistral — MistralForSequenceClassification (модель MistralConfig)
- mistral4 — Mistral4ForSequenceClassification (модель Mistral4Config)
- mixtral — MixtralForSequenceClassification (модель MixtralConfig)
- mobilebert — MobileBertForSequenceClassification (модель MobileBertConfig)
- modernbert — ModernBertForSequenceClassification (модель ModernBertConfig)
- modernbert-decoder — ModernBertDecoderForSequenceClassification (модель ModernBertDecoderConfig)
- modernvbert — ModernVBertForSequenceClassification (модель ModernVBertConfig)
- mpnet — MPNetForSequenceClassification (модель MPNetConfig)
- mpt — MptForSequenceClassification (модель MptConfig)
- mra — MraForSequenceClassification (модель MraConfig)
- mt5 — MT5ForSequenceClassification (модель MT5Config)
- mvp — MvpForSequenceClassification (модель MvpConfig)
- nemotron — NemotronForSequenceClassification (модель NemotronConfig)
- nomic_bert — NomicBertForSequenceClassification (модель NomicBertConfig)
- nystromformer — NystromformerForSequenceClassification (модель NystromformerConfig)
- olmo — OlmoForSequenceClassification (модель OlmoConfig)
- olmo2 — Olmo2ForSequenceClassification (модель Olmo2Config)
- olmo3 — Olmo3ForSequenceClassification (модель Olmo3Config)
- openai-gpt — OpenAIGPTForSequenceClassification (модель OpenAIGPTConfig)
- opt — OPTForSequenceClassification (модель OPTConfig)
- perceiver — PerceiverForSequenceClassification (модель PerceiverConfig)
- persimmon — PersimmonForSequenceClassification (модель PersimmonConfig)
- phi — PhiForSequenceClassification (модель PhiConfig)
- phi3 — Phi3ForSequenceClassification (модель Phi3Config)
- phimoe — PhimoeForSequenceClassification (модель PhimoeConfig)
- plbart — PLBartForSequenceClassification (модель PLBartConfig)
- qwen2 — Qwen2ForSequenceClassification (модель Qwen2Config)
- qwen2_moe — Qwen2MoeForSequenceClassification (модель Qwen2MoeConfig)
- qwen3 — Qwen3ForSequenceClassification (модель Qwen3Config)
- qwen3_5 — Qwen3_5ForSequenceClassification (модель Qwen3_5Config)
- qwen3_5_text — Qwen3_5TextForSequenceClassification (модель Qwen3_5TextConfig)
- qwen3_moe — Qwen3MoeForSequenceClassification (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextForSequenceClassification (модель Qwen3NextConfig)
- reformer — ReformerForSequenceClassification (модель ReformerConfig)
- rembert — RemBertForSequenceClassification (модель RemBertConfig)
- roberta — RobertaForSequenceClassification (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForSequenceClassification (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForSequenceClassification (модель RoCBertConfig)
- roformer — RoFormerForSequenceClassification (модель RoFormerConfig)
- seed_oss — SeedOssForSequenceClassification (модель SeedOssConfig)
- smollm3 — SmolLM3ForSequenceClassification (модель SmolLM3Config)
- squeezebert — SqueezeBertForSequenceClassification (модель SqueezeBertConfig)
- stablelm — StableLmForSequenceClassification (модель StableLmConfig)
- starcoder2 — Starcoder2ForSequenceClassification (модель Starcoder2Config)
- t5 — T5ForSequenceClassification (модель T5Config)
- t5gemma — T5GemmaForSequenceClassification (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2ForSequenceClassification (модель T5Gemma2Config)
- tapas — TapasForSequenceClassification (модель TapasConfig)
- ultrabert — UltrabertForSequenceClassification (модель UltrabertConfig)
- ultravbert — UltraVBertForSequenceClassification (модель UltraVBertConfig)
- umt5 — UMT5ForSequenceClassification (модель UMT5Config)
- xlm — XLMForSequenceClassification (модель XLMConfig)
- xlm-roberta — XLMRobertaForSequenceClassification (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForSequenceClassification (модель XLMRobertaXLConfig)
- xlnet — XLNetForSequenceClassification (модель XLNetConfig)
- xmod — XmodForSequenceClassification (модель XmodConfig)
- yoso — YosoForSequenceClassification (модель YosoConfig)
- zamba — ZambaForSequenceClassification (модель ZambaConfig)
- zamba2 — Zamba2ForSequenceClassification (модель Zamba2Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForSequenceClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMultipleChoice
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для множественного выбора).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AlbertConfig: AlbertForMultipleChoice (модель AlbertConfig)
- Класс конфигурации BertConfig: BertForMultipleChoice (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForMultipleChoice (модель BigBirdConfig)
- Класс конфигурации CamembertConfig: CamembertForMultipleChoice (модель CamembertConfig)
- Класс конфигурации CanineConfig: CanineForMultipleChoice (модель CanineConfig)
- Класс конфигурации ConvBertConfig: ConvBertForMultipleChoice (модель ConvBertConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForMultipleChoice (модель Data2VecTextConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForMultipleChoice (модель DebertaV2Config)
- Класс конфигурации DistilBertConfig: DistilBertForMultipleChoice (модель DistilBertConfig)
- Класс конфигурации ElectraConfig: ElectraForMultipleChoice (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForMultipleChoice (модель ErnieConfig)
- Класс конфигурации FNetConfig: FNetForMultipleChoice (модель FNetConfig)
- Класс конфигурации FlaubertConfig: FlaubertForMultipleChoice (модель FlaubertConfig)
- Класс конфигурации FunnelConfig: FunnelForMultipleChoice (модель FunnelConfig)
- Класс конфигурации IBertConfig: IBertForMultipleChoice (модель IBertConfig)
- Класс конфигурации LongformerConfig: LongformerForMultipleChoice (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForMultipleChoice (модель LukeConfig)
- Класс конфигурации MPNetConfig: MPNetForMultipleChoice (модель MPNetConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForMultipleChoice (модель MegatronBertConfig)
- Класс конфигурации MobileBertConfig: MobileBertForMultipleChoice (модель MobileBertConfig)
- Класс конфигурации ModernBertConfig: ModernBertForMultipleChoice (модель ModernBertConfig)
- Класс конфигурации MraConfig: MraForMultipleChoice (модель MraConfig)
- Класс конфигурации NystromformerConfig: NystromformerForMultipleChoice (модель NystromformerConfig)
- Класс конфигурации RemBertConfig: RemBertForMultipleChoice (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForMultipleChoice (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForMultipleChoice (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForMultipleChoice (модель RobertaConfig)
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForMultipleChoice (модель RobertaPreLayerNormConfig)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForMultipleChoice (модель SqueezeBertConfig)
- Класс конфигурации XLMConfig: XLMForMultipleChoice (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForMultipleChoice (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForMultipleChoice (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetForMultipleChoice (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForMultipleChoice (модель XmodConfig)
- Класс конфигурации YosoConfig: YosoForMultipleChoice (модель YosoConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для задачи множественного выбора) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для задачи выбора из нескольких вариантов) на основе предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForMultipleChoice (модель AlbertConfig)
- bert — BertForMultipleChoice (модель BertConfig)
- big_bird — BigBirdForMultipleChoice (модель BigBirdConfig)
- camembert — CamembertForMultipleChoice (модель CamembertConfig)
- canine — CanineForMultipleChoice (модель CanineConfig)
- convbert — ConvBertForMultipleChoice (модель ConvBertConfig)
- data2vec-text — Data2VecTextForMultipleChoice (модель Data2VecTextConfig)
- deberta-v2 — DebertaV2ForMultipleChoice (модель DebertaV2Config)
- distilbert — DistilBertForMultipleChoice (модель DistilBertConfig)
- electra — ElectraForMultipleChoice (модель ElectraConfig)
- ernie — ErnieForMultipleChoice (модель ErnieConfig)
- flaubert — FlaubertForMultipleChoice (модель FlaubertConfig)
- fnet — FNetForMultipleChoice (модель FNetConfig)
- funnel — FunnelForMultipleChoice (модель FunnelConfig)
- ibert — IBertForMultipleChoice (модель IBertConfig)
- longformer — LongformerForMultipleChoice (модель LongformerConfig)
- luke — LukeForMultipleChoice (модель LukeConfig)
- megatron-bert — MegatronBertForMultipleChoice (модель MegatronBertConfig)
- mobilebert — MobileBertForMultipleChoice (модель MobileBertConfig)
- modernbert — ModernBertForMultipleChoice (модель ModernBertConfig)
- mpnet — MPNetForMultipleChoice (модель MPNetConfig)
- mra — MraForMultipleChoice (модель MraConfig)
- nystromformer — NystromformerForMultipleChoice (модель NystromformerConfig)
- rembert — RemBertForMultipleChoice (модель RemBertConfig)
- roberta — RobertaForMultipleChoice (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMultipleChoice (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForMultipleChoice (модель RoCBertConfig)
- roformer — RoFormerForMultipleChoice (модель RoFormerConfig)
- squeezebert — SqueezeBertForMultipleChoice (модель SqueezeBertConfig)
- xlm — XLMForMultipleChoice (модель XLMConfig)
- xlm-roberta — XLMRobertaForMultipleChoice (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMultipleChoice (модель XLMRobertaXLConfig)
- xlnet — XLNetForMultipleChoice (модель XLNetConfig)
- xmod — XmodForMultipleChoice (модель XmodConfig)
- yoso — YosoForMultipleChoice (модель YosoConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForMultipleChoice
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForNextSentencePrediction
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для предсказания следующего предложения).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации BertConfig: BertForNextSentencePrediction (модель BertConfig)
- Класс конфигурации ErnieConfig: ErnieForNextSentencePrediction (модель ErnieConfig)
- Класс конфигурации FNetConfig: FNetForNextSentencePrediction (модель FNetConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForNextSentencePrediction (модель MegatronBertConfig)
- Класс конфигурации MobileBertConfig: MobileBertForNextSentencePrediction (модель MobileBertConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для предсказания следующего предложения) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для предсказания следующего предложения) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- bert — BertForNextSentencePrediction (модель BertConfig)
- ernie — ErnieForNextSentencePrediction (модель ErnieConfig)
- fnet — FNetForNextSentencePrediction (модель FNetConfig)
- megatron-bert — MegatronBertForNextSentencePrediction (модель MegatronBertConfig)
- mobilebert — MobileBertForNextSentencePrediction (модель MobileBertConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForNextSentencePrediction
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTokenClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для классификации токенов).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации AXK1Config: AXK1ForTokenClassification (модель AXK1Config)
- Класс конфигурации AXK2Config: AXK2ForTokenClassification (модель AXK2Config)
- Класс конфигурации AlbertConfig: AlbertForTokenClassification (модель AlbertConfig)
- Класс конфигурации ApertusConfig: ApertusForTokenClassification (модель ApertusConfig)
- Класс конфигурации ArceeConfig: ArceeForTokenClassification (модель ArceeConfig)
- Класс конфигурации BertConfig: BertForTokenClassification (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForTokenClassification (модель BigBirdConfig)
- Класс конфигурации BioGptConfig: BioGptForTokenClassification (модель BioGptConfig)
- Класс конфигурации BloomConfig: BloomForTokenClassification (модель BloomConfig)
- Класс конфигурации BrosConfig: BrosForTokenClassification (модель BrosConfig)
- Класс конфигурации CamembertConfig: CamembertForTokenClassification (модель CamembertConfig)
- Класс конфигурации CanineConfig: CanineForTokenClassification (модель CanineConfig)
- Класс конфигурации ConvBertConfig: ConvBertForTokenClassification (модель ConvBertConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForTokenClassification (модель Data2VecTextConfig)
- Класс конфигурации DebertaConfig: DebertaForTokenClassification (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForTokenClassification (модель DebertaV2Config)
- Класс конфигурации DeepseekV3Config: DeepseekV3ForTokenClassification (модель DeepseekV3Config)
- Класс конфигурации DiffLlamaConfig: DiffLlamaForTokenClassification (модель DiffLlamaConfig)
- Класс конфигурации DistilBertConfig: DistilBertForTokenClassification (модель DistilBertConfig)
- Класс конфигурации ElectraConfig: ElectraForTokenClassification (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForTokenClassification (модель ErnieConfig)
- Класс конфигурации EsmConfig: EsmForTokenClassification (модель EsmConfig)
- Класс конфигурации EsmcConfig: EsmcForTokenClassification (модель EsmcConfig)
- Класс конфигурации EuroBertConfig: EuroBertForTokenClassification (модель EuroBertConfig)
- Класс конфигурации Exaone4Config: Exaone4ForTokenClassification (модель Exaone4Config)
- Класс конфигурации FNetConfig: FNetForTokenClassification (модель FNetConfig)
- Класс конфигурации FalconConfig: FalconForTokenClassification (модель FalconConfig)
- Класс конфигурации FlaubertConfig: FlaubertForTokenClassification (модель FlaubertConfig)
- Класс конфигурации FunnelConfig: FunnelForTokenClassification (модель FunnelConfig)
- Класс конфигурации GPT2Config: GPT2ForTokenClassification (модель GPT2Config)
- Класс конфигурации GPTBigCodeConfig: GPTBigCodeForTokenClassification (модель GPTBigCodeConfig)
- Класс конфигурации GPTNeoConfig: GPTNeoForTokenClassification (модель GPTNeoConfig)
- Класс конфигурации GPTNeoXConfig: GPTNeoXForTokenClassification (модель GPTNeoXConfig)
- Класс конфигурации Gemma2Config: Gemma2ForTokenClassification (модель Gemma2Config)
- Класс конфигурации GemmaConfig: GemmaForTokenClassification (модель GemmaConfig)
- Класс конфигурации Glm4Config: Glm4ForTokenClassification (модель Glm4Config)
- Класс конфигурации GlmConfig: GlmForTokenClassification (модель GlmConfig)
- Класс конфигурации GptOssConfig: GptOssForTokenClassification (модель GptOssConfig)
- Класс конфигурации GteConfig: GteForTokenClassification (модель GteConfig)
- Класс конфигурации HeliumConfig: HeliumForTokenClassification (модель HeliumConfig)
- Класс конфигурации IBertConfig: IBertForTokenClassification (модель IBertConfig)
- Класс конфигурации JinaEmbeddingsV3Config: JinaEmbeddingsV3ForTokenClassification (модель JinaEmbeddingsV3Config)
- Класс конфигурации LayoutLMConfig: LayoutLMForTokenClassification (модель LayoutLMConfig)
- Класс конфигурации LayoutLMv2Config: LayoutLMv2ForTokenClassification (модель LayoutLMv2Config)
- Класс конфигурации LayoutLMv3Config: LayoutLMv3ForTokenClassification (модель LayoutLMv3Config)
- Класс конфигурации LiltConfig: LiltForTokenClassification (модель LiltConfig)
- Класс конфигурации LlamaConfig: LlamaForTokenClassification (модель LlamaConfig)
- Класс конфигурации LongformerConfig: LongformerForTokenClassification (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForTokenClassification (модель LukeConfig)
- Класс конфигурации MPNetConfig: MPNetForTokenClassification (модель MPNetConfig)
- Класс конфигурации MT5Config: MT5ForTokenClassification (модель MT5Config)
- Класс конфигурации MarkupLMConfig: MarkupLMForTokenClassification (модель MarkupLMConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForTokenClassification (модель MegatronBertConfig)
- Класс конфигурации MiniMaxConfig: MiniMaxForTokenClassification (модель MiniMaxConfig)
- Класс конфигурации Ministral3Config: Ministral3ForTokenClassification (модель Ministral3Config)
- Класс конфигурации MinistralConfig: MinistralForTokenClassification (модель MinistralConfig)
- Класс конфигурации Mistral4Config: Mistral4ForTokenClassification (модель Mistral4Config)
- Класс конфигурации MistralConfig: MistralForTokenClassification (модель MistralConfig)
- Класс конфигурации MixtralConfig: MixtralForTokenClassification (модель MixtralConfig)
- Класс конфигурации MobileBertConfig: MobileBertForTokenClassification (модель MobileBertConfig)
- Класс конфигурации ModernBertConfig: ModernBertForTokenClassification (модель ModernBertConfig)
- Класс конфигурации ModernVBertConfig: ModernVBertForTokenClassification (модель ModernVBertConfig)
- Класс конфигурации MptConfig: MptForTokenClassification (модель MptConfig)
- Класс конфигурации MraConfig: MraForTokenClassification (модель MraConfig)
- Класс конфигурации NemotronConfig: NemotronForTokenClassification (модель NemotronConfig)
- Класс конфигурации NomicBertConfig: NomicBertForTokenClassification (модель NomicBertConfig)
- Класс конфигурации NystromformerConfig: NystromformerForTokenClassification (модель NystromformerConfig)
- Класс конфигурации OpenAIPrivacyFilterConfig: OpenAIPrivacyFilterForTokenClassification (модель OpenAIPrivacyFilterConfig)
- Класс конфигурации PersimmonConfig: PersimmonForTokenClassification (модель PersimmonConfig)
- Класс конфигурации Phi3Config: Phi3ForTokenClassification (модель Phi3Config)
- Класс конфигурации PhiConfig: PhiForTokenClassification (модель PhiConfig)
- Класс конфигурации Qwen2Config: Qwen2ForTokenClassification (модель Qwen2Config)
- Класс конфигурации Qwen2MoeConfig: Qwen2MoeForTokenClassification (модель Qwen2MoeConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRForTokenClassification (модель Qwen3ASRConfig)
- Класс конфигурации Qwen3Config: Qwen3ForTokenClassification (модель Qwen3Config)
- Класс конфигурации Qwen3MoeConfig: Qwen3MoeForTokenClassification (модель Qwen3MoeConfig)
- Класс конфигурации Qwen3NextConfig: Qwen3NextForTokenClassification (модель Qwen3NextConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5ForTokenClassification (модель Qwen3_5Config)
- Класс конфигурации RemBertConfig: RemBertForTokenClassification (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForTokenClassification (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForTokenClassification (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForTokenClassification (модель RobertaConfig)
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForTokenClassification (модель RobertaPreLayerNormConfig)
- Класс конфигурации SeedOssConfig: SeedOssForTokenClassification (модель SeedOssConfig)
- Класс конфигурации SmolLM3Config: SmolLM3ForTokenClassification (модель SmolLM3Config)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForTokenClassification (модель SqueezeBertConfig)
- Класс конфигурации StableLmConfig: StableLmForTokenClassification (модель StableLmConfig)
- Класс конфигурации Starcoder2Config: Starcoder2ForTokenClassification (модель Starcoder2Config)
- Класс конфигурации T5Config: T5ForTokenClassification (модель T5Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForTokenClassification (модель T5Gemma2Config)
- Класс конфигурации T5GemmaConfig: T5GemmaForTokenClassification (модель T5GemmaConfig)
- Класс конфигурации UMT5Config: UMT5ForTokenClassification (модель UMT5Config)
- Класс конфигурации UltraVBertConfig: UltraVBertForTokenClassification (модель UltraVBertConfig)
- Класс конфигурации UltrabertConfig: UltrabertForTokenClassification (модель UltrabertConfig)
- Класс конфигурации XLMConfig: XLMForTokenClassification (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForTokenClassification (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForTokenClassification (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetForTokenClassification (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForTokenClassification (модель XmodConfig)
- Класс конфигурации YosoConfig: YosoForTokenClassification (модель YosoConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для классификации токенов) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для классификации токенов) на основе предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForTokenClassification (модель AlbertConfig)
- apertus — ApertusForTokenClassification (модель ApertusConfig)
- arcee — ArceeForTokenClassification (модель ArceeConfig)
- axk1 — AXK1ForTokenClassification (модель AXK1Config)
- axk2 — AXK2ForTokenClassification (модель AXK2Config)
- bert — BertForTokenClassification (модель BertConfig)
- big_bird — BigBirdForTokenClassification (модель BigBirdConfig)
- biogpt — BioGptForTokenClassification (модель BioGptConfig)
- bloom — BloomForTokenClassification (модель BloomConfig)
- bros — BrosForTokenClassification (модель BrosConfig)
- camembert — CamembertForTokenClassification (модель CamembertConfig)
- canine — CanineForTokenClassification (модель CanineConfig)
- convbert — ConvBertForTokenClassification (модель ConvBertConfig)
- data2vec-text — Data2VecTextForTokenClassification (модель Data2VecTextConfig)
- deberta — DebertaForTokenClassification (модель DebertaConfig)
- deberta-v2 — DebertaV2ForTokenClassification (модель DebertaV2Config)
- deepseek_v3 — DeepseekV3ForTokenClassification (модель DeepseekV3Config)
- diffllama — DiffLlamaForTokenClassification (модель DiffLlamaConfig)
- distilbert — DistilBertForTokenClassification (модель DistilBertConfig)
- electra — ElectraForTokenClassification (модель ElectraConfig)
- ernie — ErnieForTokenClassification (модель ErnieConfig)
- esm — EsmForTokenClassification (модель EsmConfig)
- esmc — EsmcForTokenClassification (модель EsmcConfig)
- eurobert — EuroBertForTokenClassification (модель EuroBertConfig)
- exaone4 — Exaone4ForTokenClassification (модель Exaone4Config)
- falcon — FalconForTokenClassification (модель FalconConfig)
- flaubert — FlaubertForTokenClassification (модель FlaubertConfig)
- fnet — FNetForTokenClassification (модель FNetConfig)
- funnel — FunnelForTokenClassification (модель FunnelConfig)
- gemma — GemmaForTokenClassification (модель GemmaConfig)
- gemma2 — Gemma2ForTokenClassification (модель Gemma2Config)
- glm — GlmForTokenClassification (модель GlmConfig)
- glm4 — Glm4ForTokenClassification (модель Glm4Config)
- gpt-sw3 — GPT2ForTokenClassification (модель GPT2Config)
- gpt2 — GPT2ForTokenClassification (модель GPT2Config)
- gpt_bigcode — GPTBigCodeForTokenClassification (модель GPTBigCodeConfig)
- gpt_neo — GPTNeoForTokenClassification (модель GPTNeoConfig)
- gpt_neox — GPTNeoXForTokenClassification (модель GPTNeoXConfig)
- gpt_oss — GptOssForTokenClassification (модель GptOssConfig)
- gte — GteForTokenClassification (модель GteConfig)
- helium — HeliumForTokenClassification (модель HeliumConfig)
- ibert — IBertForTokenClassification (модель IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForTokenClassification (модель JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForTokenClassification (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForTokenClassification (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForTokenClassification (модель LayoutLMv3Config)
- lilt — LiltForTokenClassification (модель LiltConfig)
- llama — LlamaForTokenClassification (модель LlamaConfig)
- longformer — LongformerForTokenClassification (модель LongformerConfig)
- luke — LukeForTokenClassification (модель LukeConfig)
- markuplm — MarkupLMForTokenClassification (модель MarkupLMConfig)
- megatron-bert — MegatronBertForTokenClassification (модель MegatronBertConfig)
- minimax — MiniMaxForTokenClassification (модель MiniMaxConfig)
- ministral — MinistralForTokenClassification (модель MinistralConfig)
- ministral3 — Ministral3ForTokenClassification (модель Ministral3Config)
- mistral — MistralForTokenClassification (модель MistralConfig)
- mistral4 — Mistral4ForTokenClassification (модель Mistral4Config)
- mixtral — MixtralForTokenClassification (модель MixtralConfig)
- mobilebert — MobileBertForTokenClassification (модель MobileBertConfig)
- modernbert — ModernBertForTokenClassification (модель ModernBertConfig)
- modernvbert — ModernVBertForTokenClassification (модель ModernVBertConfig)
- mpnet — MPNetForTokenClassification (модель MPNetConfig)
- mpt — MptForTokenClassification (модель MptConfig)
- mra — MraForTokenClassification (модель MraConfig)
- mt5 — MT5ForTokenClassification (модель MT5Config)
- nemotron — NemotronForTokenClassification (модель NemotronConfig)
- nomic_bert — NomicBertForTokenClassification (модель NomicBertConfig)
- nystromformer — NystromformerForTokenClassification (модель NystromformerConfig)
- openai_privacy_filter — OpenAIPrivacyFilterForTokenClassification (модель OpenAIPrivacyFilterConfig)
- persimmon — PersimmonForTokenClassification (модель PersimmonConfig)
- phi — PhiForTokenClassification (модель PhiConfig)
- phi3 — Phi3ForTokenClassification (модель Phi3Config)
- qwen2 — Qwen2ForTokenClassification (модель Qwen2Config)
- qwen2_moe — Qwen2MoeForTokenClassification (модель Qwen2MoeConfig)
- qwen3 — Qwen3ForTokenClassification (модель Qwen3Config)
- qwen3_5 — Qwen3_5ForTokenClassification (модель Qwen3_5Config)
- qwen3_asr — Qwen3ASRForTokenClassification (модель Qwen3ASRConfig)
- qwen3_moe — Qwen3MoeForTokenClassification (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextForTokenClassification (модель Qwen3NextConfig)
- rembert — RemBertForTokenClassification (модель RemBertConfig)
- roberta — RobertaForTokenClassification (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForTokenClassification (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForTokenClassification (модель RoCBertConfig)
- roformer — RoFormerForTokenClassification (модель RoFormerConfig)
- seed_oss — SeedOssForTokenClassification (модель SeedOssConfig)
- smollm3 — SmolLM3ForTokenClassification (модель SmolLM3Config)
- squeezebert — SqueezeBertForTokenClassification (модель SqueezeBertConfig)
- stablelm — StableLmForTokenClassification (модель StableLmConfig)
- starcoder2 — Starcoder2ForTokenClassification (модель Starcoder2Config)
- t5 — T5ForTokenClassification (модель T5Config)
- t5gemma — T5GemmaForTokenClassification (модель T5GemmaConfig)
- t5gemma2 — T5Gemma2ForTokenClassification (модель T5Gemma2Config)
- ultrabert — UltrabertForTokenClassification (модель UltrabertConfig)
- ultravbert — UltraVBertForTokenClassification (модель UltraVBertConfig)
- umt5 — UMT5ForTokenClassification (модель UMT5Config)
- xlm — XLMForTokenClassification (модель XLMConfig)
- xlm-roberta — XLMRobertaForTokenClassification (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForTokenClassification (модель XLMRobertaXLConfig)
- xlnet — XLNetForTokenClassification (модель XLNetConfig)
- xmod — XmodForTokenClassification (модель XmodConfig)
- yoso — YosoForTokenClassification (модель YosoConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTokenClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForQuestionAnswering
This is a generic model class that will be instantiated as one of the model classes of the library (with a question answering head) when created with the from_pretrained() class method or the from_config() class method.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AlbertConfig: AlbertForQuestionAnswering (модель AlbertConfig)
- Класс конфигурации ArceeConfig: ArceeForQuestionAnswering (модель ArceeConfig)
- Класс конфигурации BartConfig: BartForQuestionAnswering (модель BartConfig)
- Класс конфигурации BertConfig: BertForQuestionAnswering (модель BertConfig)
- Класс конфигурации BigBirdConfig: BigBirdForQuestionAnswering (модель BigBirdConfig)
- Класс конфигурации BigBirdPegasusConfig: BigBirdPegasusForQuestionAnswering (модель BigBirdPegasusConfig)
- Класс конфигурации BloomConfig: BloomForQuestionAnswering (модель BloomConfig)
- Класс конфигурации CamembertConfig: CamembertForQuestionAnswering (модель CamembertConfig)
- Класс конфигурации CanineConfig: CanineForQuestionAnswering (модель CanineConfig)
- Класс конфигурации ConvBertConfig: ConvBertForQuestionAnswering (модель ConvBertConfig)
- Класс конфигурации Data2VecTextConfig: Data2VecTextForQuestionAnswering (модель Data2VecTextConfig)
- Класс конфигурации DebertaConfig: DebertaForQuestionAnswering (модель DebertaConfig)
- Класс конфигурации DebertaV2Config: DebertaV2ForQuestionAnswering (модель DebertaV2Config)
- Класс конфигурации DiffLlamaConfig: DiffLlamaForQuestionAnswering (модель DiffLlamaConfig)
- Класс конфигурации DistilBertConfig: DistilBertForQuestionAnswering (модель DistilBertConfig)
- Класс конфигурации ElectraConfig: ElectraForQuestionAnswering (модель ElectraConfig)
- Класс конфигурации ErnieConfig: ErnieForQuestionAnswering (модель ErnieConfig)
- Класс конфигурации Exaone4Config: Exaone4ForQuestionAnswering (модель Exaone4Config)
- Класс конфигурации FNetConfig: FNetForQuestionAnswering (модель FNetConfig)
- Класс конфигурации FalconConfig: FalconForQuestionAnswering (модель FalconConfig)
- Класс конфигурации FlaubertConfig: FlaubertForQuestionAnsweringSimple (модель FlaubertConfig)
- Класс конфигурации FunnelConfig: FunnelForQuestionAnswering (модель FunnelConfig)
- Класс конфигурации GPT2Config: GPT2ForQuestionAnswering (модель GPT2Config)
- Класс конфигурации GPTJConfig: GPTJForQuestionAnswering (модель GPTJConfig)
- Класс конфигурации GPTNeoConfig: GPTNeoForQuestionAnswering (модель GPTNeoConfig)
- Класс конфигурации GPTNeoXConfig: GPTNeoXForQuestionAnswering (модель GPTNeoXConfig)
- Класс конфигурации IBertConfig: IBertForQuestionAnswering (модель IBertConfig)
- Класс конфигурации JinaEmbeddingsV3Config: JinaEmbeddingsV3ForQuestionAnswering (модель JinaEmbeddingsV3Config)
- Класс конфигурации LEDConfig: LEDForQuestionAnswering (модель LEDConfig)
- Класс конфигурации LayoutLMv2Config: LayoutLMv2ForQuestionAnswering (модель LayoutLMv2Config)
- Класс конфигурации LayoutLMv3Config: LayoutLMv3ForQuestionAnswering (модель LayoutLMv3Config)
- Класс конфигурации LiltConfig: LiltForQuestionAnswering (модель LiltConfig)
- Класс конфигурации LlamaConfig: LlamaForQuestionAnswering (модель LlamaConfig)
- Класс конфигурации LongformerConfig: LongformerForQuestionAnswering (модель LongformerConfig)
- Класс конфигурации LukeConfig: LukeForQuestionAnswering (модель LukeConfig)
- Класс конфигурации LxmertConfig: LxmertForQuestionAnswering (модель LxmertConfig)
- Класс конфигурации MBartConfig: MBartForQuestionAnswering (модель MBartConfig)
- Класс конфигурации MPNetConfig: MPNetForQuestionAnswering (модель MPNetConfig)
- Класс конфигурации MT5Config: MT5ForQuestionAnswering (модель MT5Config)
- Класс конфигурации MarkupLMConfig: MarkupLMForQuestionAnswering (модель MarkupLMConfig)
- Класс конфигурации MegatronBertConfig: MegatronBertForQuestionAnswering (модель MegatronBertConfig)
- Класс конфигурации MiniMaxConfig: MiniMaxForQuestionAnswering (модель MiniMaxConfig)
- Класс конфигурации Ministral3Config: Ministral3ForQuestionAnswering (модель Ministral3Config)
- Класс конфигурации MinistralConfig: MinistralForQuestionAnswering (модель MinistralConfig)
- Класс конфигурации MistralConfig: MistralForQuestionAnswering (модель MistralConfig)
- Класс конфигурации MixtralConfig: MixtralForQuestionAnswering (модель MixtralConfig)
- Класс конфигурации MobileBertConfig: MobileBertForQuestionAnswering (модель MobileBertConfig)
- Класс конфигурации ModernBertConfig: ModernBertForQuestionAnswering (модель ModernBertConfig)
- Класс конфигурации MptConfig: MptForQuestionAnswering (модель MptConfig)
- Класс конфигурации MraConfig: MraForQuestionAnswering (модель MraConfig)
- Класс конфигурации MvpConfig: MvpForQuestionAnswering (модель MvpConfig)
- Класс конфигурации NemotronConfig: NemotronForQuestionAnswering (модель NemotronConfig)
- Класс конфигурации NystromformerConfig: NystromformerForQuestionAnswering (модель NystromformerConfig)
- Класс конфигурации OPTConfig: OPTForQuestionAnswering (модель OPTConfig)
- Класс конфигурации Qwen2Config: Qwen2ForQuestionAnswering (модель Qwen2Config)
- Класс конфигурации Qwen2MoeConfig: Qwen2MoeForQuestionAnswering (модель Qwen2MoeConfig)
- Класс конфигурации Qwen3Config: Qwen3ForQuestionAnswering (модель Qwen3Config)
- Класс конфигурации Qwen3MoeConfig: Qwen3MoeForQuestionAnswering (модель Qwen3MoeConfig)
- Класс конфигурации Qwen3NextConfig: Qwen3NextForQuestionAnswering (модель Qwen3NextConfig)
- Класс конфигурации ReformerConfig: ReformerForQuestionAnswering (модель ReformerConfig)
- Класс конфигурации RemBertConfig: RemBertForQuestionAnswering (модель RemBertConfig)
- Класс конфигурации RoCBertConfig: RoCBertForQuestionAnswering (модель RoCBertConfig)
- Класс конфигурации RoFormerConfig: RoFormerForQuestionAnswering (модель RoFormerConfig)
- Класс конфигурации RobertaConfig: RobertaForQuestionAnswering (модель Robe
- Класс конфигурации RobertaPreLayerNormConfig: RobertaPreLayerNormForQuestionAnswering (модель RobertaPreLayerNormConfig)
- Класс конфигурации SeedOssConfig: SeedOssForQuestionAnswering (модель SeedOssConfig)
- Класс конфигурации SmolLM3Config: SmolLM3ForQuestionAnswering (модель SmolLM3Config)
- Класс конфигурации SplinterConfig: SplinterForQuestionAnswering (модель SplinterConfig)
- Класс конфигурации SqueezeBertConfig: SqueezeBertForQuestionAnswering (модель SqueezeBertConfig)
- Класс конфигурации T5Config: T5ForQuestionAnswering (модель T5Config)
- Класс конфигурации UMT5Config: UMT5ForQuestionAnswering (модель UMT5Config)
- Класс конфигурации UltrabertConfig: UltrabertForQuestionAnswering (модель UltrabertConfig)
- Класс конфигурации XLMConfig: XLMForQuestionAnsweringSimple (модель XLMConfig)
- Класс конфигурации XLMRobertaConfig: XLMRobertaForQuestionAnswering (модель XLMRobertaConfig)
- Класс конфигурации XLMRobertaXLConfig: XLMRobertaXLForQuestionAnswering (модель XLMRobertaXLConfig)
- Класс конфигурации XLNetConfig: XLNetForQuestionAnsweringSimple (модель XLNetConfig)
- Класс конфигурации XmodConfig: XmodForQuestionAnswering (модель XmodConfig)
- Класс конфигурации YosoConfig: YosoForQuestionAnswering (модель YosoConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для задачи вопрос-ответ) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для задачи question answering) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- albert — AlbertForQuestionAnswering (модель AlbertConfig)
- arcee — ArceeForQuestionAnswering (модель ArceeConfig)
- bart — BartForQuestionAnswering (модель BartConfig)
- bert — BertForQuestionAnswering (модель BertConfig)
- big_bird — BigBirdForQuestionAnswering (модель BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForQuestionAnswering (модель BigBirdPegasusConfig)
- bloom — BloomForQuestionAnswering (модель BloomConfig)
- camembert — CamembertForQuestionAnswering (модель CamembertConfig)
- canine — CanineForQuestionAnswering (модель CanineConfig)
- convbert — ConvBertForQuestionAnswering (модель ConvBertConfig)
- data2vec-text — Data2VecTextForQuestionAnswering (модель Data2VecTextConfig)
- deberta — DebertaForQuestionAnswering (модель DebertaConfig)
- deberta-v2 — DebertaV2ForQuestionAnswering (модель DebertaV2Config)
- diffllama — DiffLlamaForQuestionAnswering (модель DiffLlamaConfig)
- distilbert — DistilBertForQuestionAnswering (модель DistilBertConfig)
- electra — ElectraForQuestionAnswering (модель ElectraConfig)
- ernie — ErnieForQuestionAnswering (модель ErnieConfig)
- exaone4 — Exaone4ForQuestionAnswering (модель Exaone4Config)
- falcon — FalconForQuestionAnswering (модель FalconConfig)
- flaubert — FlaubertForQuestionAnsweringSimple (модель FlaubertConfig)
- fnet — FNetForQuestionAnswering (модель FNetConfig)
- funnel — FunnelForQuestionAnswering (модель FunnelConfig)
- gpt2 — GPT2ForQuestionAnswering (модель GPT2Config)
- gpt_neo — GPTNeoForQuestionAnswering (модель GPTNeoConfig)
- gpt_neox — GPTNeoXForQuestionAnswering (модель GPTNeoXConfig)
- gptj — GPTJForQuestionAnswering (модель GPTJConfig)
- ibert — IBertForQuestionAnswering (модель IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForQuestionAnswering (модель JinaEmbeddingsV3Config)
- layoutlmv2 — LayoutLMv2ForQuestionAnswering (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForQuestionAnswering (модель LayoutLMv3Config)
- led — LEDForQuestionAnswering (модель LEDConfig)
- lilt — LiltForQuestionAnswering (модель LiltConfig)
- llama — LlamaForQuestionAnswering (модель LlamaConfig)
- longformer — LongformerForQuestionAnswering (модель LongformerConfig)
- luke — LukeForQuestionAnswering (модель LukeConfig)
- lxmert — LxmertForQuestionAnswering (модель LxmertConfig)
- markuplm — MarkupLMForQuestionAnswering (модель MarkupLMConfig)
- mbart — MBartForQuestionAnswering (модель MBartConfig)
- megatron-bert — MegatronBertForQuestionAnswering (модель MegatronBertConfig)
- minimax — MiniMaxForQuestionAnswering (модель MiniMaxConfig)
- ministral — MinistralForQuestionAnswering (модель MinistralConfig)
- ministral3 — Ministral3ForQuestionAnswering (модель Ministral3Config)
- mistral — MistralForQuestionAnswering (модель MistralConfig)
- mixtral — MixtralForQuestionAnswering (модель MixtralConfig)
- mobilebert — MobileBertForQuestionAnswering (модель MobileBertConfig)
- modernbert — ModernBertForQuestionAnswering (модель ModernBertConfig)
- mpnet — MPNetForQuestionAnswering (модель MPNetConfig)
- mpt — MptForQuestionAnswering (модель MptConfig)
- mra — MraForQuestionAnswering (модель MraConfig)
- mt5 — MT5ForQuestionAnswering (модель MT5Config)
- mvp — MvpForQuestionAnswering (модель MvpConfig)
- nemotron — NemotronForQuestionAnswering (модель NemotronConfig)
- nystromformer — NystromformerForQuestionAnswering (модель NystromformerConfig)
- opt — OPTForQuestionAnswering (модель OPTConfig)
- qwen2 — Qwen2ForQuestionAnswering (модель Qwen2Config)
- qwen2_moe — Qwen2MoeForQuestionAnswering (модель Qwen2MoeConfig)
- qwen3 — Qwen3ForQuestionAnswering (модель Qwen3Config)
- qwen3_moe — Qwen3MoeForQuestionAnswering (модель Qwen3MoeConfig)
- qwen3_next — Qwen3NextForQuestionAnswering (модель Qwen3NextConfig)
- reformer — ReformerForQuestionAnswering (модель ReformerConfig)
- rembert — RemBertForQuestionAnswering (модель RemBertConfig)
- roberta — RobertaForQuestionAnswering (модель RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForQuestionAnswering (модель RobertaPreLayerNormConfig)
- roc_bert — RoCBertForQuestionAnswering (модель RoCBertConfig)
- roformer — RoFormerForQuestionAnswering (модель RoFormerConfig)
- seed_oss — SeedOssForQuestionAnswering (модель SeedOssConfig)
- smollm3 — SmolLM3ForQuestionAnswering (модель SmolLM3Config)
- splinter — SplinterForQuestionAnswering (модель SplinterConfig)
- squeezebert — SqueezeBertForQuestionAnswering (модель SqueezeBertConfig)
- t5 — T5ForQuestionAnswering (модель T5Config)
- ultrabert — UltrabertForQuestionAnswering (модель UltrabertConfig)
- umt5 — UMT5ForQuestionAnswering (модель UMT5Config)
- xlm — XLMForQuestionAnsweringSimple (модель XLMConfig)
- xlm-roberta — XLMRobertaForQuestionAnswering (модель XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForQuestionAnswering (модель XLMRobertaXLConfig)
- xlnet — XLNetForQuestionAnsweringSimple (модель XLNetConfig)
- xmod — XmodForQuestionAnswering (модель XmodConfig)
- yoso — YosoForQuestionAnswering (модель YosoConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextEncoding
Компьютерное зрение
Для следующих задач компьютерного зрения доступны следующие автоклассы.
AutoModelForDepthEstimation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для оценки глубины).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации CHMv2Config: CHMv2ForDepthEstimation (модель CHMv2Config)
- Класс конфигурации DPTConfig: DPTForDepthEstimation (модель DPTConfig)
- Класс конфигурации DepthAnythingConfig: DepthAnythingForDepthEstimation (модель DepthAnythingConfig)
- Класс конфигурации DepthProConfig: DepthProForDepthEstimation (модель DepthProConfig)
- Класс конфигурации GLPNConfig: GLPNForDepthEstimation (модель GLPNConfig)
- Класс конфигурации PromptDepthAnythingConfig: PromptDepthAnythingForDepthEstimation (модель PromptDepthAnythingConfig)
- Класс конфигурации Tipsv2DptConfig: Tipsv2DptForDepthEstimation (модель Tipsv2DptConfig)
- Класс конфигурации ZoeDepthConfig: ZoeDepthForDepthEstimation (модель ZoeDepthConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для оценки глубины) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для оценки глубины) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- chmv2 — CHMv2ForDepthEstimation (модель CHMv2Config)
- depth_anything — DepthAnythingForDepthEstimation (модель DepthAnythingConfig)
- depth_pro — DepthProForDepthEstimation (модель DepthProConfig)
- dpt — DPTForDepthEstimation (модель DPTConfig)
- glpn — GLPNForDepthEstimation (модель GLPNConfig)
- prompt_depth_anything — PromptDepthAnythingForDepthEstimation (модель PromptDepthAnythingConfig)
- tipsv2_dpt — Tipsv2DptForDepthEstimation (модель Tipsv2DptConfig)
- zoedepth — ZoeDepthForDepthEstimation (модель ZoeDepthConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForDepthEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForNormalEstimation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с обычной оценочной головой).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Sapiens2Config: Sapiens2ForNormalEstimation (модель Sapiens2Config)
- Класс конфигурации Tipsv2DptConfig: Tipsv2DptForNormalEstimation (модель Tipsv2DptConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с обычной оценочной головой) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с обычной оценочной головой) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForNormalEstimation (модель Sapiens2Config)
- tipsv2_dpt — Tipsv2DptForNormalEstimation (модель Tipsv2DptConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForNormalEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForPointmapEstimation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для оценки pointmap).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Sapiens2Config: Sapiens2ForPointmapEstimation (модель Sapiens2Config)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для оценки pointmap) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для оценки pointmap) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForPointmapEstimation (модель Sapiens2Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForPointmapEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageMatting
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для маттинга изображений).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Sapiens2Config: Sapiens2ForImageMatting (модель Sapiens2Config)
- Класс конфигурации VitMatteConfig: VitMatteForImageMatting (модель VitMatteConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для маттинга изображений) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для маттинга изображений) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForImageMatting (модель Sapiens2Config)
- vitmatte — VitMatteForImageMatting (модель VitMatteConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForImageMatting
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextRecognition
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для распознавания текста).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации PPOCRV5MobileRecConfig: PPOCRV5MobileRecForTextRecognition (модель PPOCRV5MobileRecConfig)
- Класс конфигурации PPOCRV5ServerRecConfig: PPOCRV5ServerRecForTextRecognition (модель PPOCRV5ServerRecConfig)
- Класс конфигурации PPOCRV6SmallRecConfig: PPOCRV6SmallRecForTextRecognition (модель PPOCRV6SmallRecConfig)
- Класс конфигурации PPOCRV6TinyRecConfig: PPOCRV6TinyRecForTextRecognition (модель PPOCRV6TinyRecConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для распознавания текста) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для распознавания текста) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecForTextRecognition (модель PPOCRV5MobileRecConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecForTextRecognition (модель PPOCRV5ServerRecConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecForTextRecognition (модель PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecForTextRecognition (модель PPOCRV6TinyRecConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTextRecognition
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTableRecognition
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой распознавания таблиц).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации SLANeXtConfig: SLANeXtForTableRecognition (модель SLANeXtConfig)
- Класс конфигурации SLANetConfig: SLANetForTableRecognition (модель SLANetConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для распознавания таблиц) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для распознавания таблиц) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- slanet — SLANetForTableRecognition (модель SLANetConfig)
- slanext — SLANeXtForTableRecognition (модель SLANeXtConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTableRecognition
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для классификации изображений).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации BeitConfig: BeitForImageClassification (модель BeitConfig)
- Класс конфигурации BitConfig: BitForImageClassification (модель BitConfig)
- Класс конфигурации CLIPConfig: CLIPForImageClassification (модель CLIPConfig)
- Класс конфигурации ConvNextConfig: ConvNextForImageClassification (модель ConvNextConfig)
- Класс конфигурации ConvNextV2Config: ConvNextV2ForImageClassification (модель ConvNextV2Config)
- Класс конфигурации CvtConfig: CvtForImageClassification (модель CvtConfig)
- Класс конфигурации Data2VecVisionConfig: Data2VecVisionForImageClassification (модель Data2VecVisionConfig)
- Класс конфигурации DeiTConfig: DeiTForImageClassification или DeiTForImageClassificationWithTeacher (модель DeiTConfig)
- Класс конфигурации DinatConfig: DinatForImageClassification (модель DinatConfig)
- Класс конфигурации Dinov2Config: Dinov2ForImageClassification (модель Dinov2Config)
- Класс конфигурации Dinov2WithRegistersConfig: Dinov2WithRegistersForImageClassification (модель Dinov2WithRegistersConfig)
- Класс конфигурации DonutSwinConfig: DonutSwinForImageClassification (модель DonutSwinConfig)
- Класс конфигурации EfficientNetConfig: EfficientNetForImageClassification (модель EfficientNetConfig)
- Класс конфигурации FocalNetConfig: FocalNetForImageClassification (модель FocalNetConfig)
- Класс конфигурации HGNetV2Config: HGNetV2ForImageClassification (модель HGNetV2Config)
- Класс конфигурации HieraConfig: HieraForImageClassification (модель HieraConfig)
- Класс конфигурации IJepaConfig: IJepaForImageClassification (модель IJepaConfig)
- Класс конфигурации ImageGPTConfig: ImageGPTForImageClassification (модель ImageGPTConfig)
- Класс конфигурации LevitConfig: LevitForImageClassification или LevitForImageClassificationWithTeacher (модель LevitConfig)
- Класс конфигурации MetaClip2Config: MetaClip2ForImageClassification (модель MetaClip2Config)
- Класс конфигурации MobileNetV1Config: MobileNetV1ForImageClassification (модель MobileNetV1Config)
- Конфигурационный класс MobileNetV2Config: MobileNetV2ForImageClassification (модель MobileNetV2Config)
- Класс конфигурации MobileViTConfig: MobileViTForImageClassification (модель MobileViTConfig)
- Класс конфигурации MobileViTV2Config: MobileViTV2ForImageClassification (модель MobileViTV2Config)
- Класс конфигурации PPLCNetConfig: PPLCNetForImageClassification (модель PPLCNetConfig)
- Класс конфигурации PerceiverConfig: PerceiverForImageClassificationLearned или PerceiverForImageClassificationFourier или PerceiverForImageClassificationConvProcessing (модель PerceiverConfig)
- Класс конфигурации PoolFormerConfig: PoolFormerForImageClassification (модель PoolFormerConfig)
- Класс конфигурации PvtConfig: PvtForImageClassification (модель PvtConfig)
- Класс конфигурации PvtV2Config: PvtV2ForImageClassification (модель PvtV2Config)
- Класс конфигурации RegNetConfig: RegNetForImageClassification (модель RegNetConfig)
- Класс конфигурации ResNetConfig: ResNetForImageClassification (модель ResNetConfig)
- Класс конфигурации SegformerConfig: SegformerForImageClassification (модель SegformerConfig)
- Класс конфигурации ShieldGemma2Config: ShieldGemma2ForImageClassification (модель ShieldGemma2Config)
- Класс конфигурации Siglip2Config: Siglip2ForImageClassification (модель Siglip2Config)
- Класс конфигурации SiglipConfig: SiglipForImageClassification (модель SiglipConfig)
- Класс конфигурации SwiftFormerConfig: SwiftFormerForImageClassification (модель SwiftFormerConfig)
- Класс конфигурации SwinConfig: SwinForImageClassification (модель SwinConfig)
- Класс конфигурации Swinv2Config: Swinv2ForImageClassification (модель Swinv2Config)
- Класс конфигурации TextNetConfig: TextNetForImageClassification (модель TextNetConfig)
- Класс конфигурации TimmWrapperConfig: TimmWrapperForImageClassification (модель TimmWrapperConfig)
- Класс конфигурации ViTConfig: ViTForImageClassification (модель ViTConfig)
- Класс конфигурации ViTMSNConfig: ViTMSNForImageClassification (модель ViTMSNConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для классификации изображений) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для классификации изображений) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- beit — BeitForImageClassification (модель BeitConfig)
- bit — BitForImageClassification (модель BitConfig)
- clip — CLIPForImageClassification (модель CLIPConfig)
- convnext — ConvNextForImageClassification (модель ConvNextConfig)
- convnextv2 — ConvNextV2ForImageClassification (модель ConvNextV2Config)
- cvt — CvtForImageClassification (модель CvtConfig)
- data2vec-vision — Data2VecVisionForImageClassification (модель Data2VecVisionConfig)
- deit — DeiTForImageClassification или DeiTForImageClassificationWithTeacher (модель DeiTConfig)
- dinat — DinatForImageClassification (модель DinatConfig)
- dinov2 — Dinov2ForImageClassification (модель Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersForImageClassification (модель Dinov2WithRegistersConfig)
- donut-swin — DonutSwinForImageClassification (модель DonutSwinConfig)
- efficientnet — EfficientNetForImageClassification (модель EfficientNetConfig)
- focalnet — FocalNetForImageClassification (модель FocalNetConfig)
- hgnet_v2 — HGNetV2ForImageClassification (модель HGNetV2Config)
- hiera — HieraForImageClassification (модель HieraConfig)
- ijepa — IJepaForImageClassification (модель IJepaConfig)
- imagegpt — ImageGPTForImageClassification (модель ImageGPTConfig)
- levit — LevitForImageClassification или LevitForImageClassificationWithTeacher (модель LevitConfig)
- metaclip_2 — MetaClip2ForImageClassification (модель MetaClip2Config)
- mobilenet_v1 — MobileNetV1ForImageClassification (модель MobileNetV1Config)
- mobilenet_v2 — MobileNetV2ForImageClassification (модель MobileNetV2Config)
- mobilevit — MobileViTForImageClassification (модель MobileViTConfig)
- mobilevitv2 — MobileViTV2ForImageClassification (модель MobileViTV2Config)
- perceiver — PerceiverForImageClassificationLearned или PerceiverForImageClassificationFourier или PerceiverForImageClassificationConvProcessing (модель PerceiverConfig)
- poolformer — PoolFormerForImageClassification (модель PoolFormerConfig)
- pp_lcnet — PPLCNetForImageClassification (модель PPLCNetConfig)
- pvt — PvtForImageClassification (модель PvtConfig)
- pvt_v2 — PvtV2ForImageClassification (модель PvtV2Config)
- regnet — RegNetForImageClassification (модель RegNetConfig)
- resnet — ResNetForImageClassification (модель ResNetConfig)
- segformer — SegformerForImageClassification (модель SegformerConfig)
- shieldgemma2 — ShieldGemma2ForImageClassification (модель ShieldGemma2Config)
- siglip — SiglipForImageClassification (модель SiglipConfig)
- siglip2 — Siglip2ForImageClassification (модель Siglip2Config)
- swiftformer — SwiftFormerForImageClassification (модель SwiftFormerConfig)
- swin — SwinForImageClassification (модель SwinConfig)
- swinv2 — Swinv2ForImageClassification (модель Swinv2Config)
- textnet — TextNetForImageClassification (модель TextNetConfig)
- timm_wrapper — TimmWrapperForImageClassification (модель TimmWrapperConfig)
- vit — ViTForImageClassification (модель ViTConfig)
- vit_msn — ViTMSNForImageClassification (модель ViTMSNConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForImageClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForVideoClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для классификации видео).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации TimesformerConfig: TimesformerForVideoClassification (модель TimesformerConfig)
- Класс конфигурации VJEPA2Config: VJEPA2ForVideoClassification (модель VJEPA2Config)
- Класс конфигурации VideoMAEConfig: VideoMAEForVideoClassification (модель VideoMAEConfig)
- Класс конфигурации VideoPrismVisionConfig: VideoPrismForVideoClassification (модель VideoPrismVisionConfig)
- Класс конфигурации VivitConfig: VivitForVideoClassification (модель VivitConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для классификации видео) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для классификации видео) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- timesformer — TimesformerForVideoClassification (модель TimesformerConfig)
- videomae — VideoMAEForVideoClassification (модель VideoMAEConfig)
- videoprism_vision_model — VideoPrismForVideoClassification (модель VideoPrismVisionConfig)
- vivit — VivitForVideoClassification (модель VivitConfig)
- vjepa2 — VJEPA2ForVideoClassification (модель VJEPA2Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForVideoClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForPoseEstimation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для оценки позы).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Sapiens2Config: Sapiens2ForPoseEstimation (модель Sapiens2Config)
- Класс конфигурации VitPoseConfig: VitPoseForPoseEstimation (модель VitPoseConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для оценки позы) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для оценки позы) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForPoseEstimation (модель Sapiens2Config)
- vitpose — VitPoseForPoseEstimation (модель VitPoseConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForPoseEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForKeypointDetection
AutoModelForKeypointMatching
AutoModelForMaskedImageModeling
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для моделирования изображений с маскированием).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации DeiTConfig: DeiTForMaskedImageModeling (модель DeiTConfig)
- Класс конфигурации FocalNetConfig: FocalNetForMaskedImageModeling (модель FocalNetConfig)
- Класс конфигурации SwinConfig: SwinForMaskedImageModeling (модель SwinConfig)
- Класс конфигурации Swinv2Config: Swinv2ForMaskedImageModeling (модель Swinv2Config)
- Класс конфигурации ViTConfig: ViTForMaskedImageModeling (модель ViTConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для моделирования маскированных изображений) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для маскированного моделирования изображений) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- deit — DeiTForMaskedImageModeling (модель DeiTConfig)
- focalnet — FocalNetForMaskedImageModeling (модель FocalNetConfig)
- swin — SwinForMaskedImageModeling (модель SwinConfig)
- swinv2 — Swinv2ForMaskedImageModeling (модель Swinv2Config)
- vit — ViTForMaskedImageModeling (модель ViTConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForMaskedImageModeling
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForObjectDetection
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для обнаружения объектов).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации ConditionalDetrConfig: ConditionalDetrForObjectDetection (модель ConditionalDetrConfig)
- Класс конфигурации DFineConfig: DFineForObjectDetection (модель DFineConfig)
- Класс конфигурации DabDetrConfig: DabDetrForObjectDetection (модель DabDetrConfig)
- Класс конфигурации DeformableDetrConfig: DeformableDetrForObjectDetection (модель DeformableDetrConfig)
- Класс конфигурации Deimv2Config: Deimv2ForObjectDetection (модель Deimv2Config)
- Класс конфигурации DetrConfig: DetrForObjectDetection (модель DetrConfig)
- Класс конфигурации LwDetrConfig: LwDetrForObjectDetection (модель LwDetrConfig)
- Класс конфигурации PPDocLayoutV2Config: PPDocLayoutV2ForObjectDetection (модель PPDocLayoutV2Config)
- Класс конфигурации PPDocLayoutV3Config: PPDocLayoutV3ForObjectDetection (модель PPDocLayoutV3Config)
- Класс конфигурации PPDocLayoutV4Config: PPDocLayoutV4ForObjectDetection (модель PPDocLayoutV4Config)
- Класс конфигурации PPOCRV5MobileDetConfig: PPOCRV5MobileDetForObjectDetection (модель PPOCRV5MobileDetConfig)
- Класс конфигурации PPOCRV5ServerDetConfig: PPOCRV5ServerDetForObjectDetection (модель PPOCRV5ServerDetConfig)
- Класс конфигурации PPOCRV6MediumDetConfig: PPOCRV6MediumDetForObjectDetection (модель PPOCRV6MediumDetConfig)
- Класс конфигурации PPOCRV6SmallDetConfig: PPOCRV6SmallDetForObjectDetection (модель PPOCRV6SmallDetConfig)
- Класс конфигурации RTDetrConfig: RTDetrForObjectDetection (модель RTDetrConfig)
- Класс конфигурации RTDetrV2Config: RTDetrV2ForObjectDetection (модель RTDetrV2Config)
- Класс конфигурации RfDetrConfig: RfDetrForObjectDetection (модель RfDetrConfig)
- Класс конфигурации TableTransformerConfig: TableTransformerForObjectDetection (модель TableTransformerConfig)
- Класс конфигурации YolosConfig: YolosForObjectDetection (модель YolosConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для обнаружения объектов) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для обнаружения объектов) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- conditional_detr — ConditionalDetrForObjectDetection (модель ConditionalDetrConfig)
- d_fine — DFineForObjectDetection (модель DFineConfig)
- dab-detr — DabDetrForObjectDetection (модель DabDetrConfig)
- deformable_detr — DeformableDetrForObjectDetection (модель DeformableDetrConfig)
- deimv2 — Deimv2ForObjectDetection (модель Deimv2Config)
- detr — DetrForObjectDetection (модель DetrConfig)
- lw_detr — LwDetrForObjectDetection (модель LwDetrConfig)
- pp_doclayout_v2 — PPDocLayoutV2ForObjectDetection (модель PPDocLayoutV2Config)
- pp_doclayout_v3 — PPDocLayoutV3ForObjectDetection (модель PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4ForObjectDetection (модель PPDocLayoutV4Config)
- pp_ocrv5_mobile_det — PPOCRV5MobileDetForObjectDetection (модель PPOCRV5MobileDetConfig)
- pp_ocrv5_server_det — PPOCRV5ServerDetForObjectDetection (модель PPOCRV5ServerDetConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetForObjectDetection (модель PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetForObjectDetection (модель PPOCRV6SmallDetConfig)
- rf_detr — RfDetrForObjectDetection (модель RfDetrConfig)
- rt_detr — RTDetrForObjectDetection (модель RTDetrConfig)
- rt_detr_v2 — RTDetrV2ForObjectDetection (модель RTDetrV2Config)
- table-transformer — TableTransformerForObjectDetection (модель TableTransformerConfig)
- yolos — YolosForObjectDetection (модель YolosConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForObjectDetection
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageSegmentation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для сегментации изображений).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации DetrConfig: DetrForSegmentation (модель DetrConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для сегментации изображений) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для сегментации изображений) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- detr — DetrForSegmentation (модель DetrConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForImageSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageToImage
AutoModelForSemanticSegmentation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой семантической сегментации).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации BeitConfig: BeitForSemanticSegmentation (модель BeitConfig)
- Класс конфигурации DPTConfig: DPTForSemanticSegmentation (модель DPTConfig)
- Класс конфигурации Data2VecVisionConfig: Data2VecVisionForSemanticSegmentation (модель Data2VecVisionConfig)
- Класс конфигурации MobileNetV2Config: MobileNetV2ForSemanticSegmentation (модель MobileNetV2Config)
- Класс конфигурации MobileViTConfig: MobileViTForSemanticSegmentation (модель MobileViTConfig)
- Класс конфигурации MobileViTV2Config: MobileViTV2ForSemanticSegmentation (модель MobileViTV2Config)
- Класс конфигурации Sapiens2Config: Sapiens2ForSemanticSegmentation (модель Sapiens2Config)
- Класс конфигурации SegformerConfig: SegformerForSemanticSegmentation (модель SegformerConfig)
- Класс конфигурации Tipsv2DptConfig: Tipsv2DptForSemanticSegmentation (модель Tipsv2DptConfig)
- Класс конфигурации UperNetConfig: UperNetForSemanticSegmentation (модель UperNetConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой семантической сегментации) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой семантической сегментации) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- beit — BeitForSemanticSegmentation (модель BeitConfig)
- data2vec-vision — Data2VecVisionForSemanticSegmentation (модель Data2VecVisionConfig)
- dpt — DPTForSemanticSegmentation (модель DPTConfig)
- mobilenet_v2 — MobileNetV2ForSemanticSegmentation (модель MobileNetV2Config)
- mobilevit — MobileViTForSemanticSegmentation (модель MobileViTConfig)
- mobilevitv2 — MobileViTV2ForSemanticSegmentation (модель MobileViTV2Config)
- sapiens2 — Sapiens2ForSemanticSegmentation (модель Sapiens2Config)
- segformer — SegformerForSemanticSegmentation (модель SegformerConfig)
- tipsv2_dpt — Tipsv2DptForSemanticSegmentation (модель Tipsv2DptConfig)
- upernet — UperNetForSemanticSegmentation (модель UperNetConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForSemanticSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForInstanceSegmentation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов модели библиотеки (с головой для сегментации экземпляров).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации MaskFormerConfig: MaskFormerForInstanceSegmentation (модель MaskFormerConfig)
- Класс конфигурации RfDetrConfig: RfDetrForInstanceSegmentation (модель RfDetrConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для сегментации экземпляров) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для сегментации экземпляров) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- maskformer — MaskFormerForInstanceSegmentation (модель MaskFormerConfig)
- rf_detr — RfDetrForInstanceSegmentation (модель RfDetrConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForInstanceSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForUniversalSegmentation
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с универсальной головой сегментации изображений).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации DetrConfig: DetrForSegmentation (модель DetrConfig)
- Класс конфигурации EomtConfig: EomtForUniversalSegmentation (модель EomtConfig)
- Класс конфигурации EomtDinov3Config: EomtDinov3ForUniversalSegmentation (модель EomtDinov3Config)
- Класс конфигурации Mask2FormerConfig: Mask2FormerForUniversalSegmentation (модель Mask2FormerConfig)
- Класс конфигурации MaskFormerConfig: MaskFormerForInstanceSegmentation (модель MaskFormerConfig)
- Класс конфигурации OneFormerConfig: OneFormerForUniversalSegmentation (модель OneFormerConfig)
- Класс конфигурации VideomtConfig: VideomtForUniversalSegmentation (модель VideomtConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с универсальной головой сегментации изображений) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с универсальной головой сегментации изображений) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- detr — DetrForSegmentation (модель DetrConfig)
- eomt — EomtForUniversalSegmentation (модель EomtConfig)
- eomt_dinov3 — EomtDinov3ForUniversalSegmentation (модель EomtDinov3Config)
- mask2former — Mask2FormerForUniversalSegmentation (модель Mask2FormerConfig)
- maskformer — MaskFormerForInstanceSegmentation (модель MaskFormerConfig)
- oneformer — OneFormerForUniversalSegmentation (модель OneFormerConfig)
- videomt — VideomtForUniversalSegmentation (модель VideomtConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForUniversalSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForZeroShotImageClassification
This is a generic model class that will be instantiated as one of the model classes of the library (with a zero-shot image classification head) when created with the from_pretrained() class method or the from_config() class method.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AlignConfig: AlignModel (модель AlignConfig)
- Класс конфигурации AltCLIPConfig: AltCLIPModel (модель AltCLIPConfig)
- Класс конфигурации Blip2Config: Blip2ForImageTextRetrieval (модель Blip2Config)
- Класс конфигурации BlipConfig: BlipModel (модель BlipConfig)
- Класс конфигурации CLIPConfig: CLIPModel (модель CLIPConfig)
- Класс конфигурации CLIPSegConfig: CLIPSegModel (модель CLIPSegConfig)
- Класс конфигурации ChineseCLIPConfig: ChineseCLIPModel (модель ChineseCLIPConfig)
- Класс конфигурации MetaClip2Config: MetaClip2Model (модель MetaClip2Config)
- Класс конфигурации Siglip2Config: Siglip2Model (модель Siglip2Config)
- Класс конфигурации SiglipConfig: SiglipModel (модель SiglipConfig)
- Класс конфигурации Tipsv2Config: Tipsv2Model (модель Tipsv2Config)
- Класс конфигурации VideoPrismConfig: VideoPrismClipModel (модель VideoPrismConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с заголовком для классификации изображений в режиме zero-shot) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головкой для классификации изображений в режиме zero-shot) на основе предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- align — AlignModel (модель AlignConfig)
- altclip — AltCLIPModel (модель AltCLIPConfig)
- blip — BlipModel (модель BlipConfig)
- blip-2 — Blip2ForImageTextRetrieval (модель Blip2Config)
- chinese_clip — ChineseCLIPModel (модель ChineseCLIPConfig)
- clip — CLIPModel (модель CLIPConfig)
- clipseg — CLIPSegModel (модель CLIPSegConfig)
- metaclip_2 — MetaClip2Model (модель MetaClip2Config)
- siglip — SiglipModel (модель SiglipConfig)
- siglip2 — Siglip2Model (модель Siglip2Config)
- tipsv2 — Tipsv2Model (модель Tipsv2Config)
- videoprism — VideoPrismClipModel (модель VideoPrismConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForZeroShotImageClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForZeroShotObjectDetection
This is a generic model class that will be instantiated as one of the model classes of the library (with a zero-shot object detection head) when created with the from_pretrained() class method or the from_config() class method.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации GroundingDinoConfig: GroundingDinoForObjectDetection (модель GroundingDinoConfig)
- Класс конфигурации MMGroundingDinoConfig: MMGroundingDinoForObjectDetection (модель MMGroundingDinoConfig)
- Класс конфигурации OmDetTurboConfig: OmDetTurboForObjectDetection (модель OmDetTurboConfig)
- Класс конфигурации OwlViTConfig: OwlViTForObjectDetection (модель OwlViTConfig)
- Класс конфигурации Owlv2Config: Owlv2ForObjectDetection (модель Owlv2Config)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головкой для детекции объектов в zero-shot режиме) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для детекции объектов в zero-shot режиме) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- grounding-dino — GroundingDinoForObjectDetection (модель GroundingDinoConfig)
- mm-grounding-dino — MMGroundingDinoForObjectDetection (модель MMGroundingDinoConfig)
- omdet-turbo — OmDetTurboForObjectDetection (модель OmDetTurboConfig)
- owlv2 — Owlv2ForObjectDetection (модель Owlv2Config)
- owlvit — OwlViTForObjectDetection (модель OwlViTConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForZeroShotObjectDetection
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueАудио
Для следующих задач обработки аудио доступны следующие автоклассы.
AutoModelForAudioClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для классификации аудио).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации ASTConfig: ASTForAudioClassification (модель ASTConfig)
- Класс конфигурации Data2VecAudioConfig: Data2VecAudioForSequenceClassification (модель Data2VecAudioConfig)
- Класс конфигурации HubertConfig: HubertForSequenceClassification (модель HubertConfig)
- Класс конфигурации SEWConfig: SEWForSequenceClassification (модель SEWConfig)
- Класс конфигурации SEWDConfig: SEWDForSequenceClassification (модель SEWDConfig)
- Класс конфигурации UniSpeechConfig: UniSpeechForSequenceClassification (модель UniSpeechConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatForSequenceClassification (модель UniSpeechSatConfig)
- Класс конфигурации Wav2Vec2BertConfig: Wav2Vec2BertForSequenceClassification (модель Wav2Vec2BertConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2ForSequenceClassification (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerForSequenceClassification (модель Wav2Vec2ConformerConfig)
- Класс конфигурации WavLMConfig: WavLMForSequenceClassification (модель WavLMConfig)
- Класс конфигурации WhisperConfig: WhisperForAudioClassification (модель WhisperConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для классификации аудио) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для классификации аудио) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- audio-spectrogram-transformer — ASTForAudioClassification (модель ASTConfig)
- data2vec-audio — Data2VecAudioForSequenceClassification (модель Data2VecAudioConfig)
- hubert — HubertForSequenceClassification (модель HubertConfig)
- sew — SEWForSequenceClassification (модель SEWConfig)
- sew-d — SEWDForSequenceClassification (модель SEWDConfig)
- unispeech — UniSpeechForSequenceClassification (модель UniSpeechConfig)
- unispeech-sat — UniSpeechSatForSequenceClassification (модель UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForSequenceClassification (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForSequenceClassification (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForSequenceClassification (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMForSequenceClassification (модель WavLMConfig)
- whisper — WhisperForAudioClassification (модель WhisperConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForAudioClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForAudioFrameClassification
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой классификации аудиокадров (токенов)).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Data2VecAudioConfig: Data2VecAudioForAudioFrameClassification (модель Data2VecAudioConfig)
- Класс конфигурации Nemotron3DiarizationConfig: Nemotron3DiarizationForAudioFrameClassification (модель Nemotron3DiarizationConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatForAudioFrameClassification (модель UniSpeechSatConfig)
- Класс конфигурации Wav2Vec2BertConfig: Wav2Vec2BertForAudioFrameClassification (модель Wav2Vec2BertConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2ForAudioFrameClassification (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerForAudioFrameClassification (модель Wav2Vec2ConformerConfig)
- Класс конфигурации WavLMConfig: WavLMForAudioFrameClassification (модель WavLMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой классификации аудиокадров (токенов)) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой классификации аудиокадров (токенов)) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForAudioFrameClassification (модель Data2VecAudioConfig)
- nemotron3_diarization — Nemotron3DiarizationForAudioFrameClassification (модель Nemotron3DiarizationConfig)
- unispeech-sat — UniSpeechSatForAudioFrameClassification (модель UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForAudioFrameClassification (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForAudioFrameClassification (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForAudioFrameClassification (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMForAudioFrameClassification (модель WavLMConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForAudioFrameClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForCTC
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для связного временного классификационного обучения).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Data2VecAudioConfig: Data2VecAudioForCTC (модель Data2VecAudioConfig)
- Класс конфигурации GraniteSpeech5CTCConfig: GraniteSpeech5ForCTC (модель GraniteSpeech5CTCConfig)
- Класс конфигурации HubertConfig: HubertForCTC (модель HubertConfig)
- Класс конфигурации LasrCTCConfig: LasrForCTC (модель LasrCTCConfig)
- Класс конфигурации ParakeetCTCConfig: ParakeetForCTC (модель ParakeetCTCConfig)
- Класс конфигурации SEWConfig: SEWForCTC (модель SEWConfig)
- Класс конфигурации SEWDConfig: SEWDForCTC (модель SEWDConfig)
- Класс конфигурации UniSpeechConfig: UniSpeechForCTC (модель UniSpeechConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatForCTC (модель UniSpeechSatConfig)
- Класс конфигурации Wav2Vec2BertConfig: Wav2Vec2BertForCTC (модель Wav2Vec2BertConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2ForCTC (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerForCTC (модель Wav2Vec2ConformerConfig)
- Класс конфигурации WavLMConfig: WavLMForCTC (модель WavLMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой для классификации с временной связностью) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой connectionist temporal classification) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForCTC (модель Data2VecAudioConfig)
- granite_speech5_ctc — GraniteSpeech5ForCTC (модель GraniteSpeech5CTCConfig)
- hubert — HubertForCTC (модель HubertConfig)
- lasr_ctc — LasrForCTC (модель LasrCTCConfig)
- parakeet_ctc — ParakeetForCTC (модель ParakeetCTCConfig)
- sew — SEWForCTC (модель SEWConfig)
- sew-d — SEWDForCTC (модель SEWDConfig)
- unispeech — UniSpeechForCTC (модель UniSpeechConfig)
- unispeech-sat — UniSpeechSatForCTC (модель UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForCTC (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForCTC (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForCTC (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMForCTC (модель WavLMConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForCTC
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTDT
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой transducer для токенов и длительности).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации ParakeetTDTConfig: ParakeetForTDT (модель ParakeetTDTConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой transducer для токенов и длительности) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой transducer, работающей с токенами и длительностью) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- parakeet_tdt — ParakeetForTDT (модель ParakeetTDTConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTDT
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForRNNT
This is a generic model class that will be instantiated as one of the model classes of the library (with a RNN transducer head) when created with the from_pretrained() class method or the from_config() class method.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Nemotron3_5AsrConfig: Nemotron3_5AsrForRNNT (модель Nemotron3_5AsrConfig)
- Класс конфигурации NemotronAsrStreamingConfig: NemotronAsrStreamingForRNNT (модель NemotronAsrStreamingConfig)
- Класс конфигурации ParakeetRNNTConfig: ParakeetForRNNT (модель ParakeetRNNTConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с головой RNN-транскрибера) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой RNN-транскрибтера) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- nemotron3_5_asr — Nemotron3_5AsrForRNNT (модель Nemotron3_5AsrConfig)
- nemotron_asr_streaming — NemotronAsrStreamingForRNNT (модель NemotronAsrStreamingConfig)
- parakeet_rnnt — ParakeetForRNNT (модель ParakeetRNNTConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForRNNT
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForSpeechSeq2Seq
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой моделирования «последовательность в последовательность» для распознавания речи).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации CanaryConfig: CanaryForConditionalGeneration (модель CanaryConfig)
- Класс конфигурации CohereAsrConfig: CohereAsrForConditionalGeneration (модель CohereAsrConfig)
- Класс конфигурации DiaConfig: DiaForConditionalGeneration (модель DiaConfig)
- Класс конфигурации FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- Класс конфигурации GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- Класс конфигурации GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- Класс конфигурации KyutaiSpeechToTextConfig: KyutaiSpeechToTextForConditionalGeneration (модель KyutaiSpeechToTextConfig)
- Класс конфигурации MoonshineConfig: MoonshineForConditionalGeneration (модель MoonshineConfig)
- Класс конфигурации MoonshineStreamingConfig: MoonshineStreamingForConditionalGeneration (модель MoonshineStreamingConfig)
- Класс конфигурации Pop2PianoConfig: Pop2PianoForConditionalGeneration (модель Pop2PianoConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- Класс конфигурации SeamlessM4TConfig: SeamlessM4TForSpeechToText (модель SeamlessM4TConfig)
- Класс конфигурации SeamlessM4Tv2Config: SeamlessM4Tv2ForSpeechToText (модель SeamlessM4Tv2Config)
- Класс конфигурации Speech2TextConfig: Speech2TextForConditionalGeneration (модель Speech2TextConfig)
- Класс конфигурации SpeechEncoderDecoderConfig: SpeechEncoderDecoderModel (модель SpeechEncoderDecoderConfig)
- Класс конфигурации SpeechT5Config: SpeechT5ForSpeechToText (модель SpeechT5Config)
- Класс конфигурации VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- Класс конфигурации VibeVoiceConfig: VibeVoiceForConditionalGeneration (модель VibeVoiceConfig)
- Класс конфигурации VoxtralConfig: VoxtralForConditionalGeneration (модель VoxtralConfig)
- Класс конфигурации VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- Класс конфигурации WhisperConfig: WhisperForConditionalGeneration (модель WhisperConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с заголовком моделирования «последовательность в последовательность» для распознавания речи) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с заголовком моделирования «последовательность в последовательность» для распознавания речи) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- canary — CanaryForConditionalGeneration (модель CanaryConfig)
- cohere_asr — CohereAsrForConditionalGeneration (модель CohereAsrConfig)
- dia — DiaForConditionalGeneration (модель DiaConfig)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextForConditionalGeneration (модель KyutaiSpeechToTextConfig)
- moonshine — MoonshineForConditionalGeneration (модель MoonshineConfig)
- moonshine_streaming — MoonshineStreamingForConditionalGeneration (модель MoonshineStreamingConfig)
- pop2piano — Pop2PianoForConditionalGeneration (модель Pop2PianoConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- seamless_m4t — SeamlessM4TForSpeechToText (модель SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2ForSpeechToText (модель SeamlessM4Tv2Config)
- speech-encoder-decoder — SpeechEncoderDecoderModel (модель SpeechEncoderDecoderConfig)
- speech_to_text — Speech2TextForConditionalGeneration (модель Speech2TextConfig)
- speecht5 — SpeechT5ForSpeechToText (модель SpeechT5Config)
- vibevoice — VibeVoiceForConditionalGeneration (модель VibeVoiceConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- voxtral — VoxtralForConditionalGeneration (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- whisper — WhisperForConditionalGeneration (модель WhisperConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForSpeechSeq2Seq
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForAudioXVector
This is a generic model class that will be instantiated as one of the model classes of the library (with a audio retrieval via x-vector head) when created with the from_pretrained() class method or the from_config() class method.
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Data2VecAudioConfig: Data2VecAudioForXVector (модель Data2VecAudioConfig)
- Класс конфигурации UniSpeechSatConfig: UniSpeechSatForXVector (модель UniSpeechSatConfig)
- Класс конфигурации Wav2Vec2BertConfig: Wav2Vec2BertForXVector (модель Wav2Vec2BertConfig)
- Класс конфигурации Wav2Vec2Config: Wav2Vec2ForXVector (модель Wav2Vec2Config)
- Класс конфигурации Wav2Vec2ConformerConfig: Wav2Vec2ConformerForXVector (модель Wav2Vec2ConformerConfig)
- Класс конфигурации WavLMConfig: WavLMForXVector (модель WavLMConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с аудио-ретривалом через x-vector head) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с аудио-поиском через x-vector head) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForXVector (модель Data2VecAudioConfig)
- unispeech-sat — UniSpeechSatForXVector (модель UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForXVector (модель Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForXVector (модель Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForXVector (модель Wav2Vec2ConformerConfig)
- wavlm — WavLMForXVector (модель WavLMConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForAudioXVector
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextToSpectrogram
AutoModelForTextToWaveform
AutoModelForAudioTokenization
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с аудио-токенизацией через кодбуки).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации DacConfig: DacModel (модель DacConfig)
- Класс конфигурации HiggsAudioV2TokenizerConfig: HiggsAudioV2TokenizerModel (модель HiggsAudioV2TokenizerConfig)
- Класс конфигурации NeuCodecConfig: NeuCodecModel (модель NeuCodecConfig)
- Класс конфигурации PocketTTSAudioTokenizerConfig: PocketTTSAudioTokenizerModel (модель PocketTTSAudioTokenizerConfig)
- Класс конфигурации VibeVoiceAcousticTokenizerConfig: VibeVoiceAcousticTokenizerModel (модель VibeVoiceAcousticTokenizerConfig)
- Класс конфигурации Xcodec2Config: Xcodec2Model (модель Xcodec2Config)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с аудио-токенизацией через кодбуки) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с аудио-токенизацией через кодбуки) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- dac — DacModel (модель DacConfig)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerModel (модель HiggsAudioV2TokenizerConfig)
- neucodec — NeuCodecModel (модель NeuCodecConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerModel (модель PocketTTSAudioTokenizerConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerModel (модель VibeVoiceAcousticTokenizerConfig)
- xcodec2 — Xcodec2Model (модель Xcodec2Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForAudioTokenization
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueМультимодальность
Для следующих мультимодальных задач доступны следующие автоклассы.
AutoModelForMultimodalLM
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с мультимодальной генеративной головой).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации AriaConfig: AriaForConditionalGeneration (модель AriaConfig)
- Класс конфигурации AyaVisionConfig: AyaVisionForConditionalGeneration (модель AyaVisionConfig)
- Класс конфигурации Blip2Config: Blip2ForConditionalGeneration (модель Blip2Config)
- Класс конфигурации BlipConfig: BlipForConditionalGeneration (модель BlipConfig)
- Класс конфигурации ChameleonConfig: ChameleonForConditionalGeneration (модель ChameleonConfig)
- Класс конфигурации Cohere2VisionConfig: Cohere2VisionForConditionalGeneration (модель Cohere2VisionConfig)
- Класс конфигурации CohereCompassConfig: CohereCompassForConditionalGeneration (модель CohereCompassConfig)
- Класс конфигурации Cosmos3EdgeConfig: Cosmos3EdgeForConditionalGeneration (модель Cosmos3EdgeConfig)
- Класс конфигурации Cosmos3OmniConfig: Cosmos3OmniForConditionalGeneration (модель Cosmos3OmniConfig)
- Класс конфигурации DeepseekOcr2Config: DeepseekOcr2ForConditionalGeneration (модель DeepseekOcr2Config)
- Класс конфигурации DeepseekVLConfig: DeepseekVLForConditionalGeneration (модель DeepseekVLConfig)
- Класс конфигурации DeepseekVLHybridConfig: DeepseekVLHybridForConditionalGeneration (модель DeepseekVLHybridConfig)
- Класс конфигурации DiffusionGemmaConfig: DiffusionGemmaForBlockDiffusion (модель DiffusionGemmaConfig)
- Класс конфигурации Emu3Config: Emu3ForConditionalGeneration (модель Emu3Config)
- Класс конфигурации Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeForConditionalGeneration (модель Ernie4_5_VLMoeConfig)
- Класс конфигурации EvollaConfig: EvollaForProteinText2Text (модель EvollaConfig)
- Класс конфигурации Exaone4_5_Config: Exaone4_5_ForConditionalGeneration (модель Exaone4_5_Config)
- Класс конфигурации FastVlmConfig: FastVlmForConditionalGeneration (модель FastVlmConfig)
- Класс конфигурации Florence2Config: Florence2ForConditionalGeneration (модель Florence2Config)
- Класс конфигурации FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- Класс конфигурации FuyuConfig: FuyuForCausalLM (модель FuyuConfig)
- Класс конфигурации Gemma3Config: Gemma3ForConditionalGeneration (модель Gemma3Config)
- Класс конфигурации Gemma3nConfig: Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- Класс конфигурации Gemma4Config: Gemma4ForConditionalGeneration (модель Gemma4Config)
- Класс конфигурации Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- Класс конфигурации GitConfig: GitForCausalLM (модель GitConfig)
- Класс конфигурации Glm46VConfig: Glm46VForConditionalGeneration (модель Glm46VConfig)
- Класс конфигурации Glm4vConfig: Glm4vForConditionalGeneration (модель Glm4vConfig)
- Класс конфигурации Glm4vMoeConfig: Glm4vMoeForConditionalGeneration (модель Glm4vMoeConfig)
- Класс конфигурации Glm5NextConfig: Glm5NextForConditionalGeneration (модель Glm5NextConfig)
- Класс конфигурации GlmAsrConfig: GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- Класс конфигурации GlmOcrConfig: GlmOcrForConditionalGeneration (модель GlmOcrConfig)
- Класс конфигурации GlmgaConfig: Glm46VForConditionalGeneration (модель GlmgaConfig)
- Класс конфигурации GotOcr2Config: GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- Класс конфигурации Granite4VisionConfig: Granite4VisionForConditionalGeneration (модель Granite4VisionConfig)
- Класс конфигурации GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- Класс конфигурации GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- Класс конфигурации HunYuanVLConfig: HunYuanVLForConditionalGeneration (модель HunYuanVLConfig)
- Класс конфигурации HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2ForConditionalGeneration (модель HyperCLOVAXVisionV2Config)
- Класс конфигурации Idefics2Config: Idefics2ForConditionalGeneration (модель Idefics2Config)
- Класс конфигурации Idefics3Config: Idefics3ForConditionalGeneration (модель Idefics3Config)
- Класс конфигурации IdeficsConfig: IdeficsForVisionText2Text (модель IdeficsConfig)
- Класс конфигурации InklingConfig: InklingForConditionalGeneration (модель InklingConfig)
- Класс конфигурации InstructBlipConfig: InstructBlipForConditionalGeneration (модель InstructBlipConfig)
- Класс конфигурации InstructBlipVideoConfig: InstructBlipVideoForConditionalGeneration (модель InstructBlipVideoConfig)
- Класс конфигурации InternVLConfig: InternVLForConditionalGeneration (модель InternVLConfig)
- Класс конфигурации JanusConfig: JanusForConditionalGeneration (модель JanusConfig)
- Класс конфигурации Kimi_K25Config: Kimi_K25ForConditionalGeneration (модель Kimi_K25Config)
- Класс конфигурации Kosmos2Config: Kosmos2ForConditionalGeneration (модель Kosmos2Config)
- Класс конфигурации Kosmos2_5Config: Kosmos2_5ForConditionalGeneration (модель Kosmos2_5Config)
- Класс конфигурации KyutaiSpeechToTextConfig: KyutaiSpeechToTextForConditionalGeneration (модель KyutaiSpeechToTextConfig)
- Класс конфигурации Lfm2VlConfig: Lfm2VlForConditionalGeneration (модель Lfm2VlConfig)
- Класс конфигурации LightOnOcrConfig: LightOnOcrForConditionalGeneration (модель LightOnOcrConfig)
- Класс конфигурации Llama4Config: Llama4ForConditionalGeneration (модель Llama4Config)
- Класс конфигурации LlavaConfig: LlavaForConditionalGeneration (модель LlavaConfig)
- Класс конфигурации LlavaNextConfig: LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- Класс конфигурации LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- Класс конфигурации LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- Класс конфигурации MiniCPMOcrConfig: MiniCPMOcrForConditionalGeneration (модель MiniCPMOcrConfig)
- Класс конфигурации MiniCPMV4_6Config: MiniCPMV4_6ForConditionalGeneration (модель MiniCPMV4_6Config)
- Класс конфигурации MiniCPMV4_7Config: MiniCPMV4_7ForConditionalGeneration (модель MiniCPMV4_7Config)
- Класс конфигурации MiniMaxM3VLConfig: MiniMaxM3SparseForConditionalGeneration (модель MiniMaxM3VLConfig)
- Класс конфигурации Mistral3Config: Mistral3ForConditionalGeneration (модель Mistral3Config)
- Класс конфигурации Mistral4Config: Mistral4ForCausalLM (модель Mistral4Config)
- Класс конфигурации MistralLarge4Config: MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- Класс конфигурации MllamaConfig: MllamaForConditionalGeneration (модель MllamaConfig)
- Класс конфигурации Molmo2Config: Molmo2ForConditionalGeneration (модель Molmo2Config)
- Класс конфигурации MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- Класс конфигурации MuseGlimmerConfig: MuseGlimmerForConditionalGeneration (модель MuseGlimmerConfig)
- Класс конфигурации MuseSparkConfig: MuseSparkForConditionalGeneration (модель MuseSparkConfig)
- Класс конфигурации Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- Класс конфигурации NemotronH_Omni_Reasoning_V3_Config: NemotronH_Omni_Reasoning_V3 (модель NemotronH_Omni_Reasoning_V3_Config)
- Класс конфигурации Ovis2Config: Ovis2ForConditionalGeneration (модель Ovis2Config)
- Класс конфигурации PI0Config: PI0ForConditionalGeneration (модель PI0Config)
- Класс конфигурации PPChart2TableConfig: GotOcr2ForConditionalGeneration (модель PPChart2TableConfig)
- Класс конфигурации PPFormulaNetConfig: PPFormulaNetForConditionalGeneration (модель PPFormulaNetConfig)
- Класс конфигурации PaddleOCRVLConfig: PaddleOCRVLForConditionalGeneration (модель PaddleOCRVLConfig)
- Класс конфигурации PaliGemmaConfig: PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- Класс конфигурации PerceptionLMConfig: PerceptionLMForConditionalGeneration (модель PerceptionLMConfig)
- Класс конфигурации Phi4MultimodalConfig: Phi4MultimodalForCausalLM (модель Phi4MultimodalConfig)
- Класс конфигурации Pix2StructConfig: Pix2StructForConditionalGeneration (модель Pix2StructConfig)
- Класс конфигурации QianfanOCRConfig: QianfanOCRForConditionalGeneration (модель QianfanOCRConfig)
- Класс конфигурации Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- Класс конфигурации Qwen2VLConfig: Qwen2VLForConditionalGeneration (модель Qwen2VLConfig)
- Класс конфигурации Qwen2_5OmniConfig: Qwen2_5OmniForConditionalGeneration (модель Qwen2_5OmniConfig)
- Класс конфигурации Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerForConditionalGeneration (модель Qwen2_5OmniThinkerConfig)
- Класс конфигурации Qwen2_5_VLConfig: Qwen2_5_VLForConditionalGeneration (модель Qwen2_5_VLConfig)
- Класс конфигурации Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- Класс конфигурации Qwen3OmniMoeConfig: Qwen3OmniMoeForConditionalGeneration (модель Qwen3OmniMoeConfig)
- Класс конфигурации Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerForConditionalGeneration (модель Qwen3OmniMoeThinkerConfig)
- Класс конфигурации Qwen3VLConfig: Qwen3VLForConditionalGeneration (модель Qwen3VLConfig)
- Класс конфигурации Qwen3VLMoeConfig: Qwen3VLMoeForConditionalGeneration (модель Qwen3VLMoeConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5ForConditionalGeneration (модель Qwen3_5Config)
- Класс конфигурации Qwen3_5MoeConfig: Qwen3_5MoeForConditionalGeneration (модель Qwen3_5MoeConfig)
- Класс конфигурации Qwen4ExpConfig: Qwen4ExpForConditionalGeneration (модель Qwen4ExpConfig)
- Класс конфигурации ShieldGemma2Config: Gemma3ForConditionalGeneration (модель ShieldGemma2Config)
- Класс конфигурации SmolVLMConfig: SmolVLMForConditionalGeneration (модель SmolVLMConfig)
- Класс конфигурации Step3p7Config: Step3p7ForConditionalGeneration (модель Step3p7Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- Класс конфигурации UdopConfig: UdopForConditionalGeneration (модель UdopConfig)
- Класс конфигурации UnlimitedOcrConfig: UnlimitedOcrForConditionalGeneration (модель UnlimitedOcrConfig)
- Класс конфигурации VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- Класс конфигурации VideoLlama3Config: VideoLlama3ForConditionalGeneration (модель VideoLlama3Config)
- Класс конфигурации VideoLlavaConfig: VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- Класс конфигурации VipLlavaConfig: VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- Класс конфигурации VisionEncoderDecoderConfig: VisionEncoderDecoderModel (модель VisionEncoderDecoderConfig)
- Класс конфигурации VoxtralConfig: VoxtralForConditionalGeneration (модель VoxtralConfig)
- Класс конфигурации VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с мультимодальной генеративной головой) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с мультимодальной генерационной головой) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- aria — AriaForConditionalGeneration (модель AriaConfig)
- aya_vision — AyaVisionForConditionalGeneration (модель AyaVisionConfig)
- blip — BlipForConditionalGeneration (модель BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (модель Blip2Config)
- chameleon — ChameleonForConditionalGeneration (модель ChameleonConfig)
- cohere2_vision — Cohere2VisionForConditionalGeneration (модель Cohere2VisionConfig)
- cohere_compass — CohereCompassForConditionalGeneration (модель CohereCompassConfig)
- cosmos3_edge — Cosmos3EdgeForConditionalGeneration (модель Cosmos3EdgeConfig)
- cosmos3_omni — Cosmos3OmniForConditionalGeneration (модель Cosmos3OmniConfig)
- deepseek_ocr2 — DeepseekOcr2ForConditionalGeneration (модель DeepseekOcr2Config)
- deepseek_vl — DeepseekVLForConditionalGeneration (модель DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridForConditionalGeneration (модель DeepseekVLHybridConfig)
- diffusion_gemma — DiffusionGemmaForBlockDiffusion (модель DiffusionGemmaConfig)
- emu3 — Emu3ForConditionalGeneration (модель Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeForConditionalGeneration (модель Ernie4_5_VLMoeConfig)
- evolla — EvollaForProteinText2Text (модель EvollaConfig)
- exaone4_5 — Exaone4_5_ForConditionalGeneration (модель Exaone4_5_Config)
- fast_vlm — FastVlmForConditionalGeneration (модель FastVlmConfig)
- florence2 — Florence2ForConditionalGeneration (модель Florence2Config)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (модель FunAsrNanoConfig)
- fuyu — FuyuForCausalLM (модель FuyuConfig)
- gemma3 — Gemma3ForConditionalGeneration (модель Gemma3Config)
- gemma3n — Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- gemma4 — Gemma4ForConditionalGeneration (модель Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- git — GitForCausalLM (модель GitConfig)
- glm46v — Glm46VForConditionalGeneration (модель Glm46VConfig)
- glm4v — Glm4vForConditionalGeneration (модель Glm4vConfig)
- glm4v_moe — Glm4vMoeForConditionalGeneration (модель Glm4vMoeConfig)
- glm5_next — Glm5NextForConditionalGeneration (модель Glm5NextConfig)
- glm_ocr — GlmOcrForConditionalGeneration (модель GlmOcrConfig)
- glmasr — GlmAsrForConditionalGeneration (модель GlmAsrConfig)
- glmga — Glm46VForConditionalGeneration (модель GlmgaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- granite4_vision — Granite4VisionForConditionalGeneration (модель Granite4VisionConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (модель GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (модель GraniteSpeechPlusConfig)
- hunyuan_vl — HunYuanVLForConditionalGeneration (модель HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2ForConditionalGeneration (модель HyperCLOVAXVisionV2Config)
- idefics — IdeficsForVisionText2Text (модель IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (модель Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (модель Idefics3Config)
- inkling_mm_model — InklingForConditionalGeneration (модель InklingConfig)
- instructblip — InstructBlipForConditionalGeneration (модель InstructBlipConfig)
- instructblipvideo — InstructBlipVideoForConditionalGeneration (модель InstructBlipVideoConfig)
- internvl — InternVLForConditionalGeneration (модель InternVLConfig)
- janus — JanusForConditionalGeneration (модель JanusConfig)
- kimi_k25 — Kimi_K25ForConditionalGeneration (модель Kimi_K25Config)
- kosmos-2 — Kosmos2ForConditionalGeneration (модель Kosmos2Config)
- kosmos-2.5 — Kosmos2_5ForConditionalGeneration (модель Kosmos2_5Config)
- kyutai_speech_to_text — KyutaiSpeechToTextForConditionalGeneration (модель KyutaiSpeechToTextConfig)
- lfm2_vl — Lfm2VlForConditionalGeneration (модель Lfm2VlConfig)
- lighton_ocr — LightOnOcrForConditionalGeneration (модель LightOnOcrConfig)
- llama4 — Llama4ForConditionalGeneration (модель Llama4Config)
- llava — LlavaForConditionalGeneration (модель LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- minicpm_ocr — MiniCPMOcrForConditionalGeneration (модель MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6ForConditionalGeneration (модель MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7ForConditionalGeneration (модель MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3SparseForConditionalGeneration (модель MiniMaxM3VLConfig)
- mistral3 — Mistral3ForConditionalGeneration (модель Mistral3Config)
- mistral4 — Mistral4ForCausalLM (модель Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (модель MllamaConfig)
- molmo2 — Molmo2ForConditionalGeneration (модель Molmo2Config)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (модель MossTranscribeDiarizeConfig)
- muse_glimmer — MuseGlimmerForConditionalGeneration (модель MuseGlimmerConfig)
- muse_spark — MuseSparkForConditionalGeneration (модель MuseSparkConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (модель Nemotron3_5TranscribeConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3 (модель NemotronH_Omni_Reasoning_V3_Config)
- ovis2 — Ovis2ForConditionalGeneration (модель Ovis2Config)
- paddleocr_vl — PaddleOCRVLForConditionalGeneration (модель PaddleOCRVLConfig)
- paligemma — PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- perception_lm — PerceptionLMForConditionalGeneration (модель PerceptionLMConfig)
- phi4_multimodal — Phi4MultimodalForCausalLM (модель Phi4MultimodalConfig)
- pi0 — PI0ForConditionalGeneration (модель PI0Config)
- pix2struct — Pix2StructForConditionalGeneration (модель Pix2StructConfig)
- pp_chart2table — GotOcr2ForConditionalGeneration (модель PPChart2TableConfig)
- pp_formulanet — PPFormulaNetForConditionalGeneration (модель PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRForConditionalGeneration (модель QianfanOCRConfig)
- qwen2_5_omni — Qwen2_5OmniForConditionalGeneration (модель Qwen2_5OmniConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerForConditionalGeneration (модель Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLForConditionalGeneration (модель Qwen2_5_VLConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (модель Qwen2AudioConfig)
- qwen2_vl — Qwen2VLForConditionalGeneration (модель Qwen2VLConfig)
- qwen3_5 — Qwen3_5ForConditionalGeneration (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForConditionalGeneration (модель Qwen3_5MoeConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (модель Qwen3ASRConfig)
- qwen3_omni_moe — Qwen3OmniMoeForConditionalGeneration (модель Qwen3OmniMoeConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerForConditionalGeneration (модель Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLForConditionalGeneration (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeForConditionalGeneration (модель Qwen3VLMoeConfig)
- qwen4_exp — Qwen4ExpForConditionalGeneration (модель Qwen4ExpConfig)
- shieldgemma2 — Gemma3ForConditionalGeneration (модель ShieldGemma2Config)
- smolvlm — SmolVLMForConditionalGeneration (модель SmolVLMConfig)
- step3p7 — Step3p7ForConditionalGeneration (модель Step3p7Config)
- t5gemma2 — T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- udop — UdopForConditionalGeneration (модель UdopConfig)
- unlimited_ocr — UnlimitedOcrForConditionalGeneration (модель UnlimitedOcrConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (модель VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3ForConditionalGeneration (модель VideoLlama3Config)
- video_llava — VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- vipllava — VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderModel (модель VisionEncoderDecoderConfig)
- voxtral — VoxtralForConditionalGeneration (модель VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (модель VoxtralRealtimeConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForMultimodalLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTableQuestionAnswering
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для ответа на вопросы по тексту).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации TapasConfig: TapasForQuestionAnswering (модель TapasConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для задачи вопросно-ответной) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для табличного вопросно-ответного) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- tapas — TapasForQuestionAnswering (модель TapasConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTableQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq")
>>> # Update configuration during loading
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForDocumentQuestionAnswering
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для ответа на вопросы по документу).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации LayoutLMConfig: LayoutLMForQuestionAnswering (модель LayoutLMConfig)
- Класс конфигурации LayoutLMv2Config: LayoutLMv2ForQuestionAnswering (модель LayoutLMv2Config)
- Класс конфигурации LayoutLMv3Config: LayoutLMv3ForQuestionAnswering (модель LayoutLMv3Config)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для задачи вопросно-ответной работы с документами) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
Примеры:
>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering
>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")
>>> model = AutoModelForDocumentQuestionAnswering.from_config(config)from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для задачи вопросно-ответной работы с документами) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- layoutlm — LayoutLMForQuestionAnswering (модель LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForQuestionAnswering (модель LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForQuestionAnswering (модель LayoutLMv3Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")
>>> # Update configuration during loading
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForVisualQuestionAnswering
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для визуального вопросно-ответного моделирования).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации Blip2Config: Blip2ForConditionalGeneration (модель Blip2Config)
- Класс конфигурации BlipConfig: BlipForQuestionAnswering (модель BlipConfig)
- Класс конфигурации ViltConfig: ViltForQuestionAnswering (модель ViltConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для визуального вопросно-ответного моделирования) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для визуального вопросно-ответного моделирования) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- blip — BlipForQuestionAnswering (модель BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (модель Blip2Config)
- vilt — ViltForQuestionAnswering (модель ViltConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForVisualQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa")
>>> # Update configuration during loading
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageTextToText
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с заголовком моделирования «изображение-текст в текст»).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, выбирается на основе класса конфигурации:
- Класс конфигурации AriaConfig: AriaForConditionalGeneration (модель AriaConfig)
- Класс конфигурации AyaVisionConfig: AyaVisionForConditionalGeneration (модель AyaVisionConfig)
- Класс конфигурации Blip2Config: Blip2ForConditionalGeneration (модель Blip2Config)
- Класс конфигурации BlipConfig: BlipForConditionalGeneration (модель BlipConfig)
- Класс конфигурации ChameleonConfig: ChameleonForConditionalGeneration (модель ChameleonConfig)
- Класс конфигурации Cohere2VisionConfig: Cohere2VisionForConditionalGeneration (модель Cohere2VisionConfig)
- Класс конфигурации CohereCompassConfig: CohereCompassForConditionalGeneration (модель CohereCompassConfig)
- Класс конфигурации Cosmos3EdgeConfig: Cosmos3EdgeForConditionalGeneration (модель Cosmos3EdgeConfig)
- Класс конфигурации Cosmos3OmniConfig: Cosmos3OmniForConditionalGeneration (модель Cosmos3OmniConfig)
- Класс конфигурации DeepseekOcr2Config: DeepseekOcr2ForConditionalGeneration (модель DeepseekOcr2Config)
- Класс конфигурации DeepseekVLConfig: DeepseekVLForConditionalGeneration (модель DeepseekVLConfig)
- Класс конфигурации DeepseekVLHybridConfig: DeepseekVLHybridForConditionalGeneration (модель DeepseekVLHybridConfig)
- Класс конфигурации DiffusionGemmaConfig: DiffusionGemmaForBlockDiffusion (модель DiffusionGemmaConfig)
- Класс конфигурации Emu3Config: Emu3ForConditionalGeneration (модель Emu3Config)
- Класс конфигурации Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeForConditionalGeneration (модель Ernie4_5_VLMoeConfig)
- Класс конфигурации EvollaConfig: EvollaForProteinText2Text (модель EvollaConfig)
- Класс конфигурации Exaone4_5_Config: Exaone4_5_ForConditionalGeneration (модель Exaone4_5_Config)
- Класс конфигурации FastVlmConfig: FastVlmForConditionalGeneration (модель FastVlmConfig)
- Класс конфигурации Florence2Config: Florence2ForConditionalGeneration (модель Florence2Config)
- Класс конфигурации FuyuConfig: FuyuForCausalLM (модель FuyuConfig)
- Класс конфигурации Gemma3Config: Gemma3ForConditionalGeneration (модель Gemma3Config)
- Класс конфигурации Gemma3nConfig: Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- Класс конфигурации Gemma4Config: Gemma4ForConditionalGeneration (модель Gemma4Config)
- Класс конфигурации Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- Класс конфигурации GitConfig: GitForCausalLM (модель GitConfig)
- Класс конфигурации Glm46VConfig: Glm46VForConditionalGeneration (модель Glm46VConfig)
- Класс конфигурации Glm4vConfig: Glm4vForConditionalGeneration (модель Glm4vConfig)
- Класс конфигурации Glm4vMoeConfig: Glm4vMoeForConditionalGeneration (модель Glm4vMoeConfig)
- Класс конфигурации Glm5NextConfig: Glm5NextForConditionalGeneration (модель Glm5NextConfig)
- Класс конфигурации GlmOcrConfig: GlmOcrForConditionalGeneration (модель GlmOcrConfig)
- Класс конфигурации GlmgaConfig: Glm46VForConditionalGeneration (модель GlmgaConfig)
- Класс конфигурации GotOcr2Config: GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- Класс конфигурации Granite4VisionConfig: Granite4VisionForConditionalGeneration (модель Granite4VisionConfig)
- Класс конфигурации HunYuanVLConfig: HunYuanVLForConditionalGeneration (модель HunYuanVLConfig)
- Класс конфигурации HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2ForConditionalGeneration (модель HyperCLOVAXVisionV2Config)
- Класс конфигурации Idefics2Config: Idefics2ForConditionalGeneration (модель Idefics2Config)
- Класс конфигурации Idefics3Config: Idefics3ForConditionalGeneration (модель Idefics3Config)
- Класс конфигурации IdeficsConfig: IdeficsForVisionText2Text (модель IdeficsConfig)
- Класс конфигурации InklingConfig: InklingForConditionalGeneration (модель InklingConfig)
- Класс конфигурации InstructBlipConfig: InstructBlipForConditionalGeneration (модель InstructBlipConfig)
- Класс конфигурации InstructBlipVideoConfig: InstructBlipVideoForConditionalGeneration (модель InstructBlipVideoConfig)
- Класс конфигурации InternVLConfig: InternVLForConditionalGeneration (модель InternVLConfig)
- Класс конфигурации JanusConfig: JanusForConditionalGeneration (модель JanusConfig)
- Класс конфигурации Kimi_K25Config: Kimi_K25ForConditionalGeneration (модель Kimi_K25Config)
- Класс конфигурации Kosmos2Config: Kosmos2ForConditionalGeneration (модель Kosmos2Config)
- Класс конфигурации Kosmos2_5Config: Kosmos2_5ForConditionalGeneration (модель Kosmos2_5Config)
- Класс конфигурации Lfm2VlConfig: Lfm2VlForConditionalGeneration (модель Lfm2VlConfig)
- Класс конфигурации LightOnOcrConfig: LightOnOcrForConditionalGeneration (модель LightOnOcrConfig)
- Класс конфигурации Llama4Config: Llama4ForConditionalGeneration (модель Llama4Config)
- Класс конфигурации LlavaConfig: LlavaForConditionalGeneration (модель LlavaConfig)
- Класс конфигурации LlavaNextConfig: LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- Класс конфигурации LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- Класс конфигурации LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- Класс конфигурации MiniCPMOcrConfig: MiniCPMOcrForConditionalGeneration (модель MiniCPMOcrConfig)
- Класс конфигурации MiniCPMV4_6Config: MiniCPMV4_6ForConditionalGeneration (модель MiniCPMV4_6Config)
- Класс конфигурации MiniCPMV4_7Config: MiniCPMV4_7ForConditionalGeneration (модель MiniCPMV4_7Config)
- Класс конфигурации MiniMaxM3VLConfig: MiniMaxM3SparseForConditionalGeneration (модель MiniMaxM3VLConfig)
- Класс конфигурации Mistral3Config: Mistral3ForConditionalGeneration (модель Mistral3Config)
- Класс конфигурации Mistral4Config: Mistral4ForCausalLM (модель Mistral4Config)
- Класс конфигурации MistralLarge4Config: MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- Класс конфигурации MllamaConfig: MllamaForConditionalGeneration (модель MllamaConfig)
- Класс конфигурации Molmo2Config: Molmo2ForConditionalGeneration (модель Molmo2Config)
- Класс конфигурации MuseGlimmerConfig: MuseGlimmerForConditionalGeneration (модель MuseGlimmerConfig)
- Класс конфигурации MuseSparkConfig: MuseSparkForConditionalGeneration (модель MuseSparkConfig)
- Класс конфигурации NemotronH_Omni_Reasoning_V3_Config: NemotronH_Omni_Reasoning_V3 (модель NemotronH_Omni_Reasoning_V3_Config)
- Класс конфигурации Ovis2Config: Ovis2ForConditionalGeneration (модель Ovis2Config)
- Класс конфигурации PI0Config: PI0ForConditionalGeneration (модель PI0Config)
- Класс конфигурации PPChart2TableConfig: GotOcr2ForConditionalGeneration (модель PPChart2TableConfig)
- Класс конфигурации PPFormulaNetConfig: PPFormulaNetForConditionalGeneration (модель PPFormulaNetConfig)
- Класс конфигурации PaddleOCRVLConfig: PaddleOCRVLForConditionalGeneration (модель PaddleOCRVLConfig)
- Класс конфигурации PaliGemmaConfig: PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- Класс конфигурации PerceptionLMConfig: PerceptionLMForConditionalGeneration (модель PerceptionLMConfig)
- Класс конфигурации Pix2StructConfig: Pix2StructForConditionalGeneration (модель Pix2StructConfig)
- Класс конфигурации QianfanOCRConfig: QianfanOCRForConditionalGeneration (модель QianfanOCRConfig)
- Класс конфигурации Qwen2VLConfig: Qwen2VLForConditionalGeneration (модель Qwen2VLConfig)
- Класс конфигурации Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerForConditionalGeneration (модель Qwen2_5OmniThinkerConfig)
- Класс конфигурации Qwen2_5_VLConfig: Qwen2_5_VLForConditionalGeneration (модель Qwen2_5_VLConfig)
- Класс конфигурации Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerForConditionalGeneration (модель Qwen3OmniMoeThinkerConfig)
- Класс конфигурации Qwen3VLConfig: Qwen3VLForConditionalGeneration (модель Qwen3VLConfig)
- Класс конфигурации Qwen3VLMoeConfig: Qwen3VLMoeForConditionalGeneration (модель Qwen3VLMoeConfig)
- Класс конфигурации Qwen3_5Config: Qwen3_5ForConditionalGeneration (модель Qwen3_5Config)
- Класс конфигурации Qwen3_5MoeConfig: Qwen3_5MoeForConditionalGeneration (модель Qwen3_5MoeConfig)
- Класс конфигурации Qwen4ExpConfig: Qwen4ExpForConditionalGeneration (модель Qwen4ExpConfig)
- Класс конфигурации ShieldGemma2Config: Gemma3ForConditionalGeneration (модель ShieldGemma2Config)
- Класс конфигурации SmolVLMConfig: SmolVLMForConditionalGeneration (модель SmolVLMConfig)
- Класс конфигурации Step3p7Config: Step3p7ForConditionalGeneration (модель Step3p7Config)
- Класс конфигурации T5Gemma2Config: T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- Класс конфигурации UdopConfig: UdopForConditionalGeneration (модель UdopConfig)
- Класс конфигурации UnlimitedOcrConfig: UnlimitedOcrForConditionalGeneration (модель UnlimitedOcrConfig)
- Класс конфигурации VideoLlama3Config: VideoLlama3ForConditionalGeneration (модель VideoLlama3Config)
- Класс конфигурации VideoLlavaConfig: VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- Класс конфигурации VipLlavaConfig: VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- Класс конфигурации VisionEncoderDecoderConfig: VisionEncoderDecoderModel (модель VisionEncoderDecoderConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт экземпляр одного из классов моделей библиотеки (с заголовком моделирования «изображение-текст в текст») на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с заголовком моделирования «изображение-текст в текст») на основе предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- aria — AriaForConditionalGeneration (модель AriaConfig)
- aya_vision — AyaVisionForConditionalGeneration (модель AyaVisionConfig)
- blip — BlipForConditionalGeneration (модель BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (модель Blip2Config)
- chameleon — ChameleonForConditionalGeneration (модель ChameleonConfig)
- cohere2_vision — Cohere2VisionForConditionalGeneration (модель Cohere2VisionConfig)
- cohere_compass — CohereCompassForConditionalGeneration (модель CohereCompassConfig)
- cosmos3_edge — Cosmos3EdgeForConditionalGeneration (модель Cosmos3EdgeConfig)
- cosmos3_omni — Cosmos3OmniForConditionalGeneration (модель Cosmos3OmniConfig)
- deepseek_ocr2 — DeepseekOcr2ForConditionalGeneration (модель DeepseekOcr2Config)
- deepseek_vl — DeepseekVLForConditionalGeneration (модель DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridForConditionalGeneration (модель DeepseekVLHybridConfig)
- diffusion_gemma — DiffusionGemmaForBlockDiffusion (модель DiffusionGemmaConfig)
- emu3 — Emu3ForConditionalGeneration (модель Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeForConditionalGeneration (модель Ernie4_5_VLMoeConfig)
- evolla — EvollaForProteinText2Text (модель EvollaConfig)
- exaone4_5 — Exaone4_5_ForConditionalGeneration (модель Exaone4_5_Config)
- fast_vlm — FastVlmForConditionalGeneration (модель FastVlmConfig)
- florence2 — Florence2ForConditionalGeneration (модель Florence2Config)
- fuyu — FuyuForCausalLM (модель FuyuConfig)
- gemma3 — Gemma3ForConditionalGeneration (модель Gemma3Config)
- gemma3n — Gemma3nForConditionalGeneration (модель Gemma3nConfig)
- gemma4 — Gemma4ForConditionalGeneration (модель Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (модель Gemma4UnifiedConfig)
- git — GitForCausalLM (модель GitConfig)
- glm46v — Glm46VForConditionalGeneration (модель Glm46VConfig)
- glm4v — Glm4vForConditionalGeneration (модель Glm4vConfig)
- glm4v_moe — Glm4vMoeForConditionalGeneration (модель Glm4vMoeConfig)
- glm5_next — Glm5NextForConditionalGeneration (модель Glm5NextConfig)
- glm_ocr — GlmOcrForConditionalGeneration (модель GlmOcrConfig)
- glmga — Glm46VForConditionalGeneration (модель GlmgaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (модель GotOcr2Config)
- granite4_vision — Granite4VisionForConditionalGeneration (модель Granite4VisionConfig)
- hunyuan_vl — HunYuanVLForConditionalGeneration (модель HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2ForConditionalGeneration (модель HyperCLOVAXVisionV2Config)
- idefics — IdeficsForVisionText2Text (модель IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (модель Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (модель Idefics3Config)
- inkling_mm_model — InklingForConditionalGeneration (модель InklingConfig)
- instructblip — InstructBlipForConditionalGeneration (модель InstructBlipConfig)
- instructblipvideo — InstructBlipVideoForConditionalGeneration (модель InstructBlipVideoConfig)
- internvl — InternVLForConditionalGeneration (модель InternVLConfig)
- janus — JanusForConditionalGeneration (модель JanusConfig)
- kimi_k25 — Kimi_K25ForConditionalGeneration (модель Kimi_K25Config)
- kosmos-2 — Kosmos2ForConditionalGeneration (модель Kosmos2Config)
- kosmos-2.5 — Kosmos2_5ForConditionalGeneration (модель Kosmos2_5Config)
- lfm2_vl — Lfm2VlForConditionalGeneration (модель Lfm2VlConfig)
- lighton_ocr — LightOnOcrForConditionalGeneration (модель LightOnOcrConfig)
- llama4 — Llama4ForConditionalGeneration (модель Llama4Config)
- llava — LlavaForConditionalGeneration (модель LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (модель LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (модель LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (модель LlavaOnevisionConfig)
- minicpm_ocr — MiniCPMOcrForConditionalGeneration (модель MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6ForConditionalGeneration (модель MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7ForConditionalGeneration (модель MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3SparseForConditionalGeneration (модель MiniMaxM3VLConfig)
- mistral3 — Mistral3ForConditionalGeneration (модель Mistral3Config)
- mistral4 — Mistral4ForCausalLM (модель Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (модель MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (модель MllamaConfig)
- molmo2 — Molmo2ForConditionalGeneration (модель Molmo2Config)
- muse_glimmer — MuseGlimmerForConditionalGeneration (модель MuseGlimmerConfig)
- muse_spark — MuseSparkForConditionalGeneration (модель MuseSparkConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3 (модель NemotronH_Omni_Reasoning_V3_Config)
- ovis2 — Ovis2ForConditionalGeneration (модель Ovis2Config)
- paddleocr_vl — PaddleOCRVLForConditionalGeneration (модель PaddleOCRVLConfig)
- paligemma — PaliGemmaForConditionalGeneration (модель PaliGemmaConfig)
- perception_lm — PerceptionLMForConditionalGeneration (модель PerceptionLMConfig)
- pi0 — PI0ForConditionalGeneration (модель PI0Config)
- pix2struct — Pix2StructForConditionalGeneration (модель Pix2StructConfig)
- pp_chart2table — GotOcr2ForConditionalGeneration (модель PPChart2TableConfig)
- pp_formulanet — PPFormulaNetForConditionalGeneration (модель PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRForConditionalGeneration (модель QianfanOCRConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerForConditionalGeneration (модель Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLForConditionalGeneration (модель Qwen2_5_VLConfig)
- qwen2_vl — Qwen2VLForConditionalGeneration (модель Qwen2VLConfig)
- qwen3_5 — Qwen3_5ForConditionalGeneration (модель Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForConditionalGeneration (модель Qwen3_5MoeConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerForConditionalGeneration (модель Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLForConditionalGeneration (модель Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeForConditionalGeneration (модель Qwen3VLMoeConfig)
- qwen4_exp — Qwen4ExpForConditionalGeneration (модель Qwen4ExpConfig)
- shieldgemma2 — Gemma3ForConditionalGeneration (модель ShieldGemma2Config)
- smolvlm — SmolVLMForConditionalGeneration (модель SmolVLMConfig)
- step3p7 — Step3p7ForConditionalGeneration (модель Step3p7Config)
- t5gemma2 — T5Gemma2ForConditionalGeneration (модель T5Gemma2Config)
- udop — UdopForConditionalGeneration (модель UdopConfig)
- unlimited_ocr — UnlimitedOcrForConditionalGeneration (модель UnlimitedOcrConfig)
- video_llama_3 — VideoLlama3ForConditionalGeneration (модель VideoLlama3Config)
- video_llava — VideoLlavaForConditionalGeneration (модель VideoLlavaConfig)
- vipllava — VipLlavaForConditionalGeneration (модель VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderModel (модель VisionEncoderDecoderConfig)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForImageTextToText
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueВременные ряды
AutoModelForTimeSeriesPrediction
Это универсальный класс модели, который при создании с помощью метода класса from_pretrained() или метода класса from_config() будет инстанцирован как один из классов моделей библиотеки (с головой для прогнозирования временных рядов).
Этот класс нельзя создать напрямую с помощью __init__() (выбрасывает ошибку).
from_config
< source >( **kwargs )
Параметры
- config (PreTrainedConfig) —
Класс модели, который будет создан, определяется на основе класса конфигурации:
- Класс конфигурации TimesFm2_5Config: TimesFm2_5ModelForPrediction (модель TimesFm2_5Config)
- Класс конфигурации TimesFmConfig: TimesFmModelForPrediction (модель TimesFmConfig)
- attn_implementation (
str, необязательный) — Реализация механизма внимания, используемая в модели (если применимо). Допустимые значения:"eager"(ручная реализация внимания)"sdpa"(используяF.scaled_dot_product_attention)"flash_attention_2"(используя Dao-AILab/flash-attention)"flash_attention_3"(используя Dao-AILab/flash-attention/hopper)"flash_attention_4"(используется Dao-AILab/flash-attention/flash_attn/cute). По умолчанию, если доступно, для torch>=2.1.1 будет использоваться SDPA. В противном случае по умолчанию применяется ручная реализация"eager".
Создаёт один из классов моделей библиотеки (с головой для прогнозирования временных рядов) на основе конфигурации.
Примечание: Загрузка модели из файла конфигурации не загружает веса модели. Это влияет только на конфигурацию модели. Используйте from_pretrained() для загрузки весов модели.
from_pretrained
< source >( *model_args**kwargs )
Параметры
- pretrained_model_name_or_path (
strилиos.PathLike) — Может быть:- Строка, model id предобученной модели, размещенной в репозитории моделей на huggingface.co.
- Путь к каталогу, содержащему веса модели, сохранённые с помощью
save_pretrained(), например,
./my_model_directory/.
- model_args (дополнительные позиционные аргументы, необязательные) —
будут переданы в метод
__init__()базовой модели. - config (PreTrainedConfig, необязательный) —
Конфигурация модели, используемая вместо автоматически загружаемой. Конфигурация может быть загружена автоматически, если:
- Модель — это модель, предоставляемая библиотекой (загружаемая с помощью строки model id предобученной модели).
- Модель была сохранена с помощью save_pretrained() и загружается заново путем указания каталога сохранения.
- Модель загружается путём указания локального каталога в качестве
pretrained_model_name_or_path, при этом в каталоге находится файл конфигурации JSON с именем config.json.
- state_dict (dict[str, torch.Tensor], необязательный) —
Словарь состояния, который используется вместо словаря состояния, загруженного из файла сохранённых весов. Этот параметр можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым вариантом.
Этот вариант можно использовать, если вы хотите создать модель на основе предобученной конфигурации, но загрузить собственные веса. В этом случае, однако, стоит проверить, не является ли использование save_pretrained() и from_pretrained() более простым решением.
- cache_dir (
strилиos.PathLike, необязательный) — Путь к каталогу, в котором следует кэшировать загруженную конфигурацию предобученной модели, если стандартный кэш не используется. - force_download (
bool, необязательный, по умолчаниюFalse) — Следует ли принудительно (пере)скачивать веса модели и файлы конфигурации, игнорируя кэшированные версии, если они существуют. - proxies (
dict[str, str], необязательный) — Словарь прокси-серверов, используемых по протоколу или конечной точке, например,{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Прокси применяются при каждом запросе. - output_loading_info(
bool, optional, по умолчаниюFalse) — Определяет, следует ли также возвращать словарь, содержащий отсутствующие ключи, неожиданные ключи и сообщения об ошибках. - local_files_only(
bool, необязательный, по умолчаниюFalse) — Определяет, следует ли использовать только локальные файлы (например, не пытаться загрузить модель). - revision (
str, необязательный, по умолчанию"main") — Конкретная версия модели, которую следует использовать. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - trust_remote_code (
bool, необязательный, по умолчаниюFalse) — Определяет, разрешено ли использование пользовательских моделей, определенных на Hub в собственных файлах моделирования. Этот параметр следует устанавливать вTrueтолько для репозиториев, которым вы доверяете и код которых вы прочитали, поскольку он будет выполнять код, присутствующий на Hub, на вашем локальном компьютере. - code_revision (
str, необязательный, по умолчанию"main") — Конкретная ревизия, используемая для кода на Hub, если код находится в другом репозитории, чем остальная часть модели. Это может быть имя ветки, имя тега или идентификатор коммита, поскольку для хранения моделей и других артефактов на huggingface.co используется система на базе git, поэтомуrevisionможет быть любым идентификатором, разрешённым git. - kwargs (дополнительные именованные аргументы, необязательный) —
Можно использовать для обновления объекта конфигурации (после его загрузки) и инициализации модели (например,
output_attentions=True). Поведение зависит от того, предоставляется лиconfigили загружается автоматически:- Если конфигурация передана с помощью
config,**kwargsбудут непосредственно переданы в метод__init__базовой модели (мы предполагаем, что все необходимые обновления конфигурации уже были выполнены) - Если конфигурация не предоставлена,
kwargsсначала передаются в функцию инициализации класса конфигурации (from_pretrained()). Каждое ключевое значениеkwargs, соответствующее атрибуту конфигурации, используется для переопределения этого атрибута переданным значением изkwargs. Оставшиеся ключи, не соответствующие ни одному атрибуту конфигурации, передаются в функцию__init__базовой модели.
- Если конфигурация передана с помощью
Создайте экземпляр одного из классов моделей библиотеки (с головой для прогнозирования временных рядов) из предобученной модели.
Класс модели, который будет создан, выбирается на основе свойства model_type объекта конфигурации (передаваемого в качестве аргумента или загружаемого из pretrained_model_name_or_path, если это возможно), а при его отсутствии — с помощью сопоставления по шаблону для pretrained_model_name_or_path:
- timesfm — TimesFmModelForPrediction (модель TimesFmConfig)
- timesfm2_5 — TimesFm2_5ModelForPrediction (модель TimesFm2_5Config)
По умолчанию модель переводится в режим оценки с помощью model.eval() (например, модули dropout отключаются). Для обучения модели сначала необходимо вернуть её в режим обучения с помощью model.train()
Примеры:
>>> from transformers import AutoConfig, AutoModelForTimeSeriesPrediction
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True