Transformers documentation
Lớp Auto
Lớp Auto
Trong nhiều trường hợp, kiến trúc cần sử dụng có thể được suy ra từ tên hoặc đường dẫn của mô hình được huấn luyện trước mà bạn cung cấp cho phương thức from_pretrained().
Việc khởi tạo AutoConfig, AutoModel hoặc AutoTokenizer sẽ tự động tạo ra lớp kiến trúc phù hợp. Ví dụ:
model = AutoModel.from_pretrained("google-bert/bert-base-cased", device_map="auto")Điều này tạo ra một instance mô hình của BertModel.
Mỗi tác vụ có một lớp AutoModel tương ứng.
Mở rộng các Lớp Tự động
Mỗi lớp auto cung cấp một phương thức cho phép mở rộng bằng các lớp tùy chỉnh. Ví dụ, nếu bạn định nghĩa một lớp model tùy chỉnh NewModel, hãy đảm bảo rằng bạn cũng định nghĩa một NewModelConfig tương ứng. Sau đó, bạn có thể đăng ký chúng với các lớp auto như minh họa bên dưới:
from transformers import AutoConfig, AutoModel
AutoConfig.register("new-model", NewModelConfig)
AutoModel.register(NewModelConfig, NewModel)Sau đó, bạn có thể sử dụng các lớp auto như bình thường.
Nếu
NewModelConfigcủa bạn là một lớp con của PreTrainedConfig, hãy đảm bảo thuộc tínhmodel_typecủa nó được đặt thành cùng một khóa bạn sử dụng khi đăng ký cấu hình (ở đây là"new-model").Tương tự, nếu
NewModelcủa bạn là một lớp con của PreTrainedModel, hãy đảm bảo thuộc tínhconfig_classcủa nó được đặt thành cùng một lớp mà bạn sử dụng khi đăng ký mô hình (ở đây làNewModelConfig).
AutoConfig
Đây là một lớp cấu hình chung sẽ được khởi tạo thành một trong các lớp cấu hình của thư viện khi được tạo bằng phương thức lớp from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path: str | os.PathLike[str]**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một cấu hình model được huấn luyện trước được lưu trữ trong một kho model trên huggingface.co.
- Đường dẫn đến thư mục chứa tệp cấu hình được lưu bằng phương thức
save_pretrained(), hoặc phương thức save_pretrained(),
ví dụ:
./my_model_directory/. - đường dẫn đến tệp JSON cấu hình đã lưu tệp, ví dụ:
./my_model_directory/configuration.json.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - return_unused_kwargs (
bool, tùy chọn, mặc định làFalse) — NếuFalse, thì hàm này chỉ trả về đối tượng cấu hình cuối cùng.Nếu
True, thì hàm này trả về mộtTuple(config, unused_kwargs)trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính cấu hình: tức là phần củakwargschưa được sử dụng để cập nhậtconfigvà bị bỏ qua trong mọi trường hợp khác. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - kwargs(additional keyword arguments, optional) —
The values in kwargs of any keys which are configuration attributes will be used to override the loaded
values. Behavior concerning key/value pairs whose keys are not configuration attributes is controlled
by the
return_unused_kwargskeyword parameter.
Khởi tạo một trong các lớp cấu hình của thư viện từ cấu hình của một mô hình được huấn luyện trước.
Lớp cấu hình cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config được nạp, hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- EvollaModel — EvollaConfig (mô hình EvollaConfig)
- afmoe — AfmoeConfig (mô hình AfmoeConfig)
- aimv2 — Aimv2Config (mô hình Aimv2Config)
- aimv2_text_model — Aimv2TextConfig (mô hình Aimv2TextConfig)
- aimv2_vision_model — Aimv2VisionConfig (mô hình Aimv2VisionConfig)
- albert — AlbertConfig (mô hình AlbertConfig)
- align — AlignConfig (mô hình AlignConfig)
- align_text_model — AlignTextConfig (mô hình AlignTextConfig)
- align_vision_model — AlignVisionConfig (mô hình AlignVisionConfig)
- altclip — AltCLIPConfig (mô hình AltCLIPConfig)
- altclip_text_model — AltCLIPTextConfig (mô hình AltCLIPTextConfig)
- altclip_vision_model — AltCLIPVisionConfig (mô hình AltCLIPVisionConfig)
- apertus — ApertusConfig (mô hình ApertusConfig)
- arcee — ArceeConfig (mô hình ArceeConfig)
- aria — AriaConfig (mô hình AriaConfig)
- aria_text — AriaTextConfig (mô hình AriaTextConfig)
- audio-spectrogram-transformer — ASTConfig (mô hình ASTConfig)
- audioflamingo3 — AudioFlamingo3Config (mô hình AudioFlamingo3Config)
- audioflamingo3_encoder — AudioFlamingo3EncoderConfig (mô hình AudioFlamingo3EncoderConfig)
- autoformer — AutoformerConfig (mô hình AutoformerConfig)
- axk1 — AXK1Config (mô hình AXK1Config)
- axk2 — AXK2Config (mô hình AXK2Config)
- aya_vision — AyaVisionConfig (mô hình AyaVisionConfig)
- bailing_hybrid — BailingHybridConfig (mô hình BailingHybridConfig)
- bamba — BambaConfig (mô hình BambaConfig)
- bark — BarkConfig (mô hình BarkConfig)
- bart — BartConfig (mô hình BartConfig)
- beam — BeamConfig (mô hình BeamConfig)
- beit — BeitConfig (mô hình BeitConfig)
- bert — BertConfig (mô hình BertConfig)
- bert-generation — BertGenerationConfig (mô hình BertGenerationConfig)
- big_bird — BigBirdConfig (mô hình BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusConfig (mô hình BigBirdPegasusConfig)
- biogpt — BioGptConfig (mô hình BioGptConfig)
- bit — BitConfig (mô hình BitConfig)
- bitnet — BitNetConfig (mô hình BitNetConfig)
- blenderbot — BlenderbotConfig (mô hình BlenderbotConfig)
- blenderbot-small — BlenderbotSmallConfig (mô hình BlenderbotSmallConfig)
- blip — BlipConfig (mô hình BlipConfig)
- blip-2 — Blip2Config (mô hình Blip2Config)
- blip_2_qformer — Blip2QFormerConfig (mô hình Blip2QFormerConfig)
- blip_2_vision_model — Blip2VisionConfig (mô hình Blip2VisionConfig)
- blip_text_model — BlipTextConfig (mô hình BlipTextConfig)
- blip_vision_model — BlipVisionConfig (mô hình BlipVisionConfig)
- bloom — BloomConfig (mô hình BloomConfig)
- blt — BltConfig (mô hình BltConfig)
- blt_global_transformer —
BltGlobalTransformerConfig(mô hình BltGlobalTransformerConfig) - blt_local_decoder —
BltLocalDecoderConfig(mô hình BltLocalDecoderConfig) - blt_local_encoder —
BltLocalEncoderConfig(mô hình BltLocalEncoderConfig) - blt_patcher —
BltPatcherConfig(mô hình BltPatcherConfig) - bridgetower — BridgeTowerConfig (mô hình BridgeTowerConfig)
- bridgetower_text_model — BridgeTowerTextConfig (mô hình BridgeTowerTextConfig)
- bridgetower_vision_model — BridgeTowerVisionConfig (mô hình BridgeTowerVisionConfig)
- bros — BrosConfig (mô hình BrosConfig)
- camembert — CamembertConfig (mô hình CamembertConfig)
- canary — CanaryConfig (mô hình CanaryConfig)
- canary_decoder — CanaryDecoderConfig (mô hình CanaryDecoderConfig)
- canine — CanineConfig (mô hình CanineConfig)
- chameleon — ChameleonConfig (mô hình ChameleonConfig)
- chameleon_vqgan — ChameleonVQVAEConfig (mô hình ChameleonVQVAEConfig)
- chinese_clip — ChineseCLIPConfig (mô hình ChineseCLIPConfig)
- chinese_clip_text_model — ChineseCLIPTextConfig (mô hình ChineseCLIPTextConfig)
- chinese_clip_vision_model — ChineseCLIPVisionConfig (mô hình ChineseCLIPVisionConfig)
- chmv2 — CHMv2Config (mô hình CHMv2Config)
- clap — ClapConfig (mô hình ClapConfig)
- clap_audio_model — ClapAudioConfig (mô hình ClapAudioConfig)
- clap_text_model — ClapTextConfig (mô hình ClapTextConfig)
- clip — CLIPConfig (mô hình CLIPConfig)
- clip_text_model — CLIPTextConfig (mô hình CLIPTextConfig)
- clip_vision_model — CLIPVisionConfig (mô hình CLIPVisionConfig)
- clipseg — CLIPSegConfig (mô hình CLIPSegConfig)
- clipseg_text_model — CLIPSegTextConfig (mô hình CLIPSegTextConfig)
- clipseg_vision_model — CLIPSegVisionConfig (mô hình CLIPSegVisionConfig)
- clvp — ClvpConfig (mô hình ClvpConfig)
- clvp_decoder — ClvpDecoderConfig (mô hình ClvpDecoderConfig)
- clvp_encoder — ClvpEncoderConfig (mô hình ClvpEncoderConfig)
- codegen — CodeGenConfig (mô hình CodeGenConfig)
- cohere — CohereConfig (mô hình CohereConfig)
- cohere2 — Cohere2Config (mô hình Cohere2Config)
- cohere2_moe — Cohere2MoeConfig (mô hình Cohere2MoeConfig)
- cohere2_vision — Cohere2VisionConfig (mô hình Cohere2VisionConfig)
- cohere_asr — CohereAsrConfig (mô hình CohereAsrConfig)
- cohere_compass — CohereCompassConfig (mô hình CohereCompassConfig)
- cohere_compass_text — CohereCompassTextConfig (mô hình CohereCompassTextConfig)
- cohere_compass_vision — CohereCompassVisionConfig (mô hình CohereCompassVisionConfig)
- colmodernvbert — ColModernVBertConfig (mô hình ColModernVBertConfig)
- colpali — ColPaliConfig (mô hình ColPaliConfig)
- colqwen2 — ColQwen2Config (mô hình ColQwen2Config)
- conditional_detr — ConditionalDetrConfig (mô hình ConditionalDetrConfig)
- convbert — ConvBertConfig (mô hình ConvBertConfig)
- convnext — ConvNextConfig (mô hình ConvNextConfig)
- convnextv2 — ConvNextV2Config (mô hình ConvNextV2Config)
- cosmos3_edge — Cosmos3EdgeConfig (mô hình Cosmos3EdgeConfig)
- cosmos3_edge_text — Cosmos3EdgeTextConfig (mô hình Cosmos3EdgeTextConfig)
- cosmos3_edge_vision — Cosmos3EdgeVisionConfig (mô hình Cosmos3EdgeVisionConfig)
- cosmos3_omni — Cosmos3OmniConfig (mô hình Cosmos3OmniConfig)
- cpmant — CpmAntConfig (mô hình CpmAntConfig)
- csm — CsmConfig (mô hình CsmConfig)
- csm_depth_decoder_model — CsmDepthDecoderConfig (mô hình CsmDepthDecoderConfig)
- ctrl — CTRLConfig (mô hình CTRLConfig)
- cvt — CvtConfig (mô hình CvtConfig)
- cwm — CwmConfig (mô hình CwmConfig)
- d_fine — DFineConfig (mô hình DFineConfig)
- dab-detr — DabDetrConfig (mô hình DabDetrConfig)
- dac — DacConfig (mô hình DacConfig)
- data2vec-audio — Data2VecAudioConfig (mô hình Data2VecAudioConfig)
- data2vec-text — Data2VecTextConfig (mô hình Data2VecTextConfig)
- data2vec-vision — Data2VecVisionConfig (mô hình Data2VecVisionConfig)
- dbrx — DbrxConfig (mô hình DbrxConfig)
- deberta — DebertaConfig (mô hình DebertaConfig)
- deberta-v2 — DebertaV2Config (mô hình DebertaV2Config)
- decision_transformer — DecisionTransformerConfig (mô hình DecisionTransformerConfig)
- deepseek_ocr2 — DeepseekOcr2Config (mô hình DeepseekOcr2Config)
- deepseek_ocr2_encoder — DeepseekOcr2VisionEncoderConfig (mô hình DeepseekOcr2VisionEncoderConfig)
- deepseek_ocr2_sam_vision_model — DeepseekOcr2SamVisionConfig (mô hình DeepseekOcr2SamVisionConfig)
- deepseek_ocr2_text — DeepseekOcr2TextConfig (mô hình DeepseekOcr2TextConfig)
- deepseek_ocr2_vision — DeepseekOcr2VisionConfig (mô hình DeepseekOcr2VisionConfig)
- deepseek_v2 — DeepseekV2Config (mô hình DeepseekV2Config)
- deepseek_v3 — DeepseekV3Config (mô hình DeepseekV3Config)
- deepseek_v32 — DeepseekV32Config (mô hình DeepseekV32Config)
- deepseek_v4 — DeepseekV4Config (mô hình DeepseekV4Config)
- deepseek_vl — DeepseekVLConfig (mô hình DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridConfig (mô hình DeepseekVLHybridConfig)
- deformable_detr — DeformableDetrConfig (mô hình DeformableDetrConfig)
- deimv2 — Deimv2Config (mô hình Deimv2Config)
- deit — DeiTConfig (mô hình DeiTConfig)
- depth_anything — DepthAnythingConfig (mô hình DepthAnythingConfig)
- depth_pro — DepthProConfig (mô hình DepthProConfig)
- detr — DetrConfig (mô hình DetrConfig)
- dia — DiaConfig (mô hình DiaConfig)
- dia_decoder — DiaDecoderConfig (mô hình DiaDecoderConfig)
- dia_encoder — DiaEncoderConfig (mô hình DiaEncoderConfig)
- diffllama — DiffLlamaConfig (mô hình DiffLlamaConfig)
- diffusion_gemma — DiffusionGemmaConfig (mô hình DiffusionGemmaConfig)
- diffusion_gemma_text — DiffusionGemmaTextConfig (mô hình DiffusionGemmaTextConfig)
- dinat — DinatConfig (mô hình DinatConfig)
- dinov2 — Dinov2Config (mô hình Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersConfig (mô hình Dinov2WithRegistersConfig)
- dinov3_convnext — DINOv3ConvNextConfig (mô hình DINOv3ConvNextConfig)
- dinov3_vit — DINOv3ViTConfig (mô hình DINOv3ViTConfig)
- distilbert — DistilBertConfig (mô hình DistilBertConfig)
- doge — DogeConfig (mô hình DogeConfig)
- donut-swin — DonutSwinConfig (mô hình DonutSwinConfig)
- dots1 — Dots1Config (mô hình Dots1Config)
- dots3_note — Dots3NoteConfig (mô hình Dots3NoteConfig)
- dots3_note_audio_encoder — Dots3NoteAudioConfig (mô hình Dots3NoteAudioConfig)
- dots3_note_text — Dots3NoteTextConfig (mô hình Dots3NoteTextConfig)
- dots3_note_vision_encoder — Dots3NoteVisionConfig (mô hình Dots3NoteVisionConfig)
- dpr — DPRConfig (mô hình DPRConfig)
- dpt — DPTConfig (mô hình DPTConfig)
- edgetam — EdgeTamConfig (mô hình EdgeTamConfig)
- edgetam_mask_decoder — EdgeTamMaskDecoderConfig (mô hình EdgeTamMaskDecoderConfig)
- edgetam_prompt_encoder — EdgeTamPromptEncoderConfig (mô hình EdgeTamPromptEncoderConfig)
- edgetam_video — EdgeTamVideoConfig (mô hình EdgeTamVideoConfig)
- edgetam_video_mask_decoder — EdgeTamVideoMaskDecoderConfig (mô hình EdgeTamVideoMaskDecoderConfig)
- edgetam_video_prompt_encoder — EdgeTamVideoPromptEncoderConfig (mô hình EdgeTamVideoPromptEncoderConfig)
- edgetam_vision_model — EdgeTamVisionConfig (mô hình EdgeTamVisionConfig)
- efficientloftr — EfficientLoFTRConfig (mô hình EfficientLoFTRConfig)
- efficientnet — EfficientNetConfig (mô hình EfficientNetConfig)
- electra — ElectraConfig (mô hình ElectraConfig)
- embedding_gemma2 — EmbeddingGemma2Config (mô hình EmbeddingGemma2Config)
- embedding_gemma2_text — EmbeddingGemma2TextConfig (mô hình EmbeddingGemma2TextConfig)
- emu3 — Emu3Config (mô hình Emu3Config)
- emu3_text_model — Emu3TextConfig (mô hình Emu3TextConfig)
- emu3_vqgan — Emu3VQVAEConfig (mô hình Emu3VQVAEConfig)
- encodec — EncodecConfig (mô hình EncodecConfig)
- encoder-decoder — EncoderDecoderConfig (mô hình EncoderDecoderConfig)
- eomt — EomtConfig (mô hình EomtConfig)
- eomt_dinov3 — EomtDinov3Config (mô hình EomtDinov3Config)
- ernie — ErnieConfig (mô hình ErnieConfig)
- ernie4_5 — Ernie4_5Config (mô hình Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeConfig (mô hình Ernie4_5_MoeConfig)
- ernie4_5_vl_moe — Ernie4_5_VLMoeConfig (mô hình Ernie4_5_VLMoeConfig)
- ernie4_5_vl_moe_text — Ernie4_5_VLMoeTextConfig (mô hình Ernie4_5_VLMoeTextConfig)
- ernie4_5_vl_moe_vision — Ernie4_5_VLMoeVisionConfig (mô hình Ernie4_5_VLMoeVisionConfig)
- esm — EsmConfig (mô hình EsmConfig)
- esmc — EsmcConfig (mô hình EsmcConfig)
- esmfold2 — EsmFold2Config (mô hình EsmFold2Config)
- eurobert — EuroBertConfig (mô hình EuroBertConfig)
- evolla — EvollaConfig (mô hình EvollaConfig)
- exaone4 — Exaone4Config (mô hình Exaone4Config)
- exaone4_5 — Exaone4_5_Config (mô hình Exaone4_5_Config)
- exaone4_5_vision — Exaone4_5_VisionConfig (mô hình Exaone4_5_VisionConfig)
- exaone_moe — ExaoneMoeConfig (mô hình ExaoneMoeConfig)
- falcon — FalconConfig (mô hình FalconConfig)
- falcon_h1 — FalconH1Config (mô hình FalconH1Config)
- falcon_mamba — FalconMambaConfig (mô hình FalconMambaConfig)
- fast_vlm — FastVlmConfig (mô hình FastVlmConfig)
- fastspeech2_conformer — FastSpeech2ConformerConfig (mô hình FastSpeech2ConformerConfig)
- fastspeech2_conformer_hifigan — FastSpeech2ConformerHifiGanConfig (mô hình FastSpeech2ConformerHifiGanConfig)
- fastspeech2_conformer_with_hifigan — FastSpeech2ConformerWithHifiGanConfig (mô hình FastSpeech2ConformerWithHifiGanConfig)
- flaubert — FlaubertConfig (mô hình FlaubertConfig)
- flava — FlavaConfig (mô hình FlavaConfig)
- flava_image_codebook — FlavaImageCodebookConfig (mô hình FlavaImageCodebookConfig)
- flava_image_model — FlavaImageConfig (mô hình FlavaImageConfig)
- flava_multimodal_model — FlavaMultimodalConfig (mô hình FlavaMultimodalConfig)
- flava_text_model — FlavaTextConfig (mô hình FlavaTextConfig)
- flex_olmo — FlexOlmoConfig (mô hình FlexOlmoConfig)
- flint — FlintConfig (mô hình FlintConfig)
- florence2 — Florence2Config (mô hình Florence2Config)
- florence_vision — Florence2VisionConfig (mô hình Florence2VisionConfig)
- fnet — FNetConfig (mô hình FNetConfig)
- focalnet — FocalNetConfig (mô hình FocalNetConfig)
- fsmt — FSMTConfig (mô hình FSMTConfig)
- fun_asr_nano — FunAsrNanoConfig (mô hình FunAsrNanoConfig)
- fun_asr_nano_encoder — FunAsrNanoEncoderConfig (mô hình FunAsrNanoEncoderConfig)
- funnel — FunnelConfig (mô hình FunnelConfig)
- fuyu — FuyuConfig (mô hình FuyuConfig)
- gemma — GemmaConfig (mô hình GemmaConfig)
- gemma2 — Gemma2Config (mô hình Gemma2Config)
- gemma3 — Gemma3Config (mô hình Gemma3Config)
- gemma3_text — Gemma3TextConfig (mô hình Gemma3TextConfig)
- gemma3n — Gemma3nConfig (mô hình Gemma3nConfig)
- gemma3n_audio — Gemma3nAudioConfig (mô hình Gemma3nAudioConfig)
- gemma3n_text — Gemma3nTextConfig (mô hình Gemma3nTextConfig)
- gemma3n_vision — Gemma3nVisionConfig (mô hình Gemma3nVisionConfig)
- gemma4 — Gemma4Config (mô hình Gemma4Config)
- gemma4_assistant — Gemma4AssistantConfig (mô hình Gemma4AssistantConfig)
- gemma4_audio — Gemma4AudioConfig (mô hình Gemma4AudioConfig)
- gemma4_text — Gemma4TextConfig (mô hình Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedConfig (mô hình Gemma4UnifiedConfig)
- gemma4_unified_assistant — Gemma4UnifiedAssistantConfig (mô hình Gemma4UnifiedAssistantConfig)
- gemma4_unified_audio — Gemma4UnifiedAudioConfig (mô hình Gemma4UnifiedAudioConfig)
- gemma4_unified_text — Gemma4UnifiedTextConfig (mô hình Gemma4UnifiedTextConfig)
- gemma4_unified_vision — Gemma4UnifiedVisionConfig (mô hình Gemma4UnifiedVisionConfig)
- gemma4_vision — Gemma4VisionConfig (mô hình Gemma4VisionConfig)
- git — GitConfig (mô hình GitConfig)
- git_vision_model — GitVisionConfig (mô hình GitVisionConfig)
- glm — GlmConfig (mô hình GlmConfig)
- glm4 — Glm4Config (mô hình Glm4Config)
- glm46v — Glm46VConfig (mô hình Glm46VConfig)
- glm4_moe — Glm4MoeConfig (mô hình Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteConfig (mô hình Glm4MoeLiteConfig)
- glm4v — Glm4vConfig (mô hình Glm4vConfig)
- glm4v_moe — Glm4vMoeConfig (mô hình Glm4vMoeConfig)
- glm4v_moe_text — Glm4vMoeTextConfig (mô hình Glm4vMoeTextConfig)
- glm4v_moe_vision — Glm4vMoeVisionConfig (mô hình Glm4vMoeVisionConfig)
- glm4v_text — Glm4vTextConfig (mô hình Glm4vTextConfig)
- glm4v_vision — Glm4vVisionConfig (mô hình Glm4vVisionConfig)
- glm5_next — Glm5NextConfig (mô hình Glm5NextConfig)
- glm5_next_text — Glm5NextTextConfig (mô hình Glm5NextTextConfig)
- glm5_next_vision — Glm5NextVisionConfig (mô hình Glm5NextVisionConfig)
- glm_image — GlmImageConfig (mô hình GlmImageConfig)
- glm_image_text — GlmImageTextConfig (mô hình GlmImageTextConfig)
- glm_image_vision — GlmImageVisionConfig (mô hình GlmImageVisionConfig)
- glm_image_vqmodel — GlmImageVQVAEConfig (mô hình GlmImageVQVAEConfig)
- glm_moe_dsa — GlmMoeDsaConfig (mô hình GlmMoeDsaConfig)
- glm_ocr — GlmOcrConfig (mô hình GlmOcrConfig)
- glm_ocr_text — GlmOcrTextConfig (mô hình GlmOcrTextConfig)
- glm_ocr_vision — GlmOcrVisionConfig (mô hình GlmOcrVisionConfig)
- glmasr — GlmAsrConfig (mô hình GlmAsrConfig)
- glmasr_encoder — GlmAsrEncoderConfig (mô hình GlmAsrEncoderConfig)
- glmga — GlmgaConfig (mô hình GlmgaConfig)
- glpn — GLPNConfig (mô hình GLPNConfig)
- got_ocr2 — GotOcr2Config (mô hình GotOcr2Config)
- got_ocr2_vision — GotOcr2VisionConfig (mô hình GotOcr2VisionConfig)
- gpt-sw3 — GPT2Config (mô hình GPT2Config)
- gpt2 — GPT2Config (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeConfig (mô hình GPTBigCodeConfig)
- gpt_neo — GPTNeoConfig (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXConfig (mô hình GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseConfig (mô hình GPTNeoXJapaneseConfig)
- gpt_oss — GptOssConfig (mô hình GptOssConfig)
- gptj — GPTJConfig (mô hình GPTJConfig)
- gradium_phonon_tts — GradiumPhononTTSConfig (mô hình GradiumPhononTTSConfig)
- granite — GraniteConfig (mô hình GraniteConfig)
- granite4_vision — Granite4VisionConfig (mô hình Granite4VisionConfig)
- granite4_vision_text — Granite4VisionTextConfig (mô hình Granite4VisionTextConfig)
- granite_docling — GraniteDoclingConfig (mô hình GraniteDoclingConfig)
- granite_docling_text — GraniteDoclingTextConfig (mô hình GraniteDoclingTextConfig)
- granite_docling_vision — GraniteDoclingVisionConfig (mô hình GraniteDoclingVisionConfig)
- granite_speech — GraniteSpeechConfig (mô hình GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5CTCConfig (mô hình GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5EncoderConfig (mô hình GraniteSpeech5EncoderConfig)
- granite_speech_encoder — GraniteSpeechEncoderConfig (mô hình GraniteSpeechEncoderConfig)
- granite_speech_plus — GraniteSpeechPlusConfig (mô hình GraniteSpeechPlusConfig)
- granite_speech_plus_encoder — GraniteSpeechPlusEncoderConfig (mô hình GraniteSpeechPlusEncoderConfig)
- granite_swa — GraniteSWAConfig (mô hình GraniteSWAConfig)
- granitemoe — GraniteMoeConfig (mô hình GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAConfig (mô hình GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridConfig (mô hình GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedConfig (mô hình GraniteMoeSharedConfig)
- grounding-dino — GroundingDinoConfig (mô hình GroundingDinoConfig)
- groupvit — GroupViTConfig (mô hình GroupViTConfig)
- groupvit_text_model — GroupViTTextConfig (mô hình GroupViTTextConfig)
- groupvit_vision_model — GroupViTVisionConfig (mô hình GroupViTVisionConfig)
- gte — GteConfig (mô hình GteConfig)
- helium — HeliumConfig (mô hình HeliumConfig)
- hgnet_v2 — HGNetV2Config (mô hình HGNetV2Config)
- hiera — HieraConfig (mô hình HieraConfig)
- higgs_audio_v2 — HiggsAudioV2Config (mô hình HiggsAudioV2Config)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerConfig (mô hình HiggsAudioV2TokenizerConfig)
- hrm_text — HrmTextConfig (mô hình HrmTextConfig)
- hubert — HubertConfig (mô hình HubertConfig)
- hunyuan_v1_dense — HunYuanDenseV1Config (mô hình HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1Config (mô hình HunYuanMoEV1Config)
- hunyuan_vl — HunYuanVLConfig (mô hình HunYuanVLConfig)
- hunyuan_vl_text — HunYuanVLTextConfig (mô hình HunYuanVLTextConfig)
- hunyuan_vl_vision — HunYuanVLVisionConfig (mô hình HunYuanVLVisionConfig)
- hy_v3 — HYV3Config (mô hình HYV3Config)
- hy_v4 — HYV4Config (mô hình HYV4Config)
- hyperclovax — HyperCLOVAXConfig (mô hình HyperCLOVAXConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Config (mô hình HyperCLOVAXVisionV2Config)
- ibert — IBertConfig (mô hình IBertConfig)
- idefics — IdeficsConfig (mô hình IdeficsConfig)
- idefics2 — Idefics2Config (mô hình Idefics2Config)
- idefics2_perceiver — Idefics2PerceiverConfig (mô hình Idefics2PerceiverConfig)
- idefics2_vision — Idefics2VisionConfig (mô hình Idefics2VisionConfig)
- idefics3 — Idefics3Config (mô hình Idefics3Config)
- idefics3_vision — Idefics3VisionConfig (mô hình Idefics3VisionConfig)
- idefics_perciever — IdeficsPerceiverConfig (mô hình IdeficsPerceiverConfig)
- idefics_vision — IdeficsVisionConfig (mô hình IdeficsVisionConfig)
- ijepa — IJepaConfig (mô hình IJepaConfig)
- imagegpt — ImageGPTConfig (mô hình ImageGPTConfig)
- informer — InformerConfig (mô hình InformerConfig)
- inkling2 — Inkling2Config (mô hình Inkling2Config)
- inkling2_text — Inkling2TextConfig (mô hình Inkling2TextConfig)
- inkling2_vision — Inkling2VisionConfig (mô hình Inkling2VisionConfig)
- inkling_audio — InklingAudioConfig (mô hình InklingAudioConfig)
- inkling_mm_model — InklingConfig (mô hình InklingConfig)
- inkling_text — InklingTextConfig (mô hình InklingTextConfig)
- inkling_vision — InklingVisionConfig (mô hình InklingVisionConfig)
- instructblip — InstructBlipConfig (mô hình InstructBlipConfig)
- instructblip_qformer — InstructBlipQFormerConfig (mô hình InstructBlipQFormerConfig)
- instructblip_vision_model — InstructBlipVisionConfig (mô hình InstructBlipVisionConfig)
- instructblipvideo — InstructBlipVideoConfig (mô hình InstructBlipVideoConfig)
- instructblipvideo_qformer — InstructBlipVideoQFormerConfig (mô hình InstructBlipVideoQFormerConfig)
- instructblipvideo_vision_model — InstructBlipVideoVisionConfig (mô hình InstructBlipVideoVisionConfig)
- internlm3 — InternLM3Config (mô hình InternLM3Config)
- internvl — InternVLConfig (mô hình InternVLConfig)
- internvl_vision — InternVLVisionConfig (mô hình InternVLVisionConfig)
- iquestcoder — IQuestCoderConfig (mô hình IQuestCoderConfig)
- jais2 — Jais2Config (mô hình Jais2Config)
- jamba — JambaConfig (mô hình JambaConfig)
- janus — JanusConfig (mô hình JanusConfig)
- janus_vision_model — JanusVisionConfig (mô hình JanusVisionConfig)
- janus_vqgan — JanusVQVAEConfig (mô hình JanusVQVAEConfig)
- jetmoe — JetMoeConfig (mô hình JetMoeConfig)
- jev — JevConfig (mô hình JevConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3Config (mô hình JinaEmbeddingsV3Config)
- kimi_k25 — Kimi_K25Config (mô hình Kimi_K25Config)
- kimi_k25_vision — Kimi_K25VisionConfig (mô hình Kimi_K25VisionConfig)
- kimi_linear — KimiLinearConfig (mô hình KimiLinearConfig)
- kolibri1 — Kolibri1Config (mô hình Kolibri1Config)
- kosmos-2 — Kosmos2Config (mô hình Kosmos2Config)
- kosmos-2.5 — Kosmos2_5Config (mô hình Kosmos2_5Config)
- kosmos_2_5_text_model — Kosmos2_5TextConfig (mô hình Kosmos2_5TextConfig)
- kosmos_2_5_vision_model — Kosmos2_5VisionConfig (mô hình Kosmos2_5VisionConfig)
- kosmos_2_text_model — Kosmos2TextConfig (mô hình Kosmos2TextConfig)
- kosmos_2_vision_model — Kosmos2VisionConfig (mô hình Kosmos2VisionConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextConfig (mô hình KyutaiSpeechToTextConfig)
- laguna — LagunaConfig (mô hình LagunaConfig)
- lasr_ctc — LasrCTCConfig (mô hình LasrCTCConfig)
- lasr_encoder — LasrEncoderConfig (mô hình LasrEncoderConfig)
- layoutlm — LayoutLMConfig (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Config (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Config (mô hình LayoutLMv3Config)
- layoutxlm — LayoutXLMConfig (mô hình LayoutXLMConfig)
- led — LEDConfig (mô hình LEDConfig)
- levit — LevitConfig (mô hình LevitConfig)
- lfm2 — Lfm2Config (mô hình Lfm2Config)
- lfm2_moe — Lfm2MoeConfig (mô hình Lfm2MoeConfig)
- lfm2_vl — Lfm2VlConfig (mô hình Lfm2VlConfig)
- lfm3 — Lfm3Config (mô hình Lfm3Config)
- lfm3_vl — Lfm3VlConfig (mô hình Lfm3VlConfig)
- lfm3_vl_vision — Lfm3VlVisionConfig (mô hình Lfm3VlVisionConfig)
- lightglue — LightGlueConfig (mô hình LightGlueConfig)
- lighton_ocr — LightOnOcrConfig (mô hình LightOnOcrConfig)
- lilt — LiltConfig (mô hình LiltConfig)
- llama — LlamaConfig (mô hình LlamaConfig)
- llama4 — Llama4Config (mô hình Llama4Config)
- llama4_text — Llama4TextConfig (mô hình Llama4TextConfig)
- llama4_vision_model — Llama4VisionConfig (mô hình Llama4VisionConfig)
- llava — LlavaConfig (mô hình LlavaConfig)
- llava_next — LlavaNextConfig (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoConfig (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionConfig (mô hình LlavaOnevisionConfig)
- longcat_flash — LongcatFlashConfig (mô hình LongcatFlashConfig)
- longformer — LongformerConfig (mô hình LongformerConfig)
- longt5 — LongT5Config (mô hình LongT5Config)
- luke — LukeConfig (mô hình LukeConfig)
- lw_detr — LwDetrConfig (mô hình LwDetrConfig)
- lw_detr_vit — LwDetrViTConfig (mô hình LwDetrViTConfig)
- lxmert — LxmertConfig (mô hình LxmertConfig)
- m2m_100 — M2M100Config (mô hình M2M100Config)
- mamba — MambaConfig (mô hình MambaConfig)
- mamba2 — Mamba2Config (mô hình Mamba2Config)
- marian — MarianConfig (mô hình MarianConfig)
- markuplm — MarkupLMConfig (mô hình MarkupLMConfig)
- mask2former — Mask2FormerConfig (mô hình Mask2FormerConfig)
- maskformer — MaskFormerConfig (mô hình MaskFormerConfig)
- maskformer-swin —
MaskFormerSwinConfig(mô hình MaskFormerSwinConfig) - mbart — MBartConfig (mô hình MBartConfig)
- megatron-bert — MegatronBertConfig (mô hình MegatronBertConfig)
- mellum — MellumConfig (mô hình MellumConfig)
- metaclip_2 — MetaClip2Config (mô hình MetaClip2Config)
- metaclip_2_text_model — MetaClip2TextConfig (mô hình MetaClip2TextConfig)
- metaclip_2_vision_model — MetaClip2VisionConfig (mô hình MetaClip2VisionConfig)
- mgp-str — MgpstrConfig (mô hình MgpstrConfig)
- mimi — MimiConfig (mô hình MimiConfig)
- mimi_decoder — MimiDecoderConfig (mô hình MimiDecoderConfig)
- mimi_encoder — MimiEncoderConfig (mô hình MimiEncoderConfig)
- mimo_v2_flash — MiMoV2FlashConfig (mô hình MiMoV2FlashConfig)
- minicpm3 — MiniCPM3Config (mô hình MiniCPM3Config)
- minicpm_ocr — MiniCPMOcrConfig (mô hình MiniCPMOcrConfig)
- minicpm_ocr_vision — MiniCPMOcrVisionConfig (mô hình MiniCPMOcrVisionConfig)
- minicpmv4_6 — MiniCPMV4_6Config (mô hình MiniCPMV4_6Config)
- minicpmv4_6_vision — MiniCPMV4_6VisionConfig (mô hình MiniCPMV4_6VisionConfig)
- minicpmv4_7 — MiniCPMV4_7Config (mô hình MiniCPMV4_7Config)
- minicpmv4_7_vision — MiniCPMV4_7VisionConfig (mô hình MiniCPMV4_7VisionConfig)
- minimax — MiniMaxConfig (mô hình MiniMaxConfig)
- minimax_m2 — MiniMaxM2Config (mô hình MiniMaxM2Config)
- minimax_m3_vl — MiniMaxM3VLConfig (mô hình MiniMaxM3VLConfig)
- minimax_m3_vl_text — MiniMaxM3VLTextConfig (mô hình MiniMaxM3VLTextConfig)
- minimax_m3_vl_vision — MiniMaxM3VLVisionConfig (mô hình MiniMaxM3VLVisionConfig)
- ministral — MinistralConfig (mô hình MinistralConfig)
- ministral3 — Ministral3Config (mô hình Ministral3Config)
- mistral — MistralConfig (mô hình MistralConfig)
- mistral3 — Mistral3Config (mô hình Mistral3Config)
- mistral4 — Mistral4Config (mô hình Mistral4Config)
- mistral_large4 — MistralLarge4Config (mô hình MistralLarge4Config)
- mistral_large4_text — MistralLarge4TextConfig (mô hình MistralLarge4TextConfig)
- mixtral — MixtralConfig (mô hình MixtralConfig)
- mlcd — MLCDVisionConfig (mô hình MLCDVisionConfig)
- mlcd_vision_model — MLCDVisionConfig (mô hình MLCDVisionConfig)
- mllama — MllamaConfig (mô hình MllamaConfig)
- mllama_text_model — MllamaTextConfig (mô hình MllamaTextConfig)
- mllama_vision_model — MllamaVisionConfig (mô hình MllamaVisionConfig)
- mm-grounding-dino — MMGroundingDinoConfig (mô hình MMGroundingDinoConfig)
- mobilebert — MobileBertConfig (mô hình MobileBertConfig)
- mobilenet_v1 — MobileNetV1Config (mô hình MobileNetV1Config)
- mobilenet_v2 — MobileNetV2Config (mô hình MobileNetV2Config)
- mobilevit — MobileViTConfig (mô hình MobileViTConfig)
- mobilevitv2 — MobileViTV2Config (mô hình MobileViTV2Config)
- modernbert — ModernBertConfig (mô hình ModernBertConfig)
- modernbert-decoder — ModernBertDecoderConfig (mô hình ModernBertDecoderConfig)
- modernvbert — ModernVBertConfig (mô hình ModernVBertConfig)
- molmo2 — Molmo2Config (mô hình Molmo2Config)
- molmo2_adapter — Molmo2AdapterConfig (mô hình Molmo2AdapterConfig)
- molmo2_text — Molmo2TextConfig (mô hình Molmo2TextConfig)
- molmo2_vision — Molmo2VisionConfig (mô hình Molmo2VisionConfig)
- moonshine — MoonshineConfig (mô hình MoonshineConfig)
- moonshine_streaming — MoonshineStreamingConfig (mô hình MoonshineStreamingConfig)
- moonshine_streaming_encoder — MoonshineStreamingEncoderConfig (mô hình MoonshineStreamingEncoderConfig)
- moshi — MoshiConfig (MoshiConfig model)
- moshi_depth — MoshiDepthConfig (mô hình MoshiDepthConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeConfig (mô hình MossTranscribeDiarizeConfig)
- moss_transcribe_diarize_audio — MossTranscribeDiarizeAudioConfig (mô hình MossTranscribeDiarizeAudioConfig)
- mpnet — MPNetConfig (mô hình MPNetConfig)
- mpt — MptConfig (mô hình MptConfig)
- mra — MraConfig (mô hình MraConfig)
- mt5 — MT5Config (mô hình MT5Config)
- muse_glimmer — MuseGlimmerConfig (mô hình MuseGlimmerConfig)
- muse_glimmer_assistant — MuseGlimmerAssistantConfig (mô hình MuseGlimmerAssistantConfig)
- muse_glimmer_text — MuseGlimmerTextConfig (mô hình MuseGlimmerTextConfig)
- muse_glimmer_vision — MuseGlimmerVisionConfig (mô hình MuseGlimmerVisionConfig)
- muse_spark — MuseSparkConfig (mô hình MuseSparkConfig)
- muse_spark_audio — MuseSparkAudioConfig (mô hình MuseSparkAudioConfig)
- muse_spark_text — MuseSparkTextConfig (mô hình MuseSparkTextConfig)
- muse_spark_vision — MuseSparkVisionConfig (mô hình MuseSparkVisionConfig)
- musicflamingo — MusicFlamingoConfig (mô hình MusicFlamingoConfig)
- musicgen — MusicgenConfig (mô hình MusicgenConfig)
- musicgen_decoder — MusicgenDecoderConfig (mô hình MusicgenDecoderConfig)
- musicgen_melody — MusicgenMelodyConfig (mô hình MusicgenMelodyConfig)
- musicgen_melody_decoder — MusicgenMelodyDecoderConfig (mô hình MusicgenMelodyDecoderConfig)
- mvp — MvpConfig (mô hình MvpConfig)
- nanochat — NanoChatConfig (mô hình NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeConfig (mô hình Nemotron3_5TranscribeConfig)
- nemotron — NemotronConfig (mô hình NemotronConfig)
- nemotron3_5_asr — Nemotron3_5AsrConfig (mô hình Nemotron3_5AsrConfig)
- nemotron3_5_transcribe_asr_audio — Nemotron3_5TranscribeAsrAudioConfig (mô hình Nemotron3_5TranscribeAsrAudioConfig)
- nemotron3_5_transcribe_audio — Nemotron3_5TranscribeAudioConfig (mô hình Nemotron3_5TranscribeAudioConfig)
- nemotron3_5_transcribe_word_timestamp — Nemotron3_5TranscribeWordTimestampConfig (mô hình Nemotron3_5TranscribeWordTimestampConfig)
- nemotron3_diarization — Nemotron3DiarizationConfig (mô hình Nemotron3DiarizationConfig)
- nemotron3_diarization_audio — Nemotron3DiarizationAudioConfig (mô hình Nemotron3DiarizationAudioConfig)
- nemotron_asr_streaming — NemotronAsrStreamingConfig (mô hình NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingEncoderConfig (mô hình NemotronAsrStreamingEncoderConfig)
- nemotron_h — NemotronHConfig (mô hình NemotronHConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3_Config (mô hình NemotronH_Omni_Reasoning_V3_Config)
- neomme — NeoMMEConfig (mô hình NeoMMEConfig)
- neucodec — NeuCodecConfig (mô hình NeuCodecConfig)
- nllb-moe — NllbMoeConfig (mô hình NllbMoeConfig)
- nomic_bert — NomicBertConfig (mô hình NomicBertConfig)
- nougat — NougatConfig (mô hình NougatConfig)
- nystromformer — NystromformerConfig (mô hình NystromformerConfig)
- olmo — OlmoConfig (mô hình OlmoConfig)
- olmo2 — Olmo2Config (mô hình Olmo2Config)
- olmo3 — Olmo3Config (mô hình Olmo3Config)
- olmo_hybrid — OlmoHybridConfig (mô hình OlmoHybridConfig)
- olmoe — OlmoeConfig (mô hình OlmoeConfig)
- omdet-turbo — OmDetTurboConfig (mô hình OmDetTurboConfig)
- oneformer — OneFormerConfig (mô hình OneFormerConfig)
- openai-gpt — OpenAIGPTConfig (mô hình OpenAIGPTConfig)
- openai_privacy_filter — OpenAIPrivacyFilterConfig (mô hình OpenAIPrivacyFilterConfig)
- opt — OPTConfig (mô hình OPTConfig)
- ovis2 — Ovis2Config (mô hình Ovis2Config)
- ovis2_vision — Ovis2VisionConfig (mô hình Ovis2VisionConfig)
- owlv2 — Owlv2Config (mô hình Owlv2Config)
- owlv2_text_model — Owlv2TextConfig (mô hình Owlv2TextConfig)
- owlv2_vision_model — Owlv2VisionConfig (mô hình Owlv2VisionConfig)
- owlvit — OwlViTConfig (mô hình OwlViTConfig)
- owlvit_text_model — OwlViTTextConfig (mô hình OwlViTTextConfig)
- owlvit_vision_model — OwlViTVisionConfig (mô hình OwlViTVisionConfig)
- paddleocr_vl — PaddleOCRVLConfig (mô hình PaddleOCRVLConfig)
- paddleocr_vl_text — PaddleOCRTextConfig (mô hình PaddleOCRTextConfig)
- paddleocr_vl_vision — PaddleOCRVisionConfig (mô hình PaddleOCRVisionConfig)
- paligemma — PaliGemmaConfig (mô hình PaliGemmaConfig)
- parakeet_ctc — ParakeetCTCConfig (mô hình ParakeetCTCConfig)
- parakeet_encoder — ParakeetEncoderConfig (mô hình ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetRNNTConfig (mô hình ParakeetRNNTConfig)
- parakeet_tdt — ParakeetTDTConfig (mô hình ParakeetTDTConfig)
- patchtsmixer — PatchTSMixerConfig (mô hình PatchTSMixerConfig)
- patchtst — PatchTSTConfig (mô hình PatchTSTConfig)
- pe_audio — PeAudioConfig (mô hình PeAudioConfig)
- pe_audio_encoder — PeAudioEncoderConfig (mô hình PeAudioEncoderConfig)
- pe_audio_video — PeAudioVideoConfig (mô hình PeAudioVideoConfig)
- pe_audio_video_encoder — PeAudioVideoEncoderConfig (mô hình PeAudioVideoEncoderConfig)
- pe_video — PeVideoConfig (mô hình PeVideoConfig)
- pe_video_encoder — PeVideoEncoderConfig (mô hình PeVideoEncoderConfig)
- pegasus — PegasusConfig (mô hình PegasusConfig)
- pegasus_x — PegasusXConfig (mô hình PegasusXConfig)
- perceiver — PerceiverConfig (mô hình PerceiverConfig)
- perception_lm — PerceptionLMConfig (mô hình PerceptionLMConfig)
- persimmon — PersimmonConfig (mô hình PersimmonConfig)
- phi — PhiConfig (mô hình PhiConfig)
- phi3 — Phi3Config (Phi3Config model)
- phi4_multimodal — Phi4MultimodalConfig (mô hình Phi4MultimodalConfig)
- phi4_multimodal_audio — Phi4MultimodalAudioConfig (mô hình Phi4MultimodalAudioConfig)
- phi4_multimodal_vision — Phi4MultimodalVisionConfig (mô hình Phi4MultimodalVisionConfig)
- phimoe — PhimoeConfig (mô hình PhimoeConfig)
- pi0 — PI0Config (mô hình PI0Config)
- pix2struct — Pix2StructConfig (mô hình Pix2StructConfig)
- pix2struct_text_model — Pix2StructTextConfig (mô hình Pix2StructTextConfig)
- pix2struct_vision_model — Pix2StructVisionConfig (mô hình Pix2StructVisionConfig)
- pixio — PixioConfig (mô hình PixioConfig)
- pixtral — PixtralVisionConfig (mô hình PixtralVisionConfig)
- plbart — PLBartConfig (mô hình PLBartConfig)
- pocket_tts — PocketTTSConfig (mô hình PocketTTSConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerConfig (mô hình PocketTTSAudioTokenizerConfig)
- pocket_tts_audio_tokenizer_decoder — PocketTTSAudioTokenizerDecoderConfig (mô hình PocketTTSAudioTokenizerDecoderConfig)
- pocket_tts_audio_tokenizer_encoder — PocketTTSAudioTokenizerEncoderConfig (mô hình PocketTTSAudioTokenizerEncoderConfig)
- poolformer — PoolFormerConfig (mô hình PoolFormerConfig)
- pop2piano — Pop2PianoConfig (mô hình Pop2PianoConfig)
- pp_chart2table — PPChart2TableConfig (mô hình PPChart2TableConfig)
- pp_chart2table_vision — PPChart2TableVisionConfig (mô hình PPChart2TableVisionConfig)
- pp_doclayout_v2 — PPDocLayoutV2Config (mô hình PPDocLayoutV2Config)
- pp_doclayout_v3 — PPDocLayoutV3Config (mô hình PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4Config (mô hình PPDocLayoutV4Config)
- pp_formulanet — PPFormulaNetConfig (mô hình PPFormulaNetConfig)
- pp_formulanet_text — PPFormulaNetTextConfig (mô hình PPFormulaNetTextConfig)
- pp_formulanet_vision — PPFormulaNetVisionConfig (mô hình PPFormulaNetVisionConfig)
- pp_lcnet — PPLCNetConfig (mô hình PPLCNetConfig)
- pp_lcnet_v3 — PPLCNetV3Config (mô hình PPLCNetV3Config)
- pp_lcnet_v4 — PPLCNetV4Config (mô hình PPLCNetV4Config)
- pp_ocrv5_mobile_det — PPOCRV5MobileDetConfig (mô hình PPOCRV5MobileDetConfig)
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecConfig (mô hình PPOCRV5MobileRecConfig)
- pp_ocrv5_server_det — PPOCRV5ServerDetConfig (mô hình PPOCRV5ServerDetConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecConfig (mô hình PPOCRV5ServerRecConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetConfig (mô hình PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetConfig (mô hình PPOCRV6SmallDetConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecConfig (mô hình PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecConfig (mô hình PPOCRV6TinyRecConfig)
- prompt_depth_anything — PromptDepthAnythingConfig (mô hình PromptDepthAnythingConfig)
- prophetnet — ProphetNetConfig (mô hình ProphetNetConfig)
- pvt — PvtConfig (mô hình PvtConfig)
- pvt_v2 — PvtV2Config (mô hình PvtV2Config)
- qianfan_ocr — QianfanOCRConfig (mô hình QianfanOCRConfig)
- qianfan_ocr_vision — QianfanOCRVisionConfig (mô hình QianfanOCRVisionConfig)
- qwen2 — Qwen2Config (mô hình Qwen2Config)
- qwen2_5_omni — Qwen2_5OmniConfig (mô hình Qwen2_5OmniConfig)
- qwen2_5_omni_audio_encoder — Qwen2_5OmniAudioEncoderConfig (mô hình Qwen2_5OmniAudioEncoderConfig)
- qwen2_5_omni_bigvgan — Qwen2_5OmniBigVGANConfig (mô hình Qwen2_5OmniBigVGANConfig)
- qwen2_5_omni_dit — Qwen2_5OmniDiTConfig (mô hình Qwen2_5OmniDiTConfig)
- qwen2_5_omni_talker — Qwen2_5OmniTalkerConfig (mô hình Qwen2_5OmniTalkerConfig)
- qwen2_5_omni_text — Qwen2_5OmniTextConfig (mô hình Qwen2_5OmniTextConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerConfig (mô hình Qwen2_5OmniThinkerConfig)
- qwen2_5_omni_token2wav — Qwen2_5OmniToken2WavConfig (mô hình Qwen2_5OmniToken2WavConfig)
- qwen2_5_omni_vision_encoder — Qwen2_5OmniVisionEncoderConfig (mô hình Qwen2_5OmniVisionEncoderConfig)
- qwen2_5_vl — Qwen2_5_VLConfig (mô hình Qwen2_5_VLConfig)
- qwen2_5_vl_text — Qwen2_5_VLTextConfig (mô hình Qwen2_5_VLTextConfig)
- qwen2_5_vl_vision — Qwen2_5_VLVisionConfig (mô hình Qwen2_5_VLVisionConfig)
- qwen2_audio — Qwen2AudioConfig (mô hình Qwen2AudioConfig)
- qwen2_audio_encoder — Qwen2AudioEncoderConfig (mô hình Qwen2AudioEncoderConfig)
- qwen2_moe — Qwen2MoeConfig (mô hình Qwen2MoeConfig)
- qwen2_vl — Qwen2VLConfig (mô hình Qwen2VLConfig)
- qwen2_vl_text — Qwen2VLTextConfig (mô hình Qwen2VLTextConfig)
- qwen2_vl_vision — Qwen2VLVisionConfig (mô hình Qwen2VLVisionConfig)
- qwen3 — Qwen3Config (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5Config (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeConfig (mô hình Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeTextConfig (mô hình Qwen3_5MoeTextConfig)
- qwen3_5_moe_vision — Qwen3_5MoeVisionConfig (mô hình Qwen3_5MoeVisionConfig)
- qwen3_5_text — Qwen3_5TextConfig (mô hình Qwen3_5TextConfig)
- qwen3_5_vision — Qwen3_5VisionConfig (mô hình Qwen3_5VisionConfig)
- qwen3_asr — Qwen3ASRConfig (mô hình Qwen3ASRConfig)
- qwen3_asr_encoder — Qwen3ASREncoderConfig (mô hình Qwen3ASREncoderConfig)
- qwen3_moe — Qwen3MoeConfig (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextConfig (mô hình Qwen3NextConfig)
- qwen3_omni_moe — Qwen3OmniMoeConfig (mô hình Qwen3OmniMoeConfig)
- qwen3_omni_moe_audio_encoder — Qwen3OmniMoeAudioEncoderConfig (mô hình Qwen3OmniMoeAudioEncoderConfig)
- qwen3_omni_moe_talker_code_predictor — Qwen3OmniMoeTalkerCodePredictorConfig (mô hình Qwen3OmniMoeTalkerCodePredictorConfig)
- qwen3_omni_moe_talker_text — Qwen3OmniMoeTalkerTextConfig (mô hình Qwen3OmniMoeTalkerTextConfig)
- qwen3_omni_moe_text — Qwen3OmniMoeTextConfig (mô hình Qwen3OmniMoeTextConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerConfig (mô hình Qwen3OmniMoeThinkerConfig)
- qwen3_omni_moe_vision_encoder — Qwen3OmniMoeVisionEncoderConfig (mô hình Qwen3OmniMoeVisionEncoderConfig)
- qwen3_vl — Qwen3VLConfig (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeConfig (mô hình Qwen3VLMoeConfig)
- qwen3_vl_moe_text — Qwen3VLMoeTextConfig (mô hình Qwen3VLMoeTextConfig)
- qwen3_vl_moe_vision — Qwen3VLMoeVisionConfig (mô hình Qwen3VLMoeVisionConfig)
- qwen3_vl_text — Qwen3VLTextConfig (mô hình Qwen3VLTextConfig)
- qwen3_vl_vision — Qwen3VLVisionConfig (mô hình Qwen3VLVisionConfig)
- qwen4_exp — Qwen4ExpConfig (mô hình Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpTextConfig (mô hình Qwen4ExpTextConfig)
- qwen4_exp_vision — Qwen4ExpVisionConfig (mô hình Qwen4ExpVisionConfig)
- radio — RadioConfig (mô hình RadioConfig)
- rag — RagConfig (mô hình RagConfig)
- recurrent_gemma — RecurrentGemmaConfig (mô hình RecurrentGemmaConfig)
- reformer — ReformerConfig (mô hình ReformerConfig)
- regnet — RegNetConfig (mô hình RegNetConfig)
- rembert — RemBertConfig (mô hình RemBertConfig)
- resnet — ResNetConfig (mô hình ResNetConfig)
- rf_detr — RfDetrConfig (mô hình RfDetrConfig)
- rf_detr_dinov2 — RfDetrDinov2Config (mô hình RfDetrDinov2Config)
- roberta — RobertaConfig (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormConfig (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertConfig (mô hình RoCBertConfig)
- roformer — RoFormerConfig (mô hình RoFormerConfig)
- rt_detr — RTDetrConfig (mô hình RTDetrConfig)
- rt_detr_resnet — RTDetrResNetConfig (mô hình RTDetrResNetConfig)
- rt_detr_v2 — RTDetrV2Config (mô hình RTDetrV2Config)
- rwkv — RwkvConfig (mô hình RwkvConfig)
- sam — SamConfig (mô hình SamConfig)
- sam2 — Sam2Config (mô hình Sam2Config)
- sam2_hiera_det_model — Sam2HieraDetConfig (mô hình Sam2HieraDetConfig)
- sam2_mask_decoder — Sam2MaskDecoderConfig (mô hình Sam2MaskDecoderConfig)
- sam2_prompt_encoder — Sam2PromptEncoderConfig (mô hình Sam2PromptEncoderConfig)
- sam2_video — Sam2VideoConfig (mô hình Sam2VideoConfig)
- sam2_video_mask_decoder — Sam2VideoMaskDecoderConfig (mô hình Sam2VideoMaskDecoderConfig)
- sam2_video_prompt_encoder — Sam2VideoPromptEncoderConfig (mô hình Sam2VideoPromptEncoderConfig)
- sam2_vision_model — Sam2VisionConfig (mô hình Sam2VisionConfig)
- sam3 — Sam3Config (mô hình Sam3Config)
- sam3_detr_decoder — Sam3DETRDecoderConfig (mô hình Sam3DETRDecoderConfig)
- sam3_detr_encoder — Sam3DETREncoderConfig (mô hình Sam3DETREncoderConfig)
- sam3_geometry_encoder — Sam3GeometryEncoderConfig (mô hình Sam3GeometryEncoderConfig)
- sam3_lite_text — Sam3LiteTextConfig (mô hình Sam3LiteTextConfig)
- sam3_lite_text_detr_decoder — Sam3LiteTextDETRDecoderConfig (mô hình Sam3LiteTextDETRDecoderConfig)
- sam3_lite_text_detr_encoder — Sam3LiteTextDETREncoderConfig (mô hình Sam3LiteTextDETREncoderConfig)
- sam3_lite_text_geometry_encoder — Sam3LiteTextGeometryEncoderConfig (mô hình Sam3LiteTextGeometryEncoderConfig)
- sam3_lite_text_mask_decoder — Sam3LiteTextMaskDecoderConfig (mô hình Sam3LiteTextMaskDecoderConfig)
- sam3_lite_text_text_model — Sam3LiteTextTextConfig (mô hình Sam3LiteTextTextConfig)
- sam3_mask_decoder — Sam3MaskDecoderConfig (mô hình Sam3MaskDecoderConfig)
- sam3_tracker — Sam3TrackerConfig (mô hình Sam3TrackerConfig)
- sam3_tracker_mask_decoder — Sam3TrackerMaskDecoderConfig (mô hình Sam3TrackerMaskDecoderConfig)
- sam3_tracker_prompt_encoder — Sam3TrackerPromptEncoderConfig (mô hình Sam3TrackerPromptEncoderConfig)
- sam3_tracker_video — Sam3TrackerVideoConfig (mô hình Sam3TrackerVideoConfig)
- sam3_tracker_video_mask_decoder — Sam3TrackerVideoMaskDecoderConfig (mô hình Sam3TrackerVideoMaskDecoderConfig)
- sam3_tracker_video_prompt_encoder — Sam3TrackerVideoPromptEncoderConfig (mô hình Sam3TrackerVideoPromptEncoderConfig)
- sam3_video — Sam3VideoConfig (mô hình Sam3VideoConfig)
- sam3_vision_model — Sam3VisionConfig (mô hình Sam3VisionConfig)
- sam3_vit_model — Sam3ViTConfig (mô hình Sam3ViTConfig)
- sam_hq — SamHQConfig (mô hình SamHQConfig)
- sam_hq_mask_decoder — SamHQMaskDecoderConfig (mô hình SamHQMaskDecoderConfig)
- sam_hq_prompt_encoder — SamHQPromptEncoderConfig (mô hình SamHQPromptEncoderConfig)
- sam_hq_vision_model — SamHQVisionConfig (mô hình SamHQVisionConfig)
- sam_mask_decoder — SamMaskDecoderConfig (mô hình SamMaskDecoderConfig)
- sam_prompt_encoder — SamPromptEncoderConfig (mô hình SamPromptEncoderConfig)
- sam_vision_model — SamVisionConfig (mô hình SamVisionConfig)
- sapiens2 — Sapiens2Config (mô hình Sapiens2Config)
- sapiens2_head — Sapiens2HeadConfig (mô hình Sapiens2HeadConfig)
- seamless_m4t — SeamlessM4TConfig (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2Config (mô hình SeamlessM4Tv2Config)
- seed_oss — SeedOssConfig (mô hình SeedOssConfig)
- segformer — SegformerConfig (mô hình SegformerConfig)
- seggpt — SegGptConfig (mô hình SegGptConfig)
- sew — SEWConfig (mô hình SEWConfig)
- sew-d — SEWDConfig (mô hình SEWDConfig)
- shieldgemma2 — ShieldGemma2Config (mô hình ShieldGemma2Config)
- siglip — SiglipConfig (mô hình SiglipConfig)
- siglip2 — Siglip2Config (mô hình Siglip2Config)
- siglip2_text_model — Siglip2TextConfig (mô hình Siglip2TextConfig)
- siglip2_vision_model — Siglip2VisionConfig (mô hình Siglip2VisionConfig)
- siglip_text_model — SiglipTextConfig (mô hình SiglipTextConfig)
- siglip_vision_model — SiglipVisionConfig (mô hình SiglipVisionConfig)
- slanet — SLANetConfig (mô hình SLANetConfig)
- slanext — SLANeXtConfig (mô hình SLANeXtConfig)
- slanext_vision — SLANeXtVisionConfig (mô hình SLANeXtVisionConfig)
- smollm3 — SmolLM3Config (mô hình SmolLM3Config)
- smolvlm — SmolVLMConfig (mô hình SmolVLMConfig)
- smolvlm_vision — SmolVLMVisionConfig (mô hình SmolVLMVisionConfig)
- solar_open — SolarOpenConfig (mô hình SolarOpenConfig)
- speech-encoder-decoder — SpeechEncoderDecoderConfig (mô hình SpeechEncoderDecoderConfig)
- speech_to_text — Speech2TextConfig (mô hình Speech2TextConfig)
- speecht5 — SpeechT5Config (mô hình SpeechT5Config)
- speecht5_hifigan — SpeechT5HifiGanConfig (mô hình SpeechT5HifiGanConfig)
- splinter — SplinterConfig (mô hình SplinterConfig)
- squeezebert — SqueezeBertConfig (mô hình SqueezeBertConfig)
- stablelm — StableLmConfig (mô hình StableLmConfig)
- starcoder2 — Starcoder2Config (mô hình Starcoder2Config)
- step3p5 — Step3p7TextConfig (mô hình Step3p7TextConfig)
- step3p5_vision — Step3p7VisionConfig (mô hình Step3p7VisionConfig)
- step3p7 — Step3p7Config (mô hình Step3p7Config)
- superglue — SuperGlueConfig (mô hình SuperGlueConfig)
- superpoint — SuperPointConfig (mô hình SuperPointConfig)
- swiftformer — SwiftFormerConfig (mô hình SwiftFormerConfig)
- swin — SwinConfig (mô hình SwinConfig)
- swin2sr — Swin2SRConfig (mô hình Swin2SRConfig)
- swinv2 — Swinv2Config (mô hình Swinv2Config)
- switch_transformers — SwitchTransformersConfig (mô hình SwitchTransformersConfig)
- t5 — T5Config (mô hình T5Config)
- t5_gemma_module — T5GemmaModuleConfig (mô hình T5GemmaModuleConfig)
- t5gemma — T5GemmaConfig (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2Config (mô hình T5Gemma2Config)
- t5gemma2_decoder — T5Gemma2DecoderConfig (mô hình T5Gemma2DecoderConfig)
- t5gemma2_encoder — T5Gemma2EncoderConfig (mô hình T5Gemma2EncoderConfig)
- t5gemma2_text — T5Gemma2TextConfig (mô hình T5Gemma2TextConfig)
- table-transformer — TableTransformerConfig (mô hình TableTransformerConfig)
- tapas — TapasConfig (mô hình TapasConfig)
- textnet — TextNetConfig (mô hình TextNetConfig)
- time_series_transformer — TimeSeriesTransformerConfig (mô hình TimeSeriesTransformerConfig)
- timesfm — TimesFmConfig (mô hình TimesFmConfig)
- timesfm2_5 — TimesFm2_5Config (mô hình TimesFm2_5Config)
- timesformer — TimesformerConfig (mô hình TimesformerConfig)
- timm_backbone — TimmBackboneConfig (mô hình TimmBackboneConfig)
- timm_wrapper — TimmWrapperConfig (mô hình TimmWrapperConfig)
- tipsv2 — Tipsv2Config (mô hình Tipsv2Config)
- tipsv2_dpt — Tipsv2DptConfig (mô hình Tipsv2DptConfig)
- tipsv2_text_model — Tipsv2TextConfig (mô hình Tipsv2TextConfig)
- tipsv2_vision_model — Tipsv2VisionConfig (mô hình Tipsv2VisionConfig)
- trocr — TrOCRConfig (mô hình TrOCRConfig)
- tvp — TvpConfig (mô hình TvpConfig)
- udop — UdopConfig (mô hình UdopConfig)
- ultrabert — UltrabertConfig (mô hình UltrabertConfig)
- ultravbert — UltraVBertConfig (mô hình UltraVBertConfig)
- umt5 — UMT5Config (mô hình UMT5Config)
- unispeech — UniSpeechConfig (mô hình UniSpeechConfig)
- unispeech-sat — UniSpeechSatConfig (mô hình UniSpeechSatConfig)
- univnet — UnivNetConfig (mô hình UnivNetConfig)
- unlimited_ocr — UnlimitedOcrConfig (mô hình UnlimitedOcrConfig)
- unlimited_ocr_sam_vision_model — UnlimitedOcrSamVisionConfig (mô hình UnlimitedOcrSamVisionConfig)
- unlimited_ocr_text — UnlimitedOcrTextConfig (mô hình UnlimitedOcrTextConfig)
- unlimited_ocr_vision — UnlimitedOcrVisionConfig (mô hình UnlimitedOcrVisionConfig)
- unlimited_ocr_vision_encoder — UnlimitedOcrVisionEncoderConfig (mô hình UnlimitedOcrVisionEncoderConfig)
- upernet — UperNetConfig (mô hình UperNetConfig)
- uvdoc — UVDocConfig (mô hình UVDocConfig)
- uvdoc_backbone — UVDocBackboneConfig (mô hình UVDocBackboneConfig)
- vaultgemma — VaultGemmaConfig (mô hình VaultGemmaConfig)
- vibevoice — VibeVoiceConfig (mô hình VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerConfig (mô hình VibeVoiceAcousticTokenizerConfig)
- vibevoice_acoustic_tokenizer_decoder — VibeVoiceAcousticTokenizerDecoderConfig (mô hình VibeVoiceAcousticTokenizerDecoderConfig)
- vibevoice_acoustic_tokenizer_encoder — VibeVoiceAcousticTokenizerEncoderConfig (mô hình VibeVoiceAcousticTokenizerEncoderConfig)
- vibevoice_asr — VibeVoiceAsrConfig (mô hình VibeVoiceAsrConfig)
- vibevoice_diffusion — VibeVoiceDiffusionHeadConfig (mô hình VibeVoiceDiffusionHeadConfig)
- video_llama_3 — VideoLlama3Config (mô hình VideoLlama3Config)
- video_llama_3_vision — VideoLlama3VisionConfig (mô hình VideoLlama3VisionConfig)
- video_llava — VideoLlavaConfig (mô hình VideoLlavaConfig)
- videomae — VideoMAEConfig (mô hình VideoMAEConfig)
- videomt — VideomtConfig (mô hình VideomtConfig)
- videoprism — VideoPrismConfig (mô hình VideoPrismConfig)
- videoprism_text_model — VideoPrismTextConfig (mô hình VideoPrismTextConfig)
- videoprism_vision_model — VideoPrismVisionConfig (mô hình VideoPrismVisionConfig)
- vilt — ViltConfig (mô hình ViltConfig)
- vipllava — VipLlavaConfig (mô hình VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderConfig (mô hình VisionEncoderDecoderConfig)
- vision-text-dual-encoder — VisionTextDualEncoderConfig (mô hình VisionTextDualEncoderConfig)
- visual_bert — VisualBertConfig (mô hình VisualBertConfig)
- vit — ViTConfig (mô hình ViTConfig)
- vit_mae — ViTMAEConfig (mô hình ViTMAEConfig)
- vit_msn — ViTMSNConfig (mô hình ViTMSNConfig)
- vitdet — VitDetConfig (mô hình VitDetConfig)
- vitmatte — VitMatteConfig (mô hình VitMatteConfig)
- vitpose — VitPoseConfig (mô hình VitPoseConfig)
- vitpose_backbone —
VitPoseBackboneConfig(mô hình VitPoseBackboneConfig) - vits — VitsConfig (mô hình VitsConfig)
- vivit — VivitConfig (mô hình VivitConfig)
- vjepa2 — VJEPA2Config (mô hình VJEPA2Config)
- voxtral — VoxtralConfig (mô hình VoxtralConfig)
- voxtral_encoder — VoxtralEncoderConfig (mô hình VoxtralEncoderConfig)
- voxtral_realtime — VoxtralRealtimeConfig (mô hình VoxtralRealtimeConfig)
- voxtral_realtime_encoder — VoxtralRealtimeEncoderConfig (mô hình VoxtralRealtimeEncoderConfig)
- voxtral_realtime_text — VoxtralRealtimeTextConfig (mô hình VoxtralRealtimeTextConfig)
- wav2vec2 — Wav2Vec2Config (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertConfig (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerConfig (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMConfig (mô hình WavLMConfig)
- whisper — WhisperConfig (mô hình WhisperConfig)
- xclip — XCLIPConfig (mô hình XCLIPConfig)
- xclip_text_model — XCLIPTextConfig (mô hình XCLIPTextConfig)
- xclip_vision_model — XCLIPVisionConfig (mô hình XCLIPVisionConfig)
- xcodec — XcodecConfig (mô hình XcodecConfig)
- xcodec2 — Xcodec2Config (mô hình Xcodec2Config)
- xglm — XGLMConfig (mô hình XGLMConfig)
- xlm — XLMConfig (mô hình XLMConfig)
- xlm-roberta — XLMRobertaConfig (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLConfig (mô hình XLMRobertaXLConfig)
- xlnet — XLNetConfig (mô hình XLNetConfig)
- xlstm — xLSTMConfig (mô hình xLSTMConfig)
- xmod — XmodConfig (mô hình XmodConfig)
- yolos — YolosConfig (mô hình YolosConfig)
- yoso — YosoConfig (mô hình YosoConfig)
- youtu — YoutuConfig (mô hình YoutuConfig)
- zamba — ZambaConfig (mô hình ZambaConfig)
- zamba2 — Zamba2Config (mô hình Zamba2Config)
- zaya — ZayaConfig (mô hình ZayaConfig)
- zoedepth — ZoeDepthConfig (mô hình ZoeDepthConfig)
Ví dụ:
>>> from transformers import AutoConfig
>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased")
>>> # Download configuration from huggingface.co (user-uploaded) and cache.
>>> config = AutoConfig.from_pretrained("dbmdz/bert-base-german-cased")
>>> # If configuration file is in a directory (e.g., was saved using *save_pretrained('./test/saved_model/')*).
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/")
>>> # Load a specific configuration file.
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/my_configuration.json")
>>> # Change some config attributes when loading a pretrained config.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased", output_attentions=True, foo=False)
>>> config.output_attentions
True
>>> config, unused_kwargs = AutoConfig.from_pretrained(
... "google-bert/bert-base-uncased", output_attentions=True, foo=False, return_unused_kwargs=True
... )
>>> config.output_attentions
True
>>> unused_kwargs
{'foo': False}đăng ký
< source >( model_typeconfigexist_ok = False )
Tham số
- model_type (
str) — Kiểu mô hình, ví dụ “bert” hoặc “gpt”. - config (PreTrainedConfig) — Cấu hình cần đăng ký.
Đăng ký một cấu hình mới cho lớp này.
AutoTokenizer
Đây là một lớp tokenizer tổng quát sẽ được khởi tạo thành một trong các lớp tokenizer của thư viện khi được tạo bằng phương thức lớp AutoTokenizer.from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một tokenizer có sẵn được lưu trữ trong một kho model trên huggingface.co.
- Đường dẫn đến thư mục chứa các tệp từ vựng cần thiết cho tokenizer, ví dụ được lưu bằng phương thức save_pretrained(), chẳng hạn
./my_model_directory/. - đường dẫn đến một tệp từ vựng đã lưu duy nhất nếu và chỉ nếu bộ phân từ chỉ yêu cầu một tệp từ vựng duy nhất (như Bert hoặc XLNet), ví dụ:
./my_model_directory/vocab.txt. (Không áp dụng cho tất cả các lớp dẫn xuất)
- inputs (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của Tokenizer. - config (PreTrainedConfig, optional) — Đối tượng cấu hình được sử dụng để xác định lớp tokenizer cần khởi tạo.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - subfolder (
str, tùy chọn) — Trong trường hợp các tệp liên quan nằm trong một thư mục con của kho mô hình trên huggingface.co (ví dụ với facebook/rag-token-base), hãy chỉ định nó tại đây. - tokenizer_type (
str, tùy chọn) — Loại tokenizer cần tải. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - kwargs (các đối số từ khóa bổ sung, tùy chọn) —
Sẽ được truyền vào phương thức
__init__()của Tokenizer. Có thể được sử dụng để đặt các token đặc biệt nhưbos_token,eos_token,unk_token,sep_token,pad_token,cls_token,mask_token,additional_special_tokens. Xem các tham số trong__init__()để biết thêm chi tiết.
Khởi tạo một trong các lớp tokenizer của thư viện từ từ vựng của một mô hình được huấn luyện trước.
Lớp tokenizer cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- EvollaModel — TokenizersBackend (mô hình EvollaConfig)
- aimv2 — CLIPTokenizer (mô hình Aimv2Config)
- albert — AlbertTokenizer (mô hình AlbertConfig)
- align — BertTokenizer (mô hình AlignConfig)
- aria — TokenizersBackend (mô hình AriaConfig)
- audioflamingo3 — Qwen2Tokenizer (mô hình AudioFlamingo3Config)
- aya_vision — CohereTokenizer (mô hình AyaVisionConfig)
- bark — BertTokenizer (mô hình BarkConfig)
- bart — RobertaTokenizer (mô hình BartConfig)
- beam — TokenizersBackend (mô hình BeamConfig)
- bert — BertTokenizer (mô hình BertConfig)
- bert-generation — BertGenerationTokenizer (mô hình BertGenerationConfig)
- big_bird — BigBirdTokenizer (mô hình BigBirdConfig)
- bigbird_pegasus — TokenizersBackend (mô hình BigBirdPegasusConfig)
- biogpt — BioGptTokenizer (mô hình BioGptConfig)
- blenderbot — BlenderbotTokenizer (mô hình BlenderbotConfig)
- blenderbot-small — BlenderbotSmallTokenizer (mô hình BlenderbotSmallConfig)
- blip — BertTokenizer (mô hình BlipConfig)
- blip-2 — GPT2Tokenizer (mô hình Blip2Config)
- bridgetower — RobertaTokenizer (mô hình BridgeTowerConfig)
- bros — BertTokenizer (mô hình BrosConfig)
- camembert — CamembertTokenizer (mô hình CamembertConfig)
- canary — TokenizersBackend (mô hình CanaryConfig)
- canine — CanineTokenizer (mô hình CanineConfig)
- chinese_clip — BertTokenizer (mô hình ChineseCLIPConfig)
- clap — RobertaTokenizer (mô hình ClapConfig)
- clip — CLIPTokenizer (mô hình CLIPConfig)
- clipseg — CLIPTokenizer (mô hình CLIPSegConfig)
- clvp — ClvpTokenizer (mô hình ClvpConfig)
- codegen — GPT2Tokenizer (mô hình CodeGenConfig)
- cohere — CohereTokenizer (mô hình CohereConfig)
- cohere2 — CohereTokenizer (mô hình Cohere2Config)
- cohere_asr — TokenizersBackend (mô hình CohereAsrConfig)
- colqwen2 — Qwen2Tokenizer (mô hình ColQwen2Config)
- convbert — BertTokenizer (mô hình ConvBertConfig)
- cosmos3_omni — Qwen2Tokenizer (mô hình Cosmos3OmniConfig)
- cpmant — CpmAntTokenizer (mô hình CpmAntConfig)
- ctrl — CTRLTokenizer (mô hình CTRLConfig)
- data2vec-audio — Wav2Vec2CTCTokenizer (mô hình Data2VecAudioConfig)
- data2vec-text — RobertaTokenizer (mô hình Data2VecTextConfig)
- dbrx — GPT2Tokenizer (mô hình DbrxConfig)
- deberta — DebertaTokenizer (mô hình DebertaConfig)
- deberta-v2 — DebertaV2Tokenizer (mô hình DebertaV2Config)
- dia — DiaTokenizer (mô hình DiaConfig)
- diffusion_gemma — GemmaTokenizer (mô hình DiffusionGemmaConfig)
- distilbert — BertTokenizer (mô hình DistilBertConfig)
- dots3_note — Qwen2Tokenizer (mô hình Dots3NoteConfig)
- dpr — DPRQuestionEncoderTokenizer (mô hình DPRConfig)
- electra — BertTokenizer (mô hình ElectraConfig)
- emu3 — GPT2Tokenizer (mô hình Emu3Config)
- ernie — BertTokenizer (mô hình ErnieConfig)
- ernie4_5 — TokenizersBackend (mô hình Ernie4_5Config)
- ernie4_5_moe — TokenizersBackend (mô hình Ernie4_5_MoeConfig)
- esm — EsmTokenizer (mô hình EsmConfig)
- esmc — EsmcTokenizer (mô hình EsmcConfig)
- esmfold2 — EsmcTokenizer (mô hình EsmFold2Config)
- falcon_mamba — GPTNeoXTokenizer (mô hình FalconMambaConfig)
- fastspeech2_conformer —
None(mô hình FastSpeech2ConformerConfig) - flaubert — FlaubertTokenizer (mô hình FlaubertConfig)
- flava — BertTokenizer (mô hình FlavaConfig)
- flex_olmo — TokenizersBackend (mô hình FlexOlmoConfig)
- florence2 — BartTokenizer (mô hình Florence2Config)
- fnet — FNetTokenizer (mô hình FNetConfig)
- fsmt — FSMTTokenizer (mô hình FSMTConfig)
- fun_asr_nano — Qwen2Tokenizer (mô hình FunAsrNanoConfig)
- funnel — FunnelTokenizer (mô hình FunnelConfig)
- fuyu — TokenizersBackend (mô hình FuyuConfig)
- gemma — GemmaTokenizer (mô hình GemmaConfig)
- gemma2 — GemmaTokenizer (mô hình Gemma2Config)
- gemma3 — GemmaTokenizer (mô hình Gemma3Config)
- gemma3_text — GemmaTokenizer (mô hình Gemma3TextConfig)
- gemma3n — GemmaTokenizer (mô hình Gemma3nConfig)
- gemma3n_text — GemmaTokenizer (mô hình Gemma3nTextConfig)
- git — BertTokenizer (mô hình GitConfig)
- glm — TokenizersBackend (mô hình GlmConfig)
- glm4 — TokenizersBackend (mô hình Glm4Config)
- glm4_moe — TokenizersBackend (mô hình Glm4MoeConfig)
- glm4_moe_lite — TokenizersBackend (mô hình Glm4MoeLiteConfig)
- glm4v — TokenizersBackend (mô hình Glm4vConfig)
- glm4v_moe — TokenizersBackend (mô hình Glm4vMoeConfig)
- glm_image — TokenizersBackend (mô hình GlmImageConfig)
- glmasr — TokenizersBackend (mô hình GlmAsrConfig)
- got_ocr2 — TokenizersBackend (mô hình GotOcr2Config)
- gpt-sw3 — GPTSw3Tokenizer (mô hình GPT2Config)
- gpt2 — GPT2Tokenizer (mô hình GPT2Config)
- gpt_bigcode — TokenizersBackend (mô hình GPTBigCodeConfig)
- gpt_neo — GPT2Tokenizer (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXTokenizer (mô hình GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseTokenizer (mô hình GPTNeoXJapaneseConfig)
- gptj — GPT2Tokenizer (mô hình GPTJConfig)
- gradium_phonon_tts — TokenizersBackend (mô hình GradiumPhononTTSConfig)
- granite — TokenizersBackend (mô hình GraniteConfig)
- granite_speech5_ctc — ParakeetTokenizer (mô hình GraniteSpeech5CTCConfig)
- granitemoe — TokenizersBackend (mô hình GraniteMoeConfig)
- granitemoehybrid — TokenizersBackend (mô hình GraniteMoeHybridConfig)
- granitemoeshared — TokenizersBackend (mô hình GraniteMoeSharedConfig)
- grounding-dino — BertTokenizer (mô hình GroundingDinoConfig)
- groupvit — CLIPTokenizer (mô hình GroupViTConfig)
- gte — XLMRobertaTokenizer (mô hình GteConfig)
- hubert — Wav2Vec2CTCTokenizer (mô hình HubertConfig)
- hunyuan_vl — Qwen2Tokenizer (mô hình HunYuanVLConfig)
- hyperclovax — TokenizersBackend (mô hình HyperCLOVAXConfig)
- hyperclovax_vision_v2 — GPT2Tokenizer (mô hình HyperCLOVAXVisionV2Config)
- ibert — RobertaTokenizer (mô hình IBertConfig)
- idefics — LlamaTokenizer (mô hình IdeficsConfig)
- idefics2 — LlamaTokenizer (mô hình Idefics2Config)
- instructblip — GPT2Tokenizer (mô hình InstructBlipConfig)
- instructblipvideo — GPT2Tokenizer (mô hình InstructBlipVideoConfig)
- internlm3 — TokenizersBackend (mô hình InternLM3Config)
- internvl — Qwen2Tokenizer (mô hình InternVLConfig)
- iquestcoder — TokenizersBackend (mô hình IQuestCoderConfig)
- jais2 — GPT2Tokenizer (mô hình Jais2Config)
- jamba — TokenizersBackend (mô hình JambaConfig)
- jina_embeddings_v3 — XLMRobertaTokenizer (mô hình JinaEmbeddingsV3Config)
- kimi_k25 — TokenizersBackend (mô hình Kimi_K25Config)
- kimi_linear — TokenizersBackend (mô hình KimiLinearConfig)
- kosmos-2 — TokenizersBackend (mô hình Kosmos2Config)
- lasr_ctc — LasrTokenizer (mô hình LasrCTCConfig)
- lasr_encoder — LasrTokenizer (mô hình LasrEncoderConfig)
- layoutlm — BertTokenizer (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Tokenizer (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Tokenizer (mô hình LayoutLMv3Config)
- layoutxlm — LayoutXLMTokenizer (mô hình LayoutXLMConfig)
- led — LEDTokenizer (mô hình LEDConfig)
- lighton_ocr — Qwen2TokenizerFast (mô hình LightOnOcrConfig)
- lilt — RobertaTokenizer (mô hình LiltConfig)
- llava — TokenizersBackend (mô hình LlavaConfig)
- llava_next — TokenizersBackend (mô hình LlavaNextConfig)
- longformer — RobertaTokenizer (mô hình LongformerConfig)
- luke — LukeTokenizer (mô hình LukeConfig)
- lxmert — LxmertTokenizer (mô hình LxmertConfig)
- m2m_100 — M2M100Tokenizer (mô hình M2M100Config)
- mamba — GPTNeoXTokenizer (mô hình MambaConfig)
- mamba2 — GPTNeoXTokenizer (mô hình Mamba2Config)
- marian — MarianTokenizer (mô hình MarianConfig)
- markuplm — MarkupLMTokenizer (mô hình MarkupLMConfig)
- mbart — MBartTokenizer (mô hình MBartConfig)
- megatron-bert — BertTokenizer (mô hình MegatronBertConfig)
- metaclip_2 — XLMRobertaTokenizer (mô hình MetaClip2Config)
- mgp-str — MgpstrTokenizer (mô hình MgpstrConfig)
- mimo_v2_flash — TokenizersBackend (mô hình MiMoV2FlashConfig)
- minicpm3 — TokenizersBackend (mô hình MiniCPM3Config)
- minicpm_ocr — TokenizersBackend (mô hình MiniCPMOcrConfig)
- minicpmv4_6 — TokenizersBackend (mô hình MiniCPMV4_6Config)
- minicpmv4_7 — TokenizersBackend (mô hình MiniCPMV4_7Config)
- minimax_m2 — TokenizersBackend (mô hình MiniMaxM2Config)
- ministral — MistralCommonBackend (mô hình MinistralConfig)
- ministral3 — MistralCommonBackend (mô hình Ministral3Config)
- mistral — MistralCommonBackend (mô hình MistralConfig)
- mistral3 — MistralCommonBackend (mô hình Mistral3Config)
- mistral_large4 — MistralCommonBackend (mô hình MistralLarge4Config)
- mixtral — MistralCommonBackend (mô hình MixtralConfig)
- mm-grounding-dino — BertTokenizer (mô hình MMGroundingDinoConfig)
- mobilebert — MobileBertTokenizer (mô hình MobileBertConfig)
- modernbert — TokenizersBackend (mô hình ModernBertConfig)
- modernbert-decoder — TokenizersBackend (mô hình ModernBertDecoderConfig)
- molmo2 — TokenizersBackend (mô hình Molmo2Config)
- moss_transcribe_diarize — Qwen2Tokenizer (mô hình MossTranscribeDiarizeConfig)
- mpnet — MPNetTokenizer (mô hình MPNetConfig)
- mpt — GPTNeoXTokenizer (mô hình MptConfig)
- mra — RobertaTokenizer (mô hình MraConfig)
- mt5 — T5Tokenizer (mô hình MT5Config)
- musicgen — T5Tokenizer (mô hình MusicgenConfig)
- musicgen_melody — T5Tokenizer (mô hình MusicgenMelodyConfig)
- mvp — MvpTokenizer (mô hình MvpConfig)
- nemo_speechlm — TokenizersBackend (mô hình Nemotron3_5TranscribeConfig)
- nemotron — TokenizersBackend (mô hình NemotronConfig)
- nemotron3_5_asr — ParakeetTokenizer (mô hình Nemotron3_5AsrConfig)
- nemotron_asr_streaming — ParakeetTokenizer (mô hình NemotronAsrStreamingConfig)
- nllb-moe — NllbTokenizer (mô hình NllbMoeConfig)
- nomic_bert — BertTokenizer (mô hình NomicBertConfig)
- nougat — NougatTokenizer (mô hình NougatConfig)
- nystromformer — TokenizersBackend (mô hình NystromformerConfig)
- olmo — GPTNeoXTokenizer (mô hình OlmoConfig)
- olmo2 — TokenizersBackend (mô hình Olmo2Config)
- olmo3 — TokenizersBackend (mô hình Olmo3Config)
- olmo_hybrid — TokenizersBackend (mô hình OlmoHybridConfig)
- olmoe — GPTNeoXTokenizer (mô hình OlmoeConfig)
- omdet-turbo — CLIPTokenizer (mô hình OmDetTurboConfig)
- oneformer — CLIPTokenizer (mô hình OneFormerConfig)
- openai-gpt — OpenAIGPTTokenizer (mô hình OpenAIGPTConfig)
- opt — GPT2Tokenizer (mô hình OPTConfig)
- ovis2 — Qwen2Tokenizer (mô hình Ovis2Config)
- owlv2 — CLIPTokenizer (mô hình Owlv2Config)
- owlvit — CLIPTokenizer (mô hình OwlViTConfig)
- paddleocr_vl — TokenizersBackend (mô hình PaddleOCRVLConfig)
- parakeet_ctc — ParakeetTokenizer (mô hình ParakeetCTCConfig)
- parakeet_rnnt — ParakeetTokenizer (mô hình ParakeetRNNTConfig)
- parakeet_tdt — ParakeetTokenizer (mô hình ParakeetTDTConfig)
- pegasus — PegasusTokenizer (mô hình PegasusConfig)
- pegasus_x — TokenizersBackend (mô hình PegasusXConfig)
- perceiver — PerceiverTokenizer (mô hình PerceiverConfig)
- persimmon — TokenizersBackend (mô hình PersimmonConfig)
- phi — GPT2Tokenizer (mô hình PhiConfig)
- phi3 — TokenizersBackend (mô hình Phi3Config)
- phimoe — TokenizersBackend (mô hình PhimoeConfig)
- pix2struct — TokenizersBackend (mô hình Pix2StructConfig)
- pixtral — MistralCommonBackend (mô hình PixtralVisionConfig)
- plbart — PLBartTokenizer (mô hình PLBartConfig)
- pocket_tts — TokenizersBackend (mô hình PocketTTSConfig)
- pp_formulanet — NougatTokenizer (mô hình PPFormulaNetConfig)
- prophetnet — ProphetNetTokenizer (mô hình ProphetNetConfig)
- qianfan_ocr — Qwen2Tokenizer (mô hình QianfanOCRConfig)
- qwen2 — Qwen2Tokenizer (mô hình Qwen2Config)
- qwen2_5_omni — Qwen2Tokenizer (mô hình Qwen2_5OmniConfig)
- qwen2_5_vl — Qwen2Tokenizer (mô hình Qwen2_5_VLConfig)
- qwen2_audio — Qwen2Tokenizer (mô hình Qwen2AudioConfig)
- qwen2_moe — Qwen2Tokenizer (mô hình Qwen2MoeConfig)
- qwen2_vl — Qwen2Tokenizer (mô hình Qwen2VLConfig)
- qwen3 — Qwen2Tokenizer (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5Tokenizer (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5Tokenizer (mô hình Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5Tokenizer (mô hình Qwen3_5MoeTextConfig)
- qwen3_5_text — Qwen3_5Tokenizer (mô hình Qwen3_5TextConfig)
- qwen3_asr — Qwen2Tokenizer (mô hình Qwen3ASRConfig)
- qwen3_moe — Qwen2Tokenizer (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen2Tokenizer (mô hình Qwen3NextConfig)
- qwen3_omni_moe — Qwen2Tokenizer (mô hình Qwen3OmniMoeConfig)
- qwen3_vl — Qwen2Tokenizer (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen2Tokenizer (mô hình Qwen3VLMoeConfig)
- qwen4_exp — Qwen3_5Tokenizer (mô hình Qwen4ExpConfig)
- rag — RagTokenizer (mô hình RagConfig)
- recurrent_gemma — GemmaTokenizer (mô hình RecurrentGemmaConfig)
- reformer — ReformerTokenizer (mô hình ReformerConfig)
- rembert — RemBertTokenizer (mô hình RemBertConfig)
- roberta — RobertaTokenizer (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaTokenizer (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertTokenizer (mô hình RoCBertConfig)
- roformer — RoFormerTokenizer (mô hình RoFormerConfig)
- rwkv — GPTNeoXTokenizer (mô hình RwkvConfig)
- sam3 — CLIPTokenizer (mô hình Sam3Config)
- sam3_video — CLIPTokenizer (mô hình Sam3VideoConfig)
- seamless_m4t — SeamlessM4TTokenizer (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4TTokenizer (mô hình SeamlessM4Tv2Config)
- shieldgemma2 — GemmaTokenizer (mô hình ShieldGemma2Config)
- siglip — SiglipTokenizer (mô hình SiglipConfig)
- siglip2 — Siglip2Tokenizer (mô hình Siglip2Config)
- smolvlm — TokenizersBackend (mô hình SmolVLMConfig)
- speech_to_text — Speech2TextTokenizer (mô hình Speech2TextConfig)
- speecht5 — SpeechT5Tokenizer (mô hình SpeechT5Config)
- splinter — SplinterTokenizer (mô hình SplinterConfig)
- squeezebert — BertTokenizer (mô hình SqueezeBertConfig)
- stablelm — TokenizersBackend (mô hình StableLmConfig)
- starcoder2 — GPT2Tokenizer (mô hình Starcoder2Config)
- switch_transformers — T5Tokenizer (mô hình SwitchTransformersConfig)
- t5 — T5Tokenizer (mô hình T5Config)
- t5gemma — GemmaTokenizer (mô hình T5GemmaConfig)
- tapas — TapasTokenizer (mô hình TapasConfig)
- tipsv2 — Tipsv2Tokenizer (mô hình Tipsv2Config)
- trocr — XLMRobertaTokenizer (mô hình TrOCRConfig)
- tvp — BertTokenizer (mô hình TvpConfig)
- udop — UdopTokenizer (mô hình UdopConfig)
- umt5 — TokenizersBackend (mô hình UMT5Config)
- unispeech — Wav2Vec2CTCTokenizer (mô hình UniSpeechConfig)
- unispeech-sat — Wav2Vec2CTCTokenizer (mô hình UniSpeechSatConfig)
- vibevoice — Qwen2TokenizerFast (mô hình VibeVoiceConfig)
- videoprism — VideoPrismTokenizer (mô hình VideoPrismConfig)
- vilt — BertTokenizer (mô hình ViltConfig)
- vipllava — TokenizersBackend (mô hình VipLlavaConfig)
- visual_bert — BertTokenizer (mô hình VisualBertConfig)
- vits — VitsTokenizer (mô hình VitsConfig)
- voxtral — MistralCommonBackend (mô hình VoxtralConfig)
- voxtral_realtime — MistralCommonBackend (mô hình VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2CTCTokenizer (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2CTCTokenizer (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2CTCTokenizer (mô hình Wav2Vec2ConformerConfig)
- whisper — WhisperTokenizer (mô hình WhisperConfig)
- xclip — CLIPTokenizer (mô hình XCLIPConfig)
- xglm — XGLMTokenizer (mô hình XGLMConfig)
- xlm — XLMTokenizer (mô hình XLMConfig)
- xlm-roberta — XLMRobertaTokenizer (mô hình XLMRobertaConfig)
- xlm-roberta-xl — TokenizersBackend (mô hình XLMRobertaXLConfig)
- xlnet — XLNetTokenizer (mô hình XLNetConfig)
- xlstm — GPTNeoXTokenizer (mô hình xLSTMConfig)
- xmod — XLMRobertaTokenizer (mô hình XmodConfig)
- yoso — AlbertTokenizer (mô hình YosoConfig)
- zaya — GemmaTokenizer (mô hình ZayaConfig)
Ví dụ:
>>> from transformers import AutoTokenizer
>>> # Download vocabulary from huggingface.co and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("google-bert/bert-base-uncased")
>>> # Download vocabulary from huggingface.co (user-uploaded) and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("dbmdz/bert-base-german-cased")
>>> # If vocabulary files are in a directory (e.g. tokenizer was saved using *save_pretrained('./test/saved_model/')*)
>>> # tokenizer = AutoTokenizer.from_pretrained("./test/bert_saved_model/")
>>> # Download vocabulary from huggingface.co and define model-specific arguments
>>> tokenizer = AutoTokenizer.from_pretrained("FacebookAI/roberta-base", add_prefix_space=True)đăng ký
< source >( config_classtokenizer_class = Noneslow_tokenizer_class = Nonefast_tokenizer_class = Noneexist_ok = False )
Tham số
- config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
- tokenizer_class — Lớp tokenizer cần đăng ký (V5 - tham số được ưu tiên).
- slow_tokenizer_class — (Đã ngừng hỗ trợ) Tokenizer chậm cần đăng ký.
- fast_tokenizer_class — (Đã ngừng hỗ trợ) Fast tokenizer cần đăng ký.
Đăng ký một tokenizer mới trong ánh xạ này.
AutoFeatureExtractor
Đây là một lớp trích xuất đặc trưng tổng quát sẽ được khởi tạo thành một trong các lớp trích xuất đặc trưng của thư viện khi được tạo bằng phương thức lớp AutoFeatureExtractor.from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Đây có thể là:- một chuỗi, model id của một feature_extractor được huấn luyện trước lưu trữ trong một kho model trên huggingface.co.
- đường dẫn đến một thư mục chứa tệp feature extractor được lưu bằng phương thức
save_pretrained(), ví dụ:
./my_model_directory/. - đường dẫn đến tệp JSON bộ trích xuất đặc trưng đã lưu tệp, ví dụ:
./my_model_directory/preprocessor_config.json.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình trích xuất đặc trưng của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc (tải lại) các tệp feature extractor và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Các proxy này được sử dụng cho mỗi yêu cầu. - token (
strhoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. NếuTrue, sẽ sử dụng token được tạo ra khi chạyhf auth login(được lưu trong~/.huggingface). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - return_unused_kwargs (
bool, tùy chọn, mặc định làFalse) — NếuFalse, hàm này chỉ trả về đối tượng feature extractor cuối cùng. NếuTrue, hàm này trả về mộtTuple(feature_extractor, unused_kwargs)trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của feature extractor: tức là phần củakwargschưa được dùng để cập nhậtfeature_extractorvà bị bỏ qua. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - kwargs (
dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của feature extractor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của feature extractor được kiểm soát bởi tham số từ khóareturn_unused_kwargs.
Khởi tạo một trong các lớp feature extractor của thư viện từ từ điển của một mô hình được huấn luyện trước.
Lớp feature extractor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config
(được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này
thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:
- audio-spectrogram-transformer — ASTFeatureExtractor (mô hình ASTConfig)
- audioflamingo3 — WhisperFeatureExtractor (mô hình AudioFlamingo3Config)
- canary — ParakeetFeatureExtractor (mô hình CanaryConfig)
- clap — ClapFeatureExtractor (mô hình ClapConfig)
- clvp — ClvpFeatureExtractor (mô hình ClvpConfig)
- cohere_asr — CohereAsrFeatureExtractor (mô hình CohereAsrConfig)
- csm — EncodecFeatureExtractor (mô hình CsmConfig)
- dac — DacFeatureExtractor (mô hình DacConfig)
- data2vec-audio — Wav2Vec2FeatureExtractor (mô hình Data2VecAudioConfig)
- dia — DiaFeatureExtractor (mô hình DiaConfig)
- dots3_note — Dots3NoteFeatureExtractor (mô hình Dots3NoteConfig)
- embedding_gemma2 — Gemma4AudioFeatureExtractor (mô hình EmbeddingGemma2Config)
- encodec — EncodecFeatureExtractor (mô hình EncodecConfig)
- fun_asr_nano — FunAsrNanoFeatureExtractor (mô hình FunAsrNanoConfig)
- gemma3n — Gemma3nAudioFeatureExtractor (mô hình Gemma3nConfig)
- gemma4 — Gemma4AudioFeatureExtractor (mô hình Gemma4Config)
- gemma4_unified — Gemma4UnifiedAudioFeatureExtractor (mô hình Gemma4UnifiedConfig)
- glmasr — WhisperFeatureExtractor (mô hình GlmAsrConfig)
- gradium_phonon_tts — PocketTTSFeatureExtractor (mô hình GradiumPhononTTSConfig)
- granite_speech — GraniteSpeechFeatureExtractor (mô hình GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5FeatureExtractor (mô hình GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5FeatureExtractor (mô hình GraniteSpeech5EncoderConfig)
- granite_speech_plus — GraniteSpeechFeatureExtractor (mô hình GraniteSpeechPlusConfig)
- higgs_audio_v2_tokenizer — DacFeatureExtractor (mô hình HiggsAudioV2TokenizerConfig)
- hubert — Wav2Vec2FeatureExtractor (mô hình HubertConfig)
- inkling_mm_model — InklingFeatureExtractor (mô hình InklingConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextFeatureExtractor (mô hình KyutaiSpeechToTextConfig)
- lasr_ctc — LasrFeatureExtractor (mô hình LasrCTCConfig)
- lasr_encoder — LasrFeatureExtractor (mô hình LasrEncoderConfig)
- mimi — EncodecFeatureExtractor (mô hình MimiConfig)
- moonshine — Wav2Vec2FeatureExtractor (mô hình MoonshineConfig)
- moshi — EncodecFeatureExtractor (mô hình MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeFeatureExtractor (mô hình MossTranscribeDiarizeConfig)
- muse_spark — MuseSparkFeatureExtractor (mô hình MuseSparkConfig)
- musicgen — EncodecFeatureExtractor (mô hình MusicgenConfig)
- musicgen_melody — MusicgenMelodyFeatureExtractor (mô hình MusicgenMelodyConfig)
- nemo_speechlm — NemotronAsrStreamingFeatureExtractor (mô hình Nemotron3_5TranscribeConfig)
- nemotron3_5_asr — NemotronAsrStreamingFeatureExtractor (mô hình Nemotron3_5AsrConfig)
- nemotron3_diarization — NemotronAsrStreamingFeatureExtractor (mô hình Nemotron3DiarizationConfig)
- nemotron_asr_streaming — NemotronAsrStreamingFeatureExtractor (mô hình NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingFeatureExtractor (mô hình NemotronAsrStreamingEncoderConfig)
- neucodec — NeuCodecFeatureExtractor (mô hình NeuCodecConfig)
- parakeet_ctc — ParakeetFeatureExtractor (mô hình ParakeetCTCConfig)
- parakeet_encoder — ParakeetFeatureExtractor (mô hình ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetFeatureExtractor (mô hình ParakeetRNNTConfig)
- parakeet_tdt — ParakeetFeatureExtractor (mô hình ParakeetTDTConfig)
- pe_audio — PeAudioFeatureExtractor (mô hình PeAudioConfig)
- pe_audio_video — PeAudioFeatureExtractor (mô hình PeAudioVideoConfig)
- phi4_multimodal — Phi4MultimodalFeatureExtractor (mô hình Phi4MultimodalConfig)
- pocket_tts — PocketTTSFeatureExtractor (mô hình PocketTTSConfig)
- pocket_tts_audio_tokenizer — EncodecFeatureExtractor (mô hình PocketTTSAudioTokenizerConfig)
- pop2piano — Pop2PianoFeatureExtractor (mô hình Pop2PianoConfig)
- qwen2_5_omni — WhisperFeatureExtractor (mô hình Qwen2_5OmniConfig)
- qwen2_audio — WhisperFeatureExtractor (mô hình Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRFeatureExtractor (mô hình Qwen3ASRConfig)
- qwen3_omni_moe — WhisperFeatureExtractor (mô hình Qwen3OmniMoeConfig)
- seamless_m4t — SeamlessM4TFeatureExtractor (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4TFeatureExtractor (mô hình SeamlessM4Tv2Config)
- sew — Wav2Vec2FeatureExtractor (mô hình SEWConfig)
- sew-d — Wav2Vec2FeatureExtractor (mô hình SEWDConfig)
- speech_to_text — Speech2TextFeatureExtractor (mô hình Speech2TextConfig)
- speecht5 — SpeechT5FeatureExtractor (mô hình SpeechT5Config)
- unispeech — Wav2Vec2FeatureExtractor (mô hình UniSpeechConfig)
- unispeech-sat — Wav2Vec2FeatureExtractor (mô hình UniSpeechSatConfig)
- univnet — UnivNetFeatureExtractor (mô hình UnivNetConfig)
- vibevoice — VibeVoiceAcousticTokenizerFeatureExtractor (mô hình VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerFeatureExtractor (mô hình VibeVoiceAcousticTokenizerConfig)
- vibevoice_asr — VibeVoiceAcousticTokenizerFeatureExtractor (mô hình VibeVoiceAsrConfig)
- voxtral — WhisperFeatureExtractor (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeFeatureExtractor (mô hình VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2FeatureExtractor (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2FeatureExtractor (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2FeatureExtractor (mô hình Wav2Vec2ConformerConfig)
- wavlm — Wav2Vec2FeatureExtractor (mô hình WavLMConfig)
- whisper — WhisperFeatureExtractor (mô hình WhisperConfig)
- xcodec — DacFeatureExtractor (mô hình XcodecConfig)
- xcodec2 — Xcodec2FeatureExtractor (mô hình Xcodec2Config)
Việc truyền
token=Truelà bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.
Ví dụ:
>>> from transformers import AutoFeatureExtractor
>>> # Download feature extractor from huggingface.co and cache.
>>> feature_extractor = AutoFeatureExtractor.from_pretrained("facebook/wav2vec2-base-960h")
>>> # If feature extractor files are in a directory (e.g. feature extractor was saved using *save_pretrained('./test/saved_model/')*)
>>> # feature_extractor = AutoFeatureExtractor.from_pretrained("./test/saved_model/")đăng ký
< source >( config_classfeature_extractor_classexist_ok = False )
Tham số
- config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
- feature_extractor_class (
FeatureExtractorMixin) — Bộ trích xuất đặc trưng cần đăng ký.
Đăng ký một bộ trích xuất đặc trưng mới cho lớp này.
AutoImageProcessor
Đây là một lớp xử lý ảnh tổng quát sẽ được khởi tạo thành một trong các lớp xử lý ảnh của thư viện khi được tạo bằng phương thức lớp AutoImageProcessor.from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Đây có thể là:- một chuỗi, model id của một image_processor được huấn luyện trước, được lưu trữ trong một kho model trên huggingface.co.
- đường dẫn đến một thư mục chứa tệp image processor được lưu bằng phương thức
save_pretrained(), ví dụ:
./my_model_directory/. - đường dẫn đến tệp JSON của bộ xử lý ảnh đã lưu file, ví dụ:
./my_model_directory/preprocessor_config.json.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà bộ xử lý ảnh của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc (tải lại) các tệp bộ xử lý ảnh và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Các proxy này được sử dụng cho mỗi yêu cầu. - token (
strhoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. NếuTrue, sẽ sử dụng token được tạo ra khi chạyhf auth login(được lưu trong~/.huggingface). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - use_fast (
bool, tùy chọn, mặc định làFalse) — Đã ngừng hỗ trợ: Hãy dùngbackend="torchvision"thay thế. Tham số này được giữ lại để đảm bảo tương thích ngược. Sử dụng bộ xử lý ảnh nhanh dựa trên torchvision nếu được hỗ trợ cho một mô hình cụ thể. Nếu không có bộ xử lý ảnh nhanh cho một mô hình cụ thể, một bộ xử lý ảnh thông thường dựa trên numpy sẽ được trả về thay thế. - backend (
str, tùy chọn, mặc định làNone) — Backend được sử dụng để xử lý ảnh. Có thể là:None: Tự động chọn backend tốt nhất có sẵn (torchvision nếu có, nếu không thì pil)"torchvision": Sử dụng backend Torchvision (tăng tốc bằng GPU, nhanh hơn)"pil": Sử dụng backend PIL (dễ di chuyển, chỉ CPU)- Bất kỳ tên backend tùy chỉnh nào được đăng ký thông qua phương thức
register()
- return_unused_kwargs (
bool, tùy chọn, mặc định làFalse) — NếuFalse, hàm này chỉ trả về đối tượng image processor cuối cùng. NếuTrue, hàm này trả về mộtTuple(image_processor, unused_kwargs)trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của image processor: tức là phần củakwargschưa được dùng để cập nhậtimage_processorvà bị bỏ qua. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - image_processor_filename (
str, tùy chọn, mặc định là"config.json") — Tên tệp trong thư mục mô hình được sử dụng cho cấu hình bộ xử lý ảnh. - kwargs (
dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của image processor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của image processor được điều khiển bởi tham số từ khóareturn_unused_kwargs.
Khởi tạo một trong các lớp image processor của thư viện từ từ điển của một mô hình được huấn luyện trước.
Lớp image processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config
(được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này
thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:
- aimv2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình Aimv2Config) - aimv2_vision_model —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình Aimv2VisionConfig) - align —
{'torchvision': 'EfficientNetImageProcessor', 'pil': 'EfficientNetImageProcessorPil'}(mô hình AlignConfig) - altclip —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình AltCLIPConfig) - aria —
{'pil': 'AriaImageProcessorPil', 'torchvision': 'AriaImageProcessor'}(mô hình AriaConfig) - aya_vision —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(mô hình AyaVisionConfig) - beit —
{'pil': 'BeitImageProcessorPil', 'torchvision': 'BeitImageProcessor'}(mô hình BeitConfig) - bit —
{'pil': 'BitImageProcessorPil', 'torchvision': 'BitImageProcessor'}(mô hình BitConfig) - blip —
{'pil': 'BlipImageProcessorPil', 'torchvision': 'BlipImageProcessor'}(mô hình BlipConfig) - blip-2 —
{'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'}(mô hình Blip2Config) - bridgetower —
{'pil': 'BridgeTowerImageProcessorPil', 'torchvision': 'BridgeTowerImageProcessor'}(mô hình BridgeTowerConfig) - chameleon —
{'pil': 'ChameleonImageProcessorPil', 'torchvision': 'ChameleonImageProcessor'}(mô hình ChameleonConfig) - chinese_clip —
{'pil': 'ChineseCLIPImageProcessorPil', 'torchvision': 'ChineseCLIPImageProcessor'}(mô hình ChineseCLIPConfig) - chmv2 —
{'torchvision': 'CHMv2ImageProcessor'}(mô hình CHMv2Config) - clip —
{'pil': 'CLIPImageProcessorPil', 'torchvision': 'CLIPImageProcessor'}(mô hình CLIPConfig) - clipseg —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình CLIPSegConfig) - cohere2_vision —
{'torchvision': 'Cohere2VisionImageProcessor'}(mô hình Cohere2VisionConfig) - cohere_compass —
{'pil': 'CohereCompassImageProcessorPil', 'torchvision': 'CohereCompassImageProcessor'}(mô hình CohereCompassConfig) - colpali —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(mô hình ColPaliConfig) - colqwen2 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình ColQwen2Config) - conditional_detr —
{'pil': 'ConditionalDetrImageProcessorPil', 'torchvision': 'ConditionalDetrImageProcessor'}(mô hình ConditionalDetrConfig) - convnext —
{'pil': 'ConvNextImageProcessorPil', 'torchvision': 'ConvNextImageProcessor'}(mô hình ConvNextConfig) - convnextv2 —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(mô hình ConvNextV2Config) - cosmos3_edge —
{'pil': 'Cosmos3EdgeImageProcessorPil', 'torchvision': 'Cosmos3EdgeImageProcessor'}(mô hình Cosmos3EdgeConfig) - cosmos3_omni —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Cosmos3OmniConfig) - cvt —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(mô hình CvtConfig) - data2vec-vision —
{'torchvision': 'BeitImageProcessor', 'pil': 'BeitImageProcessorPil'}(mô hình Data2VecVisionConfig) - deepseek_ocr2 —
{'pil': 'DeepseekOcr2ImageProcessorPil', 'torchvision': 'DeepseekOcr2ImageProcessor'}(mô hình DeepseekOcr2Config) - deepseek_vl —
{'pil': 'DeepseekVLImageProcessorPil', 'torchvision': 'DeepseekVLImageProcessor'}(mô hình DeepseekVLConfig) - deepseek_vl_hybrid —
{'pil': 'DeepseekVLHybridImageProcessorPil', 'torchvision': 'DeepseekVLHybridImageProcessor'}(mô hình DeepseekVLHybridConfig) - deformable_detr —
{'pil': 'DeformableDetrImageProcessorPil', 'torchvision': 'DeformableDetrImageProcessor'}(mô hình DeformableDetrConfig) - deimv2 —
{'torchvision': 'RTDetrImageProcessor', 'pil': 'RTDetrImageProcessorPil'}(mô hình Deimv2Config) - deit —
{'pil': 'DeiTImageProcessorPil', 'torchvision': 'DeiTImageProcessor'}(mô hình DeiTConfig) - depth_anything —
{'torchvision': 'DPTImageProcessor', 'pil': 'DPTImageProcessorPil'}(mô hình DepthAnythingConfig) - depth_pro —
{'torchvision': 'DepthProImageProcessor'}(mô hình DepthProConfig) - detr —
{'pil': 'DetrImageProcessorPil', 'torchvision': 'DetrImageProcessor'}(mô hình DetrConfig) - dinat —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình DinatConfig) - dinov2 —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(mô hình Dinov2Config) - dinov3_vit —
{'torchvision': 'DINOv3ViTImageProcessor'}(mô hình DINOv3ViTConfig) - donut-swin —
{'torchvision': 'DonutImageProcessor', 'pil': 'DonutImageProcessorPil'}(mô hình DonutSwinConfig) - dots3_note —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Dots3NoteConfig) - dpt —
{'pil': 'DPTImageProcessorPil', 'torchvision': 'DPTImageProcessor'}(mô hình DPTConfig) - edgetam —
{'torchvision': 'Sam2ImageProcessor'}(mô hình EdgeTamConfig) - efficientloftr —
{'pil': 'EfficientLoFTRImageProcessorPil', 'torchvision': 'EfficientLoFTRImageProcessor'}(mô hình EfficientLoFTRConfig) - efficientnet —
{'pil': 'EfficientNetImageProcessorPil', 'torchvision': 'EfficientNetImageProcessor'}(mô hình EfficientNetConfig) - embedding_gemma2 —
{'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'}(mô hình EmbeddingGemma2Config) - emu3 —
{'pil': 'Emu3ImageProcessor'}(mô hình Emu3Config) - eomt —
{'pil': 'EomtImageProcessorPil', 'torchvision': 'EomtImageProcessor'}(mô hình EomtConfig) - eomt_dinov3 —
{'torchvision': 'EomtImageProcessor', 'pil': 'EomtImageProcessorPil'}(mô hình EomtDinov3Config) - ernie4_5_vl_moe —
{'pil': 'Ernie4_5_VLMoeImageProcessorPil', 'torchvision': 'Ernie4_5_VLMoeImageProcessor'}(mô hình Ernie4_5_VLMoeConfig) - exaone4_5 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Exaone4_5_Config) - flava —
{'pil': 'FlavaImageProcessorPil', 'torchvision': 'FlavaImageProcessor'}(mô hình FlavaConfig) - florence2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình Florence2Config) - focalnet —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(mô hình FocalNetConfig) - fuyu —
{'pil': 'FuyuImageProcessorPil', 'torchvision': 'FuyuImageProcessor'}(mô hình FuyuConfig) - gemma3 —
{'pil': 'Gemma3ImageProcessorPil', 'torchvision': 'Gemma3ImageProcessor'}(mô hình Gemma3Config) - gemma3n —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(mô hình Gemma3nConfig) - gemma4 —
{'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'}(mô hình Gemma4Config) - gemma4_unified —
{'torchvision': 'Gemma4UnifiedImageProcessor'}(mô hình Gemma4UnifiedConfig) - git —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình GitConfig) - glm46v —
{'pil': 'Glm46VImageProcessorPil', 'torchvision': 'Glm46VImageProcessor'}(mô hình Glm46VConfig) - glm4v —
{'pil': 'Glm4vImageProcessorPil', 'torchvision': 'Glm4vImageProcessor'}(mô hình Glm4vConfig) - glm5_next —
{'pil': 'Glm5NextImageProcessorPil', 'torchvision': 'Glm5NextImageProcessor'}(mô hình Glm5NextConfig) - glm_image —
{'pil': 'GlmImageImageProcessorPil', 'torchvision': 'GlmImageImageProcessor'}(mô hình GlmImageConfig) - glmga —
{'pil': 'GlmgaImageProcessorPil', 'torchvision': 'GlmgaImageProcessor'}(mô hình GlmgaConfig) - glpn —
{'pil': 'GLPNImageProcessorPil', 'torchvision': 'GLPNImageProcessor'}(mô hình GLPNConfig) - got_ocr2 —
{'pil': 'GotOcr2ImageProcessorPil', 'torchvision': 'GotOcr2ImageProcessor'}(mô hình GotOcr2Config) - granite4_vision —
{'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'}(mô hình Granite4VisionConfig) - granite_docling —
{'pil': 'GraniteDoclingImageProcessorPil', 'torchvision': 'GraniteDoclingImageProcessor'}(mô hình GraniteDoclingConfig) - grounding-dino —
{'pil': 'GroundingDinoImageProcessorPil', 'torchvision': 'GroundingDinoImageProcessor'}(mô hình GroundingDinoConfig) - groupvit —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình GroupViTConfig) - hiera —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(mô hình HieraConfig) - hunyuan_vl —
{'pil': 'HunYuanVLImageProcessorPil', 'torchvision': 'HunYuanVLImageProcessor'}(mô hình HunYuanVLConfig) - hyperclovax_vision_v2 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình HyperCLOVAXVisionV2Config) - idefics —
{'pil': 'IdeficsImageProcessorPil', 'torchvision': 'IdeficsImageProcessor'}(mô hình IdeficsConfig) - idefics2 —
{'pil': 'Idefics2ImageProcessorPil', 'torchvision': 'Idefics2ImageProcessor'}(mô hình Idefics2Config) - idefics3 —
{'pil': 'Idefics3ImageProcessorPil', 'torchvision': 'Idefics3ImageProcessor'}(mô hình Idefics3Config) - ijepa —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình IJepaConfig) - imagegpt —
{'pil': 'ImageGPTImageProcessorPil', 'torchvision': 'ImageGPTImageProcessor'}(mô hình ImageGPTConfig) - inkling2 —
{'torchvision': 'Inkling2ImageProcessor'}(mô hình Inkling2Config) - inkling_mm_model —
{'torchvision': 'InklingImageProcessor'}(mô hình InklingConfig) - instructblip —
{'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'}(mô hình InstructBlipConfig) - internvl —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(mô hình InternVLConfig) - janus —
{'pil': 'JanusImageProcessorPil', 'torchvision': 'JanusImageProcessor'}(mô hình JanusConfig) - kimi_k25 —
{'torchvision': 'Kimi_K25ImageProcessor'}(mô hình Kimi_K25Config) - kosmos-2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình Kosmos2Config) - kosmos-2.5 —
{'torchvision': 'Kosmos2_5ImageProcessor', 'pil': 'Kosmos2_5ImageProcessorPil'}(mô hình Kosmos2_5Config) - layoutlmv2 —
{'pil': 'LayoutLMv2ImageProcessorPil', 'torchvision': 'LayoutLMv2ImageProcessor'}(mô hình LayoutLMv2Config) - layoutlmv3 —
{'pil': 'LayoutLMv3ImageProcessorPil', 'torchvision': 'LayoutLMv3ImageProcessor'}(mô hình LayoutLMv3Config) - layoutxlm —
{'torchvision': 'LayoutLMv2ImageProcessor', 'pil': 'LayoutLMv2ImageProcessorPil'}(mô hình LayoutXLMConfig) - levit —
{'pil': 'LevitImageProcessorPil', 'torchvision': 'LevitImageProcessor'}(mô hình LevitConfig) - lfm2_vl —
{'torchvision': 'Lfm2VlImageProcessor'}(mô hình Lfm2VlConfig) - lfm3_vl —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Lfm3VlConfig) - lightglue —
{'pil': 'LightGlueImageProcessorPil', 'torchvision': 'LightGlueImageProcessor'}(mô hình LightGlueConfig) - lighton_ocr —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(mô hình LightOnOcrConfig) - llama4 —
{'torchvision': 'Llama4ImageProcessor'}(mô hình Llama4Config) - llava —
{'pil': 'LlavaImageProcessorPil', 'torchvision': 'LlavaImageProcessor'}(mô hình LlavaConfig) - llava_next —
{'pil': 'LlavaNextImageProcessorPil', 'torchvision': 'LlavaNextImageProcessor'}(mô hình LlavaNextConfig) - llava_next_video —
{'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'}(mô hình LlavaNextVideoConfig) - llava_onevision —
{'pil': 'LlavaOnevisionImageProcessorPil', 'torchvision': 'LlavaOnevisionImageProcessor'}(mô hình LlavaOnevisionConfig) - lw_detr —
{'torchvision': 'DeformableDetrImageProcessor', 'pil': 'DeformableDetrImageProcessorPil'}(mô hình LwDetrConfig) - mask2former —
{'pil': 'Mask2FormerImageProcessorPil', 'torchvision': 'Mask2FormerImageProcessor'}(mô hình Mask2FormerConfig) - maskformer —
{'pil': 'MaskFormerImageProcessorPil', 'torchvision': 'MaskFormerImageProcessor'}(mô hình MaskFormerConfig) - metaclip_2 —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình MetaClip2Config) - mgp-str —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình MgpstrConfig) - minicpm_ocr —
{'torchvision': 'MiniCPMOcrImageProcessor'}(mô hình MiniCPMOcrConfig) - minicpmv4_6 —
{'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'}(mô hình MiniCPMV4_6Config) - minicpmv4_7 —
{'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'}(mô hình MiniCPMV4_7Config) - minimax_m3_vl —
{'torchvision': 'MiniMaxM3VLImageProcessor'}(mô hình MiniMaxM3VLConfig) - mistral3 —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(mô hình Mistral3Config) - mistral_large4 —
{'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'}(mô hình MistralLarge4Config) - mlcd —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình MLCDVisionConfig) - mllama —
{'pil': 'MllamaImageProcessorPil', 'torchvision': 'MllamaImageProcessor'}(mô hình MllamaConfig) - mm-grounding-dino —
{'torchvision': 'GroundingDinoImageProcessor', 'pil': 'GroundingDinoImageProcessorPil'}(mô hình MMGroundingDinoConfig) - mobilenet_v1 —
{'pil': 'MobileNetV1ImageProcessorPil', 'torchvision': 'MobileNetV1ImageProcessor'}(mô hình MobileNetV1Config) - mobilenet_v2 —
{'pil': 'MobileNetV2ImageProcessorPil', 'torchvision': 'MobileNetV2ImageProcessor'}(mô hình MobileNetV2Config) - mobilevit —
{'pil': 'MobileViTImageProcessorPil', 'torchvision': 'MobileViTImageProcessor'}(mô hình MobileViTConfig) - mobilevitv2 —
{'torchvision': 'MobileViTImageProcessor', 'pil': 'MobileViTImageProcessorPil'}(mô hình MobileViTV2Config) - molmo2 —
{'torchvision': 'Molmo2ImageProcessor'}(mô hình Molmo2Config) - muse_glimmer —
{'torchvision': 'MuseGlimmerImageProcessor'}(mô hình MuseGlimmerConfig) - muse_spark —
{'torchvision': 'MuseGlimmerImageProcessor'}(mô hình MuseSparkConfig) - nemotron_h_omni —
{'torchvision': 'NemotronH_Omni_Reasoning_V3ImageProcessor'}(mô hình NemotronH_Omni_Reasoning_V3_Config) - neomme —
{'torchvision': 'NeoMMEImageProcessor'}(mô hình NeoMMEConfig) - nougat —
{'pil': 'NougatImageProcessorPil', 'torchvision': 'NougatImageProcessor'}(mô hình NougatConfig) - omdet-turbo —
{'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'}(mô hình OmDetTurboConfig) - oneformer —
{'pil': 'OneFormerImageProcessorPil', 'torchvision': 'OneFormerImageProcessor'}(mô hình OneFormerConfig) - ovis2 —
{'pil': 'Ovis2ImageProcessorPil', 'torchvision': 'Ovis2ImageProcessor'}(mô hình Ovis2Config) - owlv2 —
{'pil': 'Owlv2ImageProcessorPil', 'torchvision': 'Owlv2ImageProcessor'}(mô hình Owlv2Config) - owlvit —
{'pil': 'OwlViTImageProcessorPil', 'torchvision': 'OwlViTImageProcessor'}(mô hình OwlViTConfig) - paddleocr_vl —
{'pil': 'PaddleOCRVLImageProcessorPil', 'torchvision': 'PaddleOCRVLImageProcessor'}(mô hình PaddleOCRVLConfig) - paligemma —
{'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'}(mô hình PaliGemmaConfig) - perceiver —
{'pil': 'PerceiverImageProcessorPil', 'torchvision': 'PerceiverImageProcessor'}(mô hình PerceiverConfig) - perception_lm —
{'torchvision': 'PerceptionLMImageProcessor'}(mô hình PerceptionLMConfig) - phi4_multimodal —
{'torchvision': 'Phi4MultimodalImageProcessor'}(mô hình Phi4MultimodalConfig) - pi0 —
{'torchvision': 'PI0ImageProcessor'}(mô hình PI0Config) - pix2struct —
{'pil': 'Pix2StructImageProcessorPil', 'torchvision': 'Pix2StructImageProcessor'}(mô hình Pix2StructConfig) - pixio —
{'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'}(mô hình PixioConfig) - pixtral —
{'pil': 'PixtralImageProcessorPil', 'torchvision': 'PixtralImageProcessor'}(mô hình PixtralVisionConfig) - poolformer —
{'pil': 'PoolFormerImageProcessorPil', 'torchvision': 'PoolFormerImageProcessor'}(mô hình PoolFormerConfig) - pp_chart2table —
{'pil': 'PPChart2TableImageProcessorPil', 'torchvision': 'PPChart2TableImageProcessor'}(mô hình PPChart2TableConfig) - pp_doclayout_v2 —
{'torchvision': 'PPDocLayoutV2ImageProcessor'}(mô hình PPDocLayoutV2Config) - pp_doclayout_v3 —
{'torchvision': 'PPDocLayoutV3ImageProcessor'}(mô hình PPDocLayoutV3Config) - pp_doclayout_v4 —
{'torchvision': 'PPDocLayoutV4ImageProcessor'}(mô hình PPDocLayoutV4Config) - pp_formulanet —
{'torchvision': 'PPFormulaNetImageProcessor'}(mô hình PPFormulaNetConfig) - pp_lcnet —
{'torchvision': 'PPLCNetImageProcessor'}(mô hình PPLCNetConfig) - pp_ocrv5_mobile_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(mô hình PPOCRV5MobileDetConfig) - pp_ocrv5_mobile_rec —
{'torchvision': 'PPOCRV5ServerRecImageProcessor'}(mô hình PPOCRV5MobileRecConfig) - pp_ocrv5_server_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(mô hình PPOCRV5ServerDetConfig) - pp_ocrv5_server_rec —
{'torchvision': 'PPOCRV5ServerRecImageProcessor'}(mô hình PPOCRV5ServerRecConfig) - pp_ocrv6_medium_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(mô hình PPOCRV6MediumDetConfig) - pp_ocrv6_small_det —
{'torchvision': 'PPOCRV5ServerDetImageProcessor'}(mô hình PPOCRV6SmallDetConfig) - pp_ocrv6_small_rec —
{'torchvision': 'PPOCRV6SmallRecImageProcessor'}(mô hình PPOCRV6SmallRecConfig) - pp_ocrv6_tiny_rec —
{'torchvision': 'PPOCRV6SmallRecImageProcessor'}(mô hình PPOCRV6TinyRecConfig) - prompt_depth_anything —
{'pil': 'PromptDepthAnythingImageProcessorPil', 'torchvision': 'PromptDepthAnythingImageProcessor'}(mô hình PromptDepthAnythingConfig) - pvt —
{'pil': 'PvtImageProcessorPil', 'torchvision': 'PvtImageProcessor'}(mô hình PvtConfig) - pvt_v2 —
{'torchvision': 'PvtImageProcessor', 'pil': 'PvtImageProcessorPil'}(mô hình PvtV2Config) - qianfan_ocr —
{'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'}(mô hình QianfanOCRConfig) - qwen2_5_omni —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen2_5OmniConfig) - qwen2_5_vl —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen2_5_VLConfig) - qwen2_vl —
{'pil': 'Qwen2VLImageProcessorPil', 'torchvision': 'Qwen2VLImageProcessor'}(mô hình Qwen2VLConfig) - qwen3_5 —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen3_5Config) - qwen3_5_moe —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen3_5MoeConfig) - qwen3_omni_moe —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen3OmniMoeConfig) - qwen3_vl —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen3VLConfig) - qwen4_exp —
{'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'}(mô hình Qwen4ExpConfig) - regnet —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(mô hình RegNetConfig) - resnet —
{'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'}(mô hình ResNetConfig) - rf_detr —
{'torchvision': 'RfDetrImageProcessor'}(mô hình RfDetrConfig) - rt_detr —
{'pil': 'RTDetrImageProcessorPil', 'torchvision': 'RTDetrImageProcessor'}(mô hình RTDetrConfig) - sam —
{'pil': 'SamImageProcessorPil', 'torchvision': 'SamImageProcessor'}(mô hình SamConfig) - sam2 —
{'torchvision': 'Sam2ImageProcessor'}(mô hình Sam2Config) - sam2_video —
{'torchvision': 'Sam2ImageProcessor'}(mô hình Sam2VideoConfig) - sam3 —
{'torchvision': 'Sam3ImageProcessor'}(mô hình Sam3Config) - sam3_lite_text —
{'torchvision': 'Sam3ImageProcessor'}(mô hình Sam3LiteTextConfig) - sam3_tracker —
{'torchvision': 'Sam3ImageProcessor'}(mô hình Sam3TrackerConfig) - sam3_tracker_video —
{'torchvision': 'Sam3ImageProcessor'}(mô hình Sam3TrackerVideoConfig) - sam3_video —
{'torchvision': 'Sam3ImageProcessor'}(mô hình Sam3VideoConfig) - sam_hq —
{'torchvision': 'SamImageProcessor', 'pil': 'SamImageProcessorPil'}(mô hình SamHQConfig) - sapiens2 —
{'torchvision': 'Sapiens2ImageProcessor'}(mô hình Sapiens2Config) - segformer —
{'pil': 'SegformerImageProcessorPil', 'torchvision': 'SegformerImageProcessor'}(mô hình SegformerConfig) - seggpt —
{'pil': 'SegGptImageProcessorPil', 'torchvision': 'SegGptImageProcessor'}(mô hình SegGptConfig) - shieldgemma2 —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(mô hình ShieldGemma2Config) - siglip —
{'pil': 'SiglipImageProcessorPil', 'torchvision': 'SiglipImageProcessor'}(mô hình SiglipConfig) - siglip2 —
{'pil': 'Siglip2ImageProcessorPil', 'torchvision': 'Siglip2ImageProcessor'}(mô hình Siglip2Config) - slanet —
{'torchvision': 'SLANeXtImageProcessor'}(mô hình SLANetConfig) - slanext —
{'torchvision': 'SLANeXtImageProcessor'}(mô hình SLANeXtConfig) - smolvlm —
{'pil': 'SmolVLMImageProcessorPil', 'torchvision': 'SmolVLMImageProcessor'}(mô hình SmolVLMConfig) - step3p7 —
{'torchvision': 'Step3p7ImageProcessor'}(mô hình Step3p7Config) - superglue —
{'pil': 'SuperGlueImageProcessorPil', 'torchvision': 'SuperGlueImageProcessor'}(mô hình SuperGlueConfig) - superpoint —
{'pil': 'SuperPointImageProcessorPil', 'torchvision': 'SuperPointImageProcessor'}(mô hình SuperPointConfig) - swiftformer —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình SwiftFormerConfig) - swin —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình SwinConfig) - swin2sr —
{'pil': 'Swin2SRImageProcessorPil', 'torchvision': 'Swin2SRImageProcessor'}(mô hình Swin2SRConfig) - swinv2 —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình Swinv2Config) - t5gemma2 —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(mô hình T5Gemma2Config) - t5gemma2_encoder —
{'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'}(mô hình T5Gemma2EncoderConfig) - table-transformer —
{'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'}(mô hình TableTransformerConfig) - textnet —
{'pil': 'TextNetImageProcessorPil', 'torchvision': 'TextNetImageProcessor'}(mô hình TextNetConfig) - timesformer —
{'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'}(mô hình TimesformerConfig) - timm_wrapper —
{'pil': 'TimmWrapperImageProcessor'}(mô hình TimmWrapperConfig) - tipsv2 —
{'torchvision': 'Tipsv2ImageProcessor'}(mô hình Tipsv2Config) - tipsv2_dpt —
{'torchvision': 'Tipsv2DptImageProcessor'}(mô hình Tipsv2DptConfig) - trocr —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình TrOCRConfig) - tvp —
{'pil': 'TvpImageProcessorPil', 'torchvision': 'TvpImageProcessor'}(mô hình TvpConfig) - udop —
{'torchvision': 'LayoutLMv3ImageProcessor', 'pil': 'LayoutLMv3ImageProcessorPil'}(mô hình UdopConfig) - ultravbert —
{'torchvision': 'UltraVBertImageProcessor'}(mô hình UltraVBertConfig) - unlimited_ocr —
{'torchvision': 'UnlimitedOcrImageProcessor'}(mô hình UnlimitedOcrConfig) - upernet —
{'torchvision': 'SegformerImageProcessor', 'pil': 'SegformerImageProcessorPil'}(mô hình UperNetConfig) - uvdoc —
{'torchvision': 'UVDocImageProcessor'}(mô hình UVDocConfig) - video_llama_3 —
{'pil': 'VideoLlama3ImageProcessorPil', 'torchvision': 'VideoLlama3ImageProcessor'}(mô hình VideoLlama3Config) - video_llava —
{'pil': 'VideoLlavaImageProcessor'}(mô hình VideoLlavaConfig) - videomae —
{'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'}(mô hình VideoMAEConfig) - vilt —
{'pil': 'ViltImageProcessorPil', 'torchvision': 'ViltImageProcessor'}(mô hình ViltConfig) - vipllava —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình VipLlavaConfig) - vit —
{'pil': 'ViTImageProcessorPil', 'torchvision': 'ViTImageProcessor'}(mô hình ViTConfig) - vit_mae —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình ViTMAEConfig) - vit_msn —
{'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'}(mô hình ViTMSNConfig) - vitmatte —
{'pil': 'VitMatteImageProcessorPil', 'torchvision': 'VitMatteImageProcessor'}(mô hình VitMatteConfig) - vitpose —
{'pil': 'VitPoseImageProcessorPil', 'torchvision': 'VitPoseImageProcessor'}(mô hình VitPoseConfig) - vivit —
{'torchvision': 'VivitImageProcessor'}(mô hình VivitConfig) - xclip —
{'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'}(mô hình XCLIPConfig) - yolos —
{'pil': 'YolosImageProcessorPil', 'torchvision': 'YolosImageProcessor'}(mô hình YolosConfig) - zoedepth —
{'pil': 'ZoeDepthImageProcessorPil', 'torchvision': 'ZoeDepthImageProcessor'}(mô hình ZoeDepthConfig)
Việc truyền
token=Truelà bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.
Ví dụ:
>>> from transformers import AutoImageProcessor
>>> # Download image processor from huggingface.co and cache.
>>> image_processor = AutoImageProcessor.from_pretrained("google/vit-base-patch16-224-in21k")
>>> # If image processor files are in a directory (e.g. image processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # image_processor = AutoImageProcessor.from_pretrained("./test/saved_model/")đăng ký
< source >( config_classslow_image_processor_class: type | None = Nonefast_image_processor_class: type | None = Noneimage_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )
Tham số
- config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
- slow_image_processor_class (
type, tùy chọn) — Lớp xử lý ảnh backend PIL (không còn được khuyến khích, hãy dùngimage_processor_classes={"pil": ...}). - fast_image_processor_class (
type, tùy chọn) — Lớp xử lý ảnh của backend Torchvision (đã ngừng hỗ trợ, hãy dùngimage_processor_classes={"torchvision": ...}). - image_processor_classes (
dict[str, type], tuỳ chọn) — Từ điển ánh xạ tên backend đến các lớp image processor. Cho phép đăng ký các backend tùy chỉnh. Ví dụ:{"pil": MyPilProcessor, "torchvision": MyTorchvisionProcessor, "custom": MyCustomProcessor} - exist_ok (
bool, tùy chọn, mặc định làFalse) — NếuTrue, cho phép ghi đè lên các đăng ký hiện có.
Đăng ký một bộ xử lý ảnh mới cho lớp này.
AutoVideoProcessor
Xem Các backend của Video processor để biết về việc chọn backend, đăng ký tùy chỉnh, cũng như lưu và tải lại.
Đây là lớp video processor tổng quát sẽ được khởi tạo thành một trong các lớp video processor của thư viện khi được tạo bằng phương thức lớp AutoVideoProcessor.from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path*inputs**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Đây có thể là:- một chuỗi, model id của một video_processor được huấn luyện trước lưu trữ trong kho model trên huggingface.co.
- đường dẫn đến một thư mục chứa tệp video processor được lưu bằng phương thức
save_pretrained(), ví dụ:
./my_model_directory/. - đường dẫn đến tệp JSON của video processor đã lưu file, ví dụ:
./my_model_directory/preprocessor_config.json.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình xử lý video của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc (tải lại) các tệp video processor và ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Các proxy này được sử dụng cho mỗi yêu cầu. - token (
strhoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. NếuTrue, sẽ sử dụng token được tạo ra khi chạyhf auth login(được lưu trong~/.huggingface). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - return_unused_kwargs (
bool, tùy chọn, mặc định làFalse) — NếuFalse, hàm này chỉ trả về đối tượng video processor cuối cùng. NếuTrue, hàm này trả về mộtTuple(video_processor, unused_kwargs)trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của video processor: tức là phần củakwargschưa được dùng để cập nhậtvideo_processorvà bị bỏ qua. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - kwargs (
dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của video processor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của video processor được điều khiển bởi tham số từ khóareturn_unused_kwargs.
Khởi tạo một trong các lớp video processor của thư viện từ từ điển của một mô hình được huấn luyện trước.
Lớp video processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config
(được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này
thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:
- cohere_compass —
{'torchvision': 'CohereCompassVideoProcessor'}(mô hình CohereCompassConfig) - cosmos3_edge —
{'torchvision': 'Cosmos3EdgeVideoProcessor'}(mô hình Cosmos3EdgeConfig) - cosmos3_omni —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Cosmos3OmniConfig) - dots3_note —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Dots3NoteConfig) - embedding_gemma2 —
{'torchvision': 'EmbeddingGemma2VideoProcessor'}(mô hình EmbeddingGemma2Config) - ernie4_5_vl_moe —
{'torchvision': 'Ernie4_5_VLMoeVideoProcessor'}(mô hình Ernie4_5_VLMoeConfig) - exaone4_5 —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình Exaone4_5_Config) - gemma4 —
{'torchvision': 'Gemma4VideoProcessor'}(mô hình Gemma4Config) - gemma4_unified —
{'torchvision': 'Gemma4UnifiedVideoProcessor'}(mô hình Gemma4UnifiedConfig) - glm46v —
{'torchvision': 'Glm46VVideoProcessor'}(mô hình Glm46VConfig) - glm4v —
{'torchvision': 'Glm4vVideoProcessor'}(mô hình Glm4vConfig) - glm5_next —
{'torchvision': 'Glm5NextVideoProcessor'}(mô hình Glm5NextConfig) - glmga —
{'torchvision': 'GlmgaVideoProcessor'}(mô hình GlmgaConfig) - hyperclovax_vision_v2 —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình HyperCLOVAXVisionV2Config) - instructblip —
{'torchvision': 'InstructBlipVideoVideoProcessor'}(mô hình InstructBlipConfig) - instructblipvideo —
{'torchvision': 'InstructBlipVideoVideoProcessor'}(mô hình InstructBlipVideoConfig) - internvl —
{'torchvision': 'InternVLVideoProcessor'}(mô hình InternVLConfig) - kimi_k25 —
{'torchvision': 'Kimi_K25VideoProcessor'}(mô hình Kimi_K25Config) - lfm3_vl —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Lfm3VlConfig) - llava_next_video —
{'torchvision': 'LlavaNextVideoVideoProcessor'}(mô hình LlavaNextVideoConfig) - llava_onevision —
{'torchvision': 'LlavaOnevisionVideoProcessor'}(mô hình LlavaOnevisionConfig) - minicpm_ocr —
{'torchvision': 'MiniCPMOcrVideoProcessor'}(mô hình MiniCPMOcrConfig) - minicpmv4_6 —
{'torchvision': 'MiniCPMV4_6VideoProcessor'}(mô hình MiniCPMV4_6Config) - minicpmv4_7 —
{'torchvision': 'MiniCPMV4_6VideoProcessor'}(mô hình MiniCPMV4_7Config) - minimax_m3_vl —
{'torchvision': 'MiniMaxM3VLVideoProcessor'}(mô hình MiniMaxM3VLConfig) - molmo2 —
{'torchvision': 'Molmo2VideoProcessor'}(mô hình Molmo2Config) - muse_glimmer —
{'torchvision': 'MuseGlimmerVideoProcessor'}(mô hình MuseGlimmerConfig) - muse_spark —
{'torchvision': 'MuseGlimmerVideoProcessor'}(mô hình MuseSparkConfig) - nemotron_h_omni —
{'torchvision': 'NemotronH_Omni_Reasoning_V3VideoProcessor'}(mô hình NemotronH_Omni_Reasoning_V3_Config) - pe_audio_video —
{'torchvision': 'PeVideoVideoProcessor'}(mô hình PeAudioVideoConfig) - pe_video —
{'torchvision': 'PeVideoVideoProcessor'}(mô hình PeVideoConfig) - perception_lm —
{'torchvision': 'PerceptionLMVideoProcessor'}(mô hình PerceptionLMConfig) - qwen2_5_omni —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình Qwen2_5OmniConfig) - qwen2_5_vl —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình Qwen2_5_VLConfig) - qwen2_vl —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình Qwen2VLConfig) - qwen3_5 —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Qwen3_5Config) - qwen3_5_moe —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Qwen3_5MoeConfig) - qwen3_omni_moe —
{'torchvision': 'Qwen2VLVideoProcessor'}(mô hình Qwen3OmniMoeConfig) - qwen3_vl —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Qwen3VLConfig) - qwen3_vl_moe —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Qwen3VLMoeConfig) - qwen4_exp —
{'torchvision': 'Qwen3VLVideoProcessor'}(mô hình Qwen4ExpConfig) - sam2_video —
{'torchvision': 'Sam2VideoVideoProcessor'}(mô hình Sam2VideoConfig) - smolvlm —
{'torchvision': 'SmolVLMVideoProcessor'}(mô hình SmolVLMConfig) - timesformer —
{'torchvision': 'TimesformerVideoProcessor'}(mô hình TimesformerConfig) - video_llama_3 —
{'torchvision': 'VideoLlama3VideoProcessor'}(mô hình VideoLlama3Config) - video_llava —
{'torchvision': 'VideoLlavaVideoProcessor'}(mô hình VideoLlavaConfig) - videomae —
{'torchvision': 'VideoMAEVideoProcessor'}(mô hình VideoMAEConfig) - videomt —
{'torchvision': 'VideomtVideoProcessor'}(mô hình VideomtConfig) - videoprism —
{'torchvision': 'LlavaOnevisionVideoProcessor'}(mô hình VideoPrismConfig) - vivit —
{'torchvision': 'VivitVideoProcessor'}(mô hình VivitConfig) - vjepa2 —
{'torchvision': 'VJEPA2VideoProcessor'}(mô hình VJEPA2Config)
Việc truyền
token=Truelà bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.
Ví dụ:
>>> from transformers import AutoVideoProcessor
>>> # Download video processor from huggingface.co and cache.
>>> video_processor = AutoVideoProcessor.from_pretrained("llava-hf/llava-onevision-qwen2-0.5b-ov-hf")
>>> # If video processor files are in a directory (e.g. video processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # video_processor = AutoVideoProcessor.from_pretrained("./test/saved_model/")đăng ký
< source >( config_classvideo_processor_class: type | None = Nonevideo_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )
Tham số
- config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
- video_processor_class (BaseVideoProcessor) — Bộ xử lý video cần đăng ký.
- video_processor_classes (
dict[str, type], tuỳ chọn) — Từ điển ánh xạ tên backend đến các lớp video processor. Cho phép đăng ký các backend tùy chỉnh. Ví dụ:{"pil": MyPilVideoProcessor, "torchvision": MyTorchvisionVideoProcessor, "custom": MyCustomVideoProcessor} - exist_ok (
bool, tùy chọn, mặc định làFalse) — NếuTrue, cho phép ghi đè lên các đăng ký hiện có.
Đăng ký một trình xử lý video mới cho lớp này.
AutoProcessor
Đây là một lớp processor tổng quát sẽ được khởi tạo thành một trong các lớp processor của thư viện khi được tạo bằng phương thức lớp AutoProcessor.from_pretrained().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_pretrained
< source >( pretrained_model_name_or_path**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Đây có thể là:- một chuỗi, model id của một feature_extractor được huấn luyện trước lưu trữ trong một kho model trên huggingface.co.
- đường dẫn đến một thư mục chứa các tệp processor được lưu bằng phương thức
save_pretrained(), ví dụ:./my_model_directory/.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình trích xuất đặc trưng của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc (tải lại) các tệp feature extractor và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}.Các proxy này được sử dụng cho mỗi yêu cầu. - token (
strhoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. NếuTrue, sẽ sử dụng token được tạo ra khi chạyhf auth login(được lưu trong~/.huggingface). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - return_unused_kwargs (
bool, tùy chọn, mặc định làFalse) — NếuFalse, hàm này chỉ trả về đối tượng feature extractor cuối cùng. NếuTrue, hàm này trả về mộtTuple(feature_extractor, unused_kwargs)trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của feature extractor: tức là phần củakwargschưa được dùng để cập nhậtfeature_extractorvà bị bỏ qua. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - kwargs (
dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của feature extractor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của feature extractor được kiểm soát bởi tham số từ khóareturn_unused_kwargs.
Khởi tạo một trong các lớp processor của thư viện từ từ vựng của một mô hình được huấn luyện trước.
Lớp processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể):
- aimv2 — CLIPProcessor (mô hình Aimv2Config)
- align — AlignProcessor (mô hình AlignConfig)
- altclip — AltCLIPProcessor (mô hình AltCLIPConfig)
- aria — AriaProcessor (mô hình AriaConfig)
- audioflamingo3 — AudioFlamingo3Processor (mô hình AudioFlamingo3Config)
- aya_vision — AyaVisionProcessor (mô hình AyaVisionConfig)
- bark — BarkProcessor (mô hình BarkConfig)
- blip — BlipProcessor (mô hình BlipConfig)
- blip-2 — Blip2Processor (mô hình Blip2Config)
- bridgetower — BridgeTowerProcessor (mô hình BridgeTowerConfig)
- bros — BrosProcessor (mô hình BrosConfig)
- canary — CanaryProcessor (mô hình CanaryConfig)
- chameleon — ChameleonProcessor (mô hình ChameleonConfig)
- chinese_clip — ChineseCLIPProcessor (mô hình ChineseCLIPConfig)
- clap — ClapProcessor (mô hình ClapConfig)
- clip — CLIPProcessor (mô hình CLIPConfig)
- clipseg — CLIPSegProcessor (mô hình CLIPSegConfig)
- clvp — ClvpProcessor (mô hình ClvpConfig)
- cohere2_vision — Cohere2VisionProcessor (mô hình Cohere2VisionConfig)
- cohere_asr — CohereAsrProcessor (mô hình CohereAsrConfig)
- cohere_compass — CohereCompassProcessor (mô hình CohereCompassConfig)
- colmodernvbert — ColModernVBertProcessor (mô hình ColModernVBertConfig)
- colpali — ColPaliProcessor (mô hình ColPaliConfig)
- colqwen2 — ColQwen2Processor (mô hình ColQwen2Config)
- cosmos3_edge — Cosmos3EdgeProcessor (mô hình Cosmos3EdgeConfig)
- csm — CsmProcessor (mô hình CsmConfig)
- deepseek_ocr2 — DeepseekOcr2Processor (mô hình DeepseekOcr2Config)
- deepseek_vl — DeepseekVLProcessor (mô hình DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridProcessor (mô hình DeepseekVLHybridConfig)
- dia — DiaProcessor (mô hình DiaConfig)
- diffusion_gemma — Gemma4Processor (mô hình DiffusionGemmaConfig)
- dots3_note — Dots3NoteProcessor (mô hình Dots3NoteConfig)
- edgetam — Sam2Processor (mô hình EdgeTamConfig)
- embedding_gemma2 — EmbeddingGemma2Processor (mô hình EmbeddingGemma2Config)
- emu3 — Emu3Processor (mô hình Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeProcessor (mô hình Ernie4_5_VLMoeConfig)
- evolla — EvollaProcessor (mô hình EvollaConfig)
- exaone4_5 — Exaone4_5_Processor (mô hình Exaone4_5_Config)
- flava — FlavaProcessor (mô hình FlavaConfig)
- florence2 — Florence2Processor (mô hình Florence2Config)
- fun_asr_nano — FunAsrNanoProcessor (mô hình FunAsrNanoConfig)
- fuyu — FuyuProcessor (mô hình FuyuConfig)
- gemma3 — Gemma3Processor (mô hình Gemma3Config)
- gemma3n — Gemma3nProcessor (mô hình Gemma3nConfig)
- gemma4 — Gemma4Processor (mô hình Gemma4Config)
- gemma4_unified — Gemma4UnifiedProcessor (mô hình Gemma4UnifiedConfig)
- git — GitProcessor (mô hình GitConfig)
- glm46v — Glm46VProcessor (mô hình Glm46VConfig)
- glm4v — Glm4vProcessor (mô hình Glm4vConfig)
- glm4v_moe — Glm4vProcessor (mô hình Glm4vMoeConfig)
- glm5_next — Glm5NextProcessor (mô hình Glm5NextConfig)
- glm_image — GlmImageProcessor (mô hình GlmImageConfig)
- glmasr — GlmAsrProcessor (mô hình GlmAsrConfig)
- got_ocr2 — GotOcr2Processor (mô hình GotOcr2Config)
- gradium_phonon_tts — PocketTTSProcessor (mô hình GradiumPhononTTSConfig)
- granite4_vision — Granite4VisionProcessor (mô hình Granite4VisionConfig)
- granite_docling — GraniteDoclingProcessor (mô hình GraniteDoclingConfig)
- granite_speech — GraniteSpeechProcessor (mô hình GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5Processor (mô hình GraniteSpeech5CTCConfig)
- granite_speech_plus — GraniteSpeechProcessor (mô hình GraniteSpeechPlusConfig)
- grounding-dino — GroundingDinoProcessor (mô hình GroundingDinoConfig)
- groupvit — CLIPProcessor (mô hình GroupViTConfig)
- higgs_audio_v2 — HiggsAudioV2Processor (mô hình HiggsAudioV2Config)
- hubert — Wav2Vec2Processor (mô hình HubertConfig)
- hunyuan_vl — HunYuanVLProcessor (mô hình HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Processor (mô hình HyperCLOVAXVisionV2Config)
- idefics — IdeficsProcessor (mô hình IdeficsConfig)
- idefics2 — Idefics2Processor (mô hình Idefics2Config)
- idefics3 — Idefics3Processor (mô hình Idefics3Config)
- inkling2 — Inkling2Processor (mô hình Inkling2Config)
- inkling_mm_model — InklingProcessor (mô hình InklingConfig)
- instructblip — InstructBlipProcessor (mô hình InstructBlipConfig)
- instructblipvideo — InstructBlipVideoProcessor (mô hình InstructBlipVideoConfig)
- internvl — InternVLProcessor (mô hình InternVLConfig)
- janus — JanusProcessor (mô hình JanusConfig)
- kimi_k25 — Kimi_K25Processor (mô hình Kimi_K25Config)
- kyutai_speech_to_text — KyutaiSpeechToTextProcessor (mô hình KyutaiSpeechToTextConfig)
- lasr_ctc — LasrProcessor (mô hình LasrCTCConfig)
- lasr_encoder — LasrProcessor (mô hình LasrEncoderConfig)
- layoutlmv2 — LayoutLMv2Processor (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Processor (mô hình LayoutLMv3Config)
- layoutxlm — LayoutXLMProcessor (mô hình LayoutXLMConfig)
- lfm2_vl — Lfm2VlProcessor (mô hình Lfm2VlConfig)
- lfm3_vl — Lfm3VlProcessor (mô hình Lfm3VlConfig)
- lighton_ocr — LightOnOcrProcessor (mô hình LightOnOcrConfig)
- llama4 — Llama4Processor (mô hình Llama4Config)
- llava — LlavaProcessor (mô hình LlavaConfig)
- llava_next — LlavaNextProcessor (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoProcessor (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionProcessor (mô hình LlavaOnevisionConfig)
- markuplm — MarkupLMProcessor (mô hình MarkupLMConfig)
- metaclip_2 — CLIPProcessor (mô hình MetaClip2Config)
- mgp-str — MgpstrProcessor (mô hình MgpstrConfig)
- minicpm_ocr — MiniCPMOcrProcessor (mô hình MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6Processor (mô hình MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7Processor (mô hình MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3VLProcessor (mô hình MiniMaxM3VLConfig)
- mistral3 — PixtralProcessor (mô hình Mistral3Config)
- mistral_large4 — PixtralProcessor (mô hình MistralLarge4Config)
- mllama — MllamaProcessor (mô hình MllamaConfig)
- mm-grounding-dino — GroundingDinoProcessor (mô hình MMGroundingDinoConfig)
- modernvbert — Idefics3Processor (mô hình ModernVBertConfig)
- molmo2 — Molmo2Processor (mô hình Molmo2Config)
- moonshine — Wav2Vec2Processor (mô hình MoonshineConfig)
- moonshine_streaming — MoonshineStreamingProcessor (mô hình MoonshineStreamingConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeProcessor (mô hình MossTranscribeDiarizeConfig)
- muse_glimmer — MuseGlimmerProcessor (mô hình MuseGlimmerConfig)
- muse_spark — MuseSparkProcessor (mô hình MuseSparkConfig)
- musicflamingo — MusicFlamingoProcessor (mô hình MusicFlamingoConfig)
- musicgen — MusicgenProcessor (mô hình MusicgenConfig)
- musicgen_melody — MusicgenMelodyProcessor (mô hình MusicgenMelodyConfig)
- nemo_speechlm — Nemotron3_5TranscribeProcessor (mô hình Nemotron3_5TranscribeConfig)
- nemotron3_5_asr — Nemotron3_5AsrProcessor (mô hình Nemotron3_5AsrConfig)
- nemotron3_diarization — Nemotron3DiarizationProcessor (mô hình Nemotron3DiarizationConfig)
- nemotron_asr_streaming — NemotronAsrStreamingProcessor (mô hình NemotronAsrStreamingConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3Processor (mô hình NemotronH_Omni_Reasoning_V3_Config)
- neomme — NeoMMEProcessor (mô hình NeoMMEConfig)
- nougat — NougatProcessor (mô hình NougatConfig)
- omdet-turbo — OmDetTurboProcessor (mô hình OmDetTurboConfig)
- oneformer — OneFormerProcessor (mô hình OneFormerConfig)
- ovis2 — Ovis2Processor (mô hình Ovis2Config)
- owlv2 — Owlv2Processor (mô hình Owlv2Config)
- owlvit — OwlViTProcessor (mô hình OwlViTConfig)
- paddleocr_vl — PaddleOCRVLProcessor (mô hình PaddleOCRVLConfig)
- paligemma — PaliGemmaProcessor (mô hình PaliGemmaConfig)
- parakeet_ctc — ParakeetProcessor (mô hình ParakeetCTCConfig)
- parakeet_rnnt — ParakeetProcessor (mô hình ParakeetRNNTConfig)
- parakeet_tdt — ParakeetProcessor (mô hình ParakeetTDTConfig)
- pe_audio — PeAudioProcessor (mô hình PeAudioConfig)
- pe_audio_video — PeAudioVideoProcessor (mô hình PeAudioVideoConfig)
- pe_video — PeVideoProcessor (mô hình PeVideoConfig)
- perception_lm — PerceptionLMProcessor (mô hình PerceptionLMConfig)
- phi4_multimodal — Phi4MultimodalProcessor (mô hình Phi4MultimodalConfig)
- pi0 — PI0Processor (mô hình PI0Config)
- pix2struct — Pix2StructProcessor (mô hình Pix2StructConfig)
- pixtral — PixtralProcessor (mô hình PixtralVisionConfig)
- pocket_tts — PocketTTSProcessor (mô hình PocketTTSConfig)
- pop2piano — Pop2PianoProcessor (mô hình Pop2PianoConfig)
- pp_chart2table — PPChart2TableProcessor (mô hình PPChart2TableConfig)
- pp_formulanet — PPFormulaNetProcessor (mô hình PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRProcessor (mô hình QianfanOCRConfig)
- qwen2_5_omni — Qwen2_5OmniProcessor (mô hình Qwen2_5OmniConfig)
- qwen2_5_vl — Qwen2_5_VLProcessor (mô hình Qwen2_5_VLConfig)
- qwen2_audio — Qwen2AudioProcessor (mô hình Qwen2AudioConfig)
- qwen2_vl — Qwen2VLProcessor (mô hình Qwen2VLConfig)
- qwen3_5 — Qwen3VLProcessor (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3VLProcessor (mô hình Qwen3_5MoeConfig)
- qwen3_asr — Qwen3ASRProcessor (mô hình Qwen3ASRConfig)
- qwen3_omni_moe — Qwen3OmniMoeProcessor (mô hình Qwen3OmniMoeConfig)
- qwen3_vl — Qwen3VLProcessor (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLProcessor (mô hình Qwen3VLMoeConfig)
- qwen4_exp — Qwen3VLProcessor (mô hình Qwen4ExpConfig)
- sam — SamProcessor (mô hình SamConfig)
- sam2 — Sam2Processor (mô hình Sam2Config)
- sam2_video — Sam2VideoProcessor (mô hình Sam2VideoConfig)
- sam3 — Sam3Processor (mô hình Sam3Config)
- sam3_lite_text — Sam3Processor (mô hình Sam3LiteTextConfig)
- sam3_tracker — Sam3TrackerProcessor (mô hình Sam3TrackerConfig)
- sam3_tracker_video — Sam3TrackerVideoProcessor (mô hình Sam3TrackerVideoConfig)
- sam3_video — Sam3VideoProcessor (mô hình Sam3VideoConfig)
- sam_hq — SamHQProcessor (mô hình SamHQConfig)
- seamless_m4t — SeamlessM4TProcessor (mô hình SeamlessM4TConfig)
- sew — Wav2Vec2Processor (mô hình SEWConfig)
- sew-d — Wav2Vec2Processor (mô hình SEWDConfig)
- shieldgemma2 — ShieldGemma2Processor (mô hình ShieldGemma2Config)
- siglip — SiglipProcessor (mô hình SiglipConfig)
- siglip2 — Siglip2Processor (mô hình Siglip2Config)
- smolvlm — SmolVLMProcessor (mô hình SmolVLMConfig)
- speech_to_text — Speech2TextProcessor (mô hình Speech2TextConfig)
- speecht5 — SpeechT5Processor (mô hình SpeechT5Config)
- step3p7 — Step3p7Processor (mô hình Step3p7Config)
- t5gemma2 — Gemma3Processor (mô hình T5Gemma2Config)
- t5gemma2_encoder — Gemma3Processor (mô hình T5Gemma2EncoderConfig)
- tipsv2 — Tipsv2Processor (mô hình Tipsv2Config)
- trocr — TrOCRProcessor (mô hình TrOCRConfig)
- tvp — TvpProcessor (mô hình TvpConfig)
- udop — UdopProcessor (mô hình UdopConfig)
- ultravbert — Idefics3Processor (mô hình UltraVBertConfig)
- unispeech — Wav2Vec2Processor (mô hình UniSpeechConfig)
- unispeech-sat — Wav2Vec2Processor (mô hình UniSpeechSatConfig)
- unlimited_ocr — UnlimitedOcrProcessor (mô hình UnlimitedOcrConfig)
- vibevoice — VibeVoiceProcessor (mô hình VibeVoiceConfig)
- vibevoice_asr — VibeVoiceAsrProcessor (mô hình VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3Processor (mô hình VideoLlama3Config)
- video_llava — VideoLlavaProcessor (mô hình VideoLlavaConfig)
- videoprism — VideoPrismProcessor (mô hình VideoPrismConfig)
- vilt — ViltProcessor (mô hình ViltConfig)
- vipllava — LlavaProcessor (mô hình VipLlavaConfig)
- vision-text-dual-encoder — VisionTextDualEncoderProcessor (mô hình VisionTextDualEncoderConfig)
- voxtral — VoxtralProcessor (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeProcessor (mô hình VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2Processor (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertProcessor (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2Processor (mô hình Wav2Vec2ConformerConfig)
- wavlm — Wav2Vec2Processor (mô hình WavLMConfig)
- whisper — WhisperProcessor (mô hình WhisperConfig)
Việc truyền
token=Truelà bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.
Ví dụ:
>>> from transformers import AutoProcessor
>>> # Download processor from huggingface.co and cache.
>>> processor = AutoProcessor.from_pretrained("facebook/wav2vec2-base-960h")
>>> # If processor files are in a directory (e.g. processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # processor = AutoProcessor.from_pretrained("./test/saved_model/")đăng ký
< source >( config_classprocessor_classexist_ok = False )
Tham số
- config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
- processor_class (ProcessorMixin) — Bộ xử lý cần đăng ký.
Đăng ký một trình xử lý mới cho lớp này.
Các lớp mô hình tổng quát
Các lớp auto sau đây có sẵn để khởi tạo một lớp mô hình cơ sở mà không có đầu cụ thể.
AutoModel
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình cơ bản của thư viện khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình ASTConfig: ASTModel (mô hình ASTConfig)
- AXK1Config lớp cấu hình: AXK1Model (mô hình AXK1Config)
- AXK2Config lớp cấu hình: AXK2Model (mô hình AXK2Config)
- Lớp cấu hình AfmoeConfig: AfmoeModel (mô hình AfmoeConfig)
- Lớp cấu hình Aimv2Config: Aimv2Model (mô hình Aimv2Config)
- Lớp cấu hình Aimv2VisionConfig: Aimv2VisionModel (mô hình Aimv2VisionConfig)
- Lớp cấu hình AlbertConfig: AlbertModel (mô hình AlbertConfig)
- Lớp cấu hình AlignConfig: AlignModel (mô hình AlignConfig)
- Lớp cấu hình AltCLIPConfig: AltCLIPModel (mô hình AltCLIPConfig)
- Lớp cấu hình ApertusConfig: ApertusModel (mô hình ApertusConfig)
- Lớp cấu hình ArceeConfig: ArceeModel (mô hình ArceeConfig)
- Lớp cấu hình AriaConfig: AriaModel (mô hình AriaConfig)
- Lớp cấu hình AriaTextConfig: AriaTextModel (mô hình AriaTextConfig)
- Lớp cấu hình AudioFlamingo3Config: AudioFlamingo3Model (mô hình AudioFlamingo3Config)
- Lớp cấu hình AudioFlamingo3EncoderConfig: AudioFlamingo3Encoder (mô hình AudioFlamingo3EncoderConfig)
- Lớp cấu hình AutoformerConfig: AutoformerModel (mô hình AutoformerConfig)
- Lớp cấu hình AyaVisionConfig: AyaVisionModel (mô hình AyaVisionConfig)
- Lớp cấu hình BailingHybridConfig: BailingHybridModel (mô hình BailingHybridConfig)
- Lớp cấu hình BambaConfig: BambaModel (mô hình BambaConfig)
- Lớp cấu hình BarkConfig: BarkModel (mô hình BarkConfig)
- Lớp cấu hình BartConfig: BartModel (mô hình BartConfig)
- Lớp cấu hình BeamConfig: BeamModel (mô hình BeamConfig)
- Lớp cấu hình BeitConfig: BeitModel (mô hình BeitConfig)
- Lớp cấu hình BertConfig: BertModel (mô hình BertConfig)
- Lớp cấu hình BertGenerationConfig: BertGenerationEncoder (mô hình BertGenerationConfig)
- Lớp cấu hình BigBirdConfig: BigBirdModel (mô hình BigBirdConfig)
- Lớp cấu hình BigBirdPegasusConfig: BigBirdPegasusModel (mô hình BigBirdPegasusConfig)
- Lớp cấu hình BioGptConfig: BioGptModel (mô hình BioGptConfig)
- Lớp cấu hình BitConfig: BitModel (mô hình BitConfig)
- Lớp cấu hình BitNetConfig: BitNetModel (mô hình BitNetConfig)
- Lớp cấu hình BlenderbotConfig: BlenderbotModel (mô hình BlenderbotConfig)
- Lớp cấu hình BlenderbotSmallConfig: BlenderbotSmallModel (mô hình BlenderbotSmallConfig)
- Lớp cấu hình Blip2Config: Blip2Model (mô hình Blip2Config)
- Lớp cấu hình Blip2QFormerConfig: Blip2QFormerModel (mô hình Blip2QFormerConfig)
- Lớp cấu hình BlipConfig: BlipModel (mô hình BlipConfig)
- Lớp cấu hình BloomConfig: BloomModel (mô hình BloomConfig)
- Lớp cấu hình BltConfig: BltModel (mô hình BltConfig)
- Lớp cấu hình BridgeTowerConfig: BridgeTowerModel (mô hình BridgeTowerConfig)
- Lớp cấu hình BrosConfig: BrosModel (mô hình BrosConfig)
- Lớp cấu hình CLIPConfig: CLIPModel (mô hình CLIPConfig)
- Lớp cấu hình CLIPSegConfig: CLIPSegModel (mô hình CLIPSegConfig)
- lớp cấu hình CLIPTextConfig: CLIPTextModel (mô hình CLIPTextConfig)
- Lớp cấu hình CLIPVisionConfig: CLIPVisionModel (mô hình CLIPVisionConfig)
- Lớp cấu hình CTRLConfig: CTRLModel (mô hình CTRLConfig)
- Lớp cấu hình CamembertConfig: CamembertModel (mô hình CamembertConfig)
- Lớp cấu hình CanaryConfig: CanaryModel (mô hình CanaryConfig)
- Lớp cấu hình CanineConfig: CanineModel (mô hình CanineConfig)
- Lớp cấu hình ChameleonConfig: ChameleonModel (mô hình ChameleonConfig)
- Lớp cấu hình ChineseCLIPConfig: ChineseCLIPModel (mô hình ChineseCLIPConfig)
- Lớp cấu hình ChineseCLIPVisionConfig: ChineseCLIPVisionModel (mô hình ChineseCLIPVisionConfig)
- Lớp cấu hình ClapConfig: ClapModel (mô hình ClapConfig)
- Lớp cấu hình ClvpConfig: ClvpModelForConditionalGeneration (mô hình ClvpConfig)
- Lớp cấu hình CodeGenConfig: CodeGenModel (mô hình CodeGenConfig)
- Lớp cấu hình Cohere2Config: Cohere2Model (mô hình Cohere2Config)
- Lớp cấu hình Cohere2MoeConfig: Cohere2MoeModel (mô hình Cohere2MoeConfig)
- Lớp cấu hình Cohere2VisionConfig: Cohere2VisionModel (mô hình Cohere2VisionConfig)
- Lớp cấu hình CohereAsrConfig: CohereAsrModel (mô hình CohereAsrConfig)
- Lớp cấu hình CohereCompassConfig: CohereCompassModel (mô hình CohereCompassConfig)
- Lớp cấu hình CohereCompassTextConfig: CohereCompassTextModel (mô hình CohereCompassTextConfig)
- Lớp cấu hình CohereCompassVisionConfig: CohereCompassVisionModel (mô hình CohereCompassVisionConfig)
- Lớp cấu hình CohereConfig: CohereModel (mô hình CohereConfig)
- Lớp cấu hình ConditionalDetrConfig: ConditionalDetrModel (mô hình ConditionalDetrConfig)
- Lớp cấu hình ConvBertConfig: ConvBertModel (mô hình ConvBertConfig)
- Lớp cấu hình ConvNextConfig: ConvNextModel (mô hình ConvNextConfig)
- Lớp cấu hình ConvNextV2Config: ConvNextV2Model (mô hình ConvNextV2Config)
- Lớp cấu hình Cosmos3EdgeConfig: Cosmos3EdgeModel (mô hình Cosmos3EdgeConfig)
- Lớp cấu hình Cosmos3EdgeTextConfig: Cosmos3EdgeTextModel (mô hình Cosmos3EdgeTextConfig)
- Lớp cấu hình Cosmos3EdgeVisionConfig: Cosmos3EdgeVisionModel (mô hình Cosmos3EdgeVisionConfig)
- Lớp cấu hình Cosmos3OmniConfig: Cosmos3OmniModel (mô hình Cosmos3OmniConfig)
- CpmAntConfig lớp cấu hình: CpmAntModel (mô hình CpmAntConfig)
- Lớp cấu hình CsmConfig: CsmForConditionalGeneration (mô hình CsmConfig)
- Lớp cấu hình CvtConfig: CvtModel (mô hình CvtConfig)
- Lớp cấu hình CwmConfig: CwmModel (mô hình CwmConfig)
- Lớp cấu hình DFineConfig: DFineModel (mô hình DFineConfig)
- Lớp cấu hình DINOv3ConvNextConfig: DINOv3ConvNextModel (mô hình DINOv3ConvNextConfig)
- Lớp cấu hình DINOv3ViTConfig: DINOv3ViTModel (mô hình DINOv3ViTConfig)
- Lớp cấu hình DPRConfig: DPRQuestionEncoder (mô hình DPRConfig)
- DPTConfig lớp cấu hình: DPTModel (mô hình DPTConfig)
- Lớp cấu hình DabDetrConfig: DabDetrModel (mô hình DabDetrConfig)
- Lớp cấu hình DacConfig: DacModel (mô hình DacConfig)
- Lớp cấu hình Data2VecAudioConfig: Data2VecAudioModel (mô hình Data2VecAudioConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextModel (mô hình Data2VecTextConfig)
- Lớp cấu hình Data2VecVisionConfig: Data2VecVisionModel (mô hình Data2VecVisionConfig)
- Lớp cấu hình DbrxConfig: DbrxModel (mô hình DbrxConfig)
- Lớp cấu hình DebertaConfig: DebertaModel (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2Model (mô hình DebertaV2Config)
- lớp cấu hình DecisionTransformerConfig: DecisionTransformerModel (mô hình DecisionTransformerConfig)
- Lớp cấu hình DeepseekOcr2Config: DeepseekOcr2Model (mô hình DeepseekOcr2Config)
- Lớp cấu hình DeepseekV2Config: DeepseekV2Model (mô hình DeepseekV2Config)
- Lớp cấu hình DeepseekV32Config: DeepseekV32Model (mô hình DeepseekV32Config)
- Lớp cấu hình DeepseekV3Config: DeepseekV3Model (mô hình DeepseekV3Config)
- Lớp cấu hình DeepseekV4Config: DeepseekV4Model (mô hình DeepseekV4Config)
- Lớp cấu hình DeepseekVLConfig: DeepseekVLModel (mô hình DeepseekVLConfig)
- Lớp cấu hình DeepseekVLHybridConfig: DeepseekVLHybridModel (mô hình DeepseekVLHybridConfig)
- Lớp cấu hình DeformableDetrConfig: DeformableDetrModel (mô hình DeformableDetrConfig)
- Lớp cấu hình DeiTConfig: DeiTModel (mô hình DeiTConfig)
- Lớp cấu hình Deimv2Config: Deimv2Model (mô hình Deimv2Config)
- Lớp cấu hình DepthProConfig: DepthProModel (mô hình DepthProConfig)
- Lớp cấu hình DetrConfig: DetrModel (mô hình DetrConfig)
- Lớp cấu hình DiaConfig: DiaModel (mô hình DiaConfig)
- Lớp cấu hình DiffLlamaConfig: DiffLlamaModel (mô hình DiffLlamaConfig)
- Lớp cấu hình DiffusionGemmaConfig: DiffusionGemmaModel (mô hình DiffusionGemmaConfig)
- Lớp cấu hình DinatConfig: DinatModel (mô hình DinatConfig)
- Lớp cấu hình Dinov2Config: Dinov2Model (mô hình Dinov2Config)
- Lớp cấu hình Dinov2WithRegistersConfig: Dinov2WithRegistersModel (mô hình Dinov2WithRegistersConfig)
- Lớp cấu hình DistilBertConfig: DistilBertModel (mô hình DistilBertConfig)
- Lớp cấu hình DogeConfig: DogeModel (mô hình DogeConfig)
- Lớp cấu hình DonutSwinConfig: DonutSwinModel (mô hình DonutSwinConfig)
- Lớp cấu hình Dots1Config: Dots1Model (mô hình Dots1Config)
- Lớp cấu hình Dots3NoteConfig: Dots3NoteModel (mô hình Dots3NoteConfig)
- Lớp cấu hình Dots3NoteTextConfig: Dots3NoteTextModel (mô hình Dots3NoteTextConfig)
- Lớp cấu hình EdgeTamConfig: EdgeTamModel (mô hình EdgeTamConfig)
- Lớp cấu hình EdgeTamVideoConfig: EdgeTamVideoModel (mô hình EdgeTamVideoConfig)
- Lớp cấu hình EdgeTamVisionConfig: EdgeTamVisionModel (mô hình EdgeTamVisionConfig)
- Lớp cấu hình EfficientLoFTRConfig: EfficientLoFTRModel (mô hình EfficientLoFTRConfig)
- Lớp cấu hình EfficientNetConfig: EfficientNetModel (mô hình EfficientNetConfig)
- Lớp cấu hình ElectraConfig: ElectraModel (mô hình ElectraConfig)
- Lớp cấu hình EmbeddingGemma2Config: EmbeddingGemma2Model (mô hình EmbeddingGemma2Config)
- Lớp cấu hình EmbeddingGemma2TextConfig: EmbeddingGemma2TextModel (mô hình EmbeddingGemma2TextConfig)
- Lớp cấu hình Emu3Config: Emu3Model (mô hình Emu3Config)
- Lớp cấu hình EncodecConfig: EncodecModel (mô hình EncodecConfig)
- Lớp cấu hình Ernie4_5Config: Ernie4_5Model (mô hình Ernie4_5Config)
- Lớp cấu hình Ernie4_5_MoeConfig: Ernie4_5_MoeModel (mô hình Ernie4_5_MoeConfig)
- Lớp cấu hình Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeModel (mô hình Ernie4_5_VLMoeConfig)
- Lớp cấu hình ErnieConfig: ErnieModel (mô hình ErnieConfig)
- Lớp cấu hình EsmConfig: EsmModel (mô hình EsmConfig)
- Lớp cấu hình EsmcConfig: EsmcModel (mô hình EsmcConfig)
- Lớp cấu hình EuroBertConfig: EuroBertModel (mô hình EuroBertConfig)
- Lớp cấu hình EvollaConfig: EvollaModel (mô hình EvollaConfig)
- Lớp cấu hình Exaone4Config: Exaone4Model (mô hình Exaone4Config)
- Lớp cấu hình Exaone4_5_Config: Exaone4_5_Model (mô hình Exaone4_5_Config)
- Lớp cấu hình Exaone4_5_VisionConfig: Exaone4_5_VisionModel (mô hình Exaone4_5_VisionConfig)
- Lớp cấu hình ExaoneMoeConfig: ExaoneMoeModel (mô hình ExaoneMoeConfig)
- Lớp cấu hình FNetConfig: FNetModel (mô hình FNetConfig)
- lớp cấu hình FSMTConfig: FSMTModel (mô hình FSMTConfig)
- Lớp cấu hình FalconConfig: FalconModel (mô hình FalconConfig)
- Lớp cấu hình FalconH1Config: FalconH1Model (mô hình FalconH1Config)
- Lớp cấu hình FalconMambaConfig: FalconMambaModel (mô hình FalconMambaConfig)
- Lớp cấu hình FastSpeech2ConformerConfig: FastSpeech2ConformerModel (mô hình FastSpeech2ConformerConfig)
- Lớp cấu hình FastSpeech2ConformerWithHifiGanConfig: FastSpeech2ConformerWithHifiGan (mô hình FastSpeech2ConformerWithHifiGanConfig)
- Lớp cấu hình FastVlmConfig: FastVlmModel (mô hình FastVlmConfig)
- Lớp cấu hình FlaubertConfig: FlaubertModel (mô hình FlaubertConfig)
- Lớp cấu hình FlavaConfig: FlavaModel (mô hình FlavaConfig)
- Lớp cấu hình FlexOlmoConfig: FlexOlmoModel (mô hình FlexOlmoConfig)
- Lớp cấu hình FlintConfig: FlintModel (mô hình FlintConfig)
- Lớp cấu hình Florence2Config: Florence2Model (mô hình Florence2Config)
- Lớp cấu hình FocalNetConfig: FocalNetModel (mô hình FocalNetConfig)
- Lớp cấu hình FunAsrNanoConfig: FunAsrNanoModel (mô hình FunAsrNanoConfig)
- Lớp cấu hình FunAsrNanoEncoderConfig: FunAsrNanoEncoder (mô hình FunAsrNanoEncoderConfig)
- lớp cấu hình FunnelConfig: FunnelModel hoặc FunnelBaseModel (mô hình FunnelConfig)
- Lớp cấu hình FuyuConfig: FuyuModel (mô hình FuyuConfig)
- Lớp cấu hình GLPNConfig: GLPNModel (mô hình GLPNConfig)
- lớp cấu hình GPT2Config: GPT2Model (mô hình GPT2Config)
- Lớp cấu hình GPTBigCodeConfig: GPTBigCodeModel (mô hình GPTBigCodeConfig)
- lớp cấu hình GPTJConfig: GPTJModel (mô hình GPTJConfig)
- Lớp cấu hình GPTNeoConfig: GPTNeoModel (mô hình GPTNeoConfig)
- Lớp cấu hình GPTNeoXConfig: GPTNeoXModel (mô hình GPTNeoXConfig)
- Lớp cấu hình GPTNeoXJapaneseConfig: GPTNeoXJapaneseModel (mô hình GPTNeoXJapaneseConfig)
- Lớp cấu hình Gemma2Config: Gemma2Model (mô hình Gemma2Config)
- Lớp cấu hình Gemma3Config: Gemma3Model (mô hình Gemma3Config)
- Lớp cấu hình Gemma3TextConfig: Gemma3TextModel (mô hình Gemma3TextConfig)
- Lớp cấu hình Gemma3nAudioConfig:
Gemma3nAudioEncoder(mô hình Gemma3nAudioConfig) - Lớp cấu hình Gemma3nConfig: Gemma3nModel (mô hình Gemma3nConfig)
- Lớp cấu hình Gemma3nTextConfig: Gemma3nTextModel (mô hình Gemma3nTextConfig)
- Lớp cấu hình Gemma3nVisionConfig: TimmWrapperModel (mô hình Gemma3nVisionConfig)
- Lớp cấu hình Gemma4AudioConfig: Gemma4AudioModel (mô hình Gemma4AudioConfig)
- Lớp cấu hình Gemma4Config: Gemma4Model (mô hình Gemma4Config)
- Lớp cấu hình Gemma4TextConfig: Gemma4TextModel (mô hình Gemma4TextConfig)
- Lớp cấu hình Gemma4UnifiedConfig: Gemma4UnifiedModel (mô hình Gemma4UnifiedConfig)
- Lớp cấu hình Gemma4UnifiedTextConfig: Gemma4UnifiedTextModel (mô hình Gemma4UnifiedTextConfig)
- Lớp cấu hình Gemma4VisionConfig: Gemma4VisionModel (mô hình Gemma4VisionConfig)
- Lớp cấu hình GemmaConfig: GemmaModel (mô hình GemmaConfig)
- Lớp cấu hình GitConfig: GitModel (mô hình GitConfig)
- Lớp cấu hình Glm46VConfig: Glm46VModel (mô hình Glm46VConfig)
- Lớp cấu hình Glm4Config: Glm4Model (mô hình Glm4Config)
- Lớp cấu hình Glm4MoeConfig: Glm4MoeModel (mô hình Glm4MoeConfig)
- Lớp cấu hình Glm4MoeLiteConfig: Glm4MoeLiteModel (mô hình Glm4MoeLiteConfig)
- Lớp cấu hình Glm4vConfig: Glm4vModel (mô hình Glm4vConfig)
- Lớp cấu hình Glm4vMoeConfig: Glm4vMoeModel (mô hình Glm4vMoeConfig)
- Lớp cấu hình Glm4vMoeTextConfig: Glm4vMoeTextModel (mô hình Glm4vMoeTextConfig)
- Lớp cấu hình Glm4vMoeVisionConfig: Glm4vMoeVisionModel (mô hình Glm4vMoeVisionConfig)
- Lớp cấu hình Glm4vTextConfig: Glm4vTextModel (mô hình Glm4vTextConfig)
- Lớp cấu hình Glm4vVisionConfig: Glm4vVisionModel (mô hình Glm4vVisionConfig)
- Lớp cấu hình Glm5NextConfig: Glm5NextModel (mô hình Glm5NextConfig)
- Lớp cấu hình Glm5NextTextConfig: Glm5NextTextModel (mô hình Glm5NextTextConfig)
- Lớp cấu hình Glm5NextVisionConfig: Glm5NextVisionModel (mô hình Glm5NextVisionConfig)
- Lớp cấu hình GlmAsrConfig: GlmAsrModel (mô hình GlmAsrConfig)
- Lớp cấu hình GlmAsrEncoderConfig: GlmAsrEncoder (mô hình GlmAsrEncoderConfig)
- Lớp cấu hình GlmConfig: GlmModel (mô hình GlmConfig)
- Lớp cấu hình GlmImageConfig: GlmImageModel (mô hình GlmImageConfig)
- Lớp cấu hình GlmImageTextConfig: GlmImageTextModel (mô hình GlmImageTextConfig)
- Lớp cấu hình GlmImageVQVAEConfig: GlmImageVQVAE (mô hình GlmImageVQVAEConfig)
- Lớp cấu hình GlmImageVisionConfig: GlmImageVisionModel (mô hình GlmImageVisionConfig)
- Lớp cấu hình GlmMoeDsaConfig: GlmMoeDsaModel (mô hình GlmMoeDsaConfig)
- Lớp cấu hình GlmOcrConfig: GlmOcrModel (mô hình GlmOcrConfig)
- Lớp cấu hình GlmOcrTextConfig: GlmOcrTextModel (mô hình GlmOcrTextConfig)
- Lớp cấu hình GlmOcrVisionConfig: GlmOcrVisionModel (mô hình GlmOcrVisionConfig)
- Lớp cấu hình GlmgaConfig: Glm46VModel (mô hình GlmgaConfig)
- GotOcr2Config lớp cấu hình: GotOcr2Model (mô hình GotOcr2Config)
- Lớp cấu hình GptOssConfig: GptOssModel (mô hình GptOssConfig)
- Lớp cấu hình GradiumPhononTTSConfig: GradiumPhononTTSModel (mô hình GradiumPhononTTSConfig)
- Lớp cấu hình Granite4VisionConfig: Granite4VisionModel (mô hình Granite4VisionConfig)
- Lớp cấu hình GraniteConfig: GraniteModel (mô hình GraniteConfig)
- Lớp cấu hình GraniteDoclingConfig: GraniteDoclingModel (mô hình GraniteDoclingConfig)
- Lớp cấu hình GraniteDoclingTextConfig: GraniteDoclingTextModel (mô hình GraniteDoclingTextConfig)
- Lớp cấu hình GraniteDoclingVisionConfig: GraniteDoclingVisionModel (mô hình GraniteDoclingVisionConfig)
- Lớp cấu hình GraniteMoeConfig: GraniteMoeModel (mô hình GraniteMoeConfig)
- Lớp cấu hình GraniteMoeHybridConfig: GraniteMoeHybridModel (mô hình GraniteMoeHybridConfig)
- Lớp cấu hình GraniteMoeSWAConfig: GraniteMoeSWAModel (mô hình GraniteMoeSWAConfig)
- Lớp cấu hình GraniteMoeSharedConfig: GraniteMoeSharedModel (mô hình GraniteMoeSharedConfig)
- Lớp cấu hình GraniteSWAConfig: GraniteSWAModel (mô hình GraniteSWAConfig)
- Lớp cấu hình GraniteSpeech5CTCConfig: GraniteSpeech5ForCTC (mô hình GraniteSpeech5CTCConfig)
- Lớp cấu hình GraniteSpeech5EncoderConfig: GraniteSpeech5Encoder (mô hình GraniteSpeech5EncoderConfig)
- Lớp cấu hình GraniteSpeechConfig: GraniteSpeechModel (mô hình GraniteSpeechConfig)
- Lớp cấu hình GraniteSpeechPlusConfig: GraniteSpeechPlusModel (mô hình GraniteSpeechPlusConfig)
- Lớp cấu hình GroundingDinoConfig: GroundingDinoModel (mô hình GroundingDinoConfig)
- Lớp cấu hình GroupViTConfig: GroupViTModel (mô hình GroupViTConfig)
- Lớp cấu hình GteConfig: GteModel (mô hình GteConfig)
- Lớp cấu hình HGNetV2Config: HGNetV2Backbone (mô hình HGNetV2Config)
- Lớp cấu hình HYV3Config: HYV3Model (mô hình HYV3Config)
- Lớp cấu hình HYV4Config: HYV4Model (mô hình HYV4Config)
- Lớp cấu hình HeliumConfig: HeliumModel (mô hình HeliumConfig)
- Lớp cấu hình HieraConfig: HieraModel (mô hình HieraConfig)
- Lớp cấu hình HiggsAudioV2Config: HiggsAudioV2ForConditionalGeneration (mô hình HiggsAudioV2Config)
- Lớp cấu hình HiggsAudioV2TokenizerConfig: HiggsAudioV2TokenizerModel (mô hình HiggsAudioV2TokenizerConfig)
- Lớp cấu hình HrmTextConfig: HrmTextModel (mô hình HrmTextConfig)
- Lớp cấu hình HubertConfig: HubertModel (mô hình HubertConfig)
- Lớp cấu hình HunYuanDenseV1Config: HunYuanDenseV1Model (mô hình HunYuanDenseV1Config)
- Lớp cấu hình HunYuanMoEV1Config: HunYuanMoEV1Model (mô hình HunYuanMoEV1Config)
- Lớp cấu hình HunYuanVLConfig: HunYuanVLModel (mô hình HunYuanVLConfig)
- Lớp cấu hình HunYuanVLTextConfig: HunYuanVLTextModel (mô hình HunYuanVLTextConfig)
- Lớp cấu hình HunYuanVLVisionConfig: HunYuanVLVisionTransformer (mô hình HunYuanVLVisionConfig)
- Lớp cấu hình HyperCLOVAXConfig: HyperCLOVAXModel (mô hình HyperCLOVAXConfig)
- Lớp cấu hình HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2Model (mô hình HyperCLOVAXVisionV2Config)
- lớp cấu hình IBertConfig: IBertModel (mô hình IBertConfig)
- lớp cấu hình IJepaConfig: IJepaModel (mô hình IJepaConfig)
- Lớp cấu hình IQuestCoderConfig: LlamaModel (mô hình IQuestCoderConfig)
- Lớp cấu hình Idefics2Config: Idefics2Model (mô hình Idefics2Config)
- Lớp cấu hình Idefics3Config: Idefics3Model (mô hình Idefics3Config)
- Lớp cấu hình Idefics3VisionConfig: Idefics3VisionTransformer (mô hình Idefics3VisionConfig)
- Lớp cấu hình IdeficsConfig: IdeficsModel (mô hình IdeficsConfig)
- Lớp cấu hình ImageGPTConfig: ImageGPTModel (mô hình ImageGPTConfig)
- Lớp cấu hình InformerConfig: InformerModel (mô hình InformerConfig)
- Lớp cấu hình Inkling2Config: Inkling2Model (mô hình Inkling2Config)
- Lớp cấu hình Inkling2TextConfig: Inkling2TextModel (mô hình Inkling2TextConfig)
- Lớp cấu hình Inkling2VisionConfig: Inkling2VisionModel (mô hình Inkling2VisionConfig)
- Lớp cấu hình InklingConfig: InklingModel (mô hình InklingConfig)
- Lớp cấu hình InklingTextConfig: InklingTextModel (mô hình InklingTextConfig)
- Lớp cấu hình InstructBlipConfig: InstructBlipModel (mô hình InstructBlipConfig)
- Lớp cấu hình InstructBlipVideoConfig: InstructBlipVideoModel (mô hình InstructBlipVideoConfig)
- Lớp cấu hình InternLM3Config: LlamaModel (mô hình InternLM3Config)
- Lớp cấu hình InternVLConfig: InternVLModel (mô hình InternVLConfig)
- Lớp cấu hình InternVLVisionConfig: InternVLVisionModel (mô hình InternVLVisionConfig)
- Lớp cấu hình Jais2Config: Jais2Model (mô hình Jais2Config)
- Lớp cấu hình JambaConfig: JambaModel (mô hình JambaConfig)
- Lớp cấu hình JanusConfig: JanusModel (mô hình JanusConfig)
- Lớp cấu hình JetMoeConfig: JetMoeModel (mô hình JetMoeConfig)
- Lớp cấu hình JinaEmbeddingsV3Config: JinaEmbeddingsV3Model (mô hình JinaEmbeddingsV3Config)
- Lớp cấu hình KimiLinearConfig: KimiLinearModel (mô hình KimiLinearConfig)
- Lớp cấu hình Kimi_K25Config: Kimi_K25Model (mô hình Kimi_K25Config)
- Lớp cấu hình Kimi_K25VisionConfig: Kimi_K25VisionModel (mô hình Kimi_K25VisionConfig)
- Lớp cấu hình Kolibri1Config: Kolibri1Model (mô hình Kolibri1Config)
- Lớp cấu hình Kosmos2Config: Kosmos2Model (mô hình Kosmos2Config)
- Lớp cấu hình Kosmos2_5Config: Kosmos2_5Model (mô hình Kosmos2_5Config)
- Lớp cấu hình KyutaiSpeechToTextConfig: KyutaiSpeechToTextModel (mô hình KyutaiSpeechToTextConfig)
- Lớp cấu hình LEDConfig: LEDModel (mô hình LEDConfig)
- Lớp cấu hình LagunaConfig: LagunaModel (mô hình LagunaConfig)
- Lớp cấu hình LasrCTCConfig: LasrForCTC (mô hình LasrCTCConfig)
- Lớp cấu hình LasrEncoderConfig: LasrEncoder (mô hình LasrEncoderConfig)
- Lớp cấu hình LayoutLMConfig: LayoutLMModel (mô hình LayoutLMConfig)
- Lớp cấu hình LayoutLMv2Config: LayoutLMv2Model (mô hình LayoutLMv2Config)
- Lớp cấu hình LayoutLMv3Config: LayoutLMv3Model (mô hình LayoutLMv3Config)
- Lớp cấu hình LevitConfig: LevitModel (mô hình LevitConfig)
- Lớp cấu hình Lfm2Config: Lfm2Model (mô hình Lfm2Config)
- Lớp cấu hình Lfm2MoeConfig: Lfm2MoeModel (mô hình Lfm2MoeConfig)
- Lớp cấu hình Lfm2VlConfig: Lfm2VlModel (mô hình Lfm2VlConfig)
- Lớp cấu hình Lfm3Config: Lfm3Model (mô hình Lfm3Config)
- Lớp cấu hình Lfm3VlConfig: Lfm3VlModel (mô hình Lfm3VlConfig)
- Lớp cấu hình Lfm3VlVisionConfig: Lfm3VlVisionModel (mô hình Lfm3VlVisionConfig)
- Lớp cấu hình LightGlueConfig: LightGlueForKeypointMatching (mô hình LightGlueConfig)
- Lớp cấu hình LightOnOcrConfig: LightOnOcrModel (mô hình LightOnOcrConfig)
- Lớp cấu hình LiltConfig: LiltModel (mô hình LiltConfig)
- Lớp cấu hình Llama4Config: Llama4ForConditionalGeneration (mô hình Llama4Config)
- Lớp cấu hình Llama4TextConfig: Llama4TextModel (mô hình Llama4TextConfig)
- Lớp cấu hình LlamaConfig: LlamaModel (mô hình LlamaConfig)
- Lớp cấu hình LlavaConfig: LlavaModel (mô hình LlavaConfig)
- Lớp cấu hình LlavaNextConfig: LlavaNextModel (mô hình LlavaNextConfig)
- Lớp cấu hình LlavaNextVideoConfig: LlavaNextVideoModel (mô hình LlavaNextVideoConfig)
- Lớp cấu hình LlavaOnevisionConfig: LlavaOnevisionModel (mô hình LlavaOnevisionConfig)
- Lớp cấu hình LongT5Config: LongT5Model (mô hình LongT5Config)
- Lớp cấu hình LongcatFlashConfig: LongcatFlashModel (mô hình LongcatFlashConfig)
- Lớp cấu hình LongformerConfig: LongformerModel (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeModel (mô hình LukeConfig)
- Lớp cấu hình LwDetrConfig: LwDetrModel (mô hình LwDetrConfig)
- Lớp cấu hình LxmertConfig: LxmertModel (mô hình LxmertConfig)
- Lớp cấu hình M2M100Config: M2M100Model (mô hình M2M100Config)
- Lớp cấu hình MBartConfig: MBartModel (mô hình MBartConfig)
- Lớp cấu hình MLCDVisionConfig: MLCDVisionModel (mô hình MLCDVisionConfig)
- Lớp cấu hình MMGroundingDinoConfig: MMGroundingDinoModel (mô hình MMGroundingDinoConfig)
- Lớp cấu hình MPNetConfig: MPNetModel (mô hình MPNetConfig)
- lớp cấu hình MT5Config: MT5Model (mô hình MT5Config)
- Lớp cấu hình Mamba2Config: Mamba2Model (mô hình Mamba2Config)
- Lớp cấu hình MambaConfig: MambaModel (mô hình MambaConfig)
- Lớp cấu hình MarianConfig: MarianModel (mô hình MarianConfig)
- Lớp cấu hình MarkupLMConfig: MarkupLMModel (mô hình MarkupLMConfig)
- Lớp cấu hình Mask2FormerConfig: Mask2FormerModel (mô hình Mask2FormerConfig)
- Lớp cấu hình MaskFormerConfig: MaskFormerModel (mô hình MaskFormerConfig)
- Lớp cấu hình
MaskFormerSwinConfig:MaskFormerSwinModel(mô hình MaskFormerSwinConfig) - Lớp cấu hình MegatronBertConfig: MegatronBertModel (mô hình MegatronBertConfig)
- Lớp cấu hình MellumConfig: MellumModel (mô hình MellumConfig)
- MetaClip2Config lớp cấu hình: MetaClip2Model (mô hình MetaClip2Config)
- Lớp cấu hình MgpstrConfig: MgpstrForSceneTextRecognition (mô hình MgpstrConfig)
- Lớp cấu hình MiMoV2FlashConfig: MiMoV2FlashModel (mô hình MiMoV2FlashConfig)
- Lớp cấu hình MimiConfig: MimiModel (mô hình MimiConfig)
- Lớp cấu hình MimiDecoderConfig: MimiDecoderModel (mô hình MimiDecoderConfig)
- Lớp cấu hình MimiEncoderConfig: MimiEncoderModel (mô hình MimiEncoderConfig)
- Lớp cấu hình MiniCPM3Config: MiniCPM3Model (mô hình MiniCPM3Config)
- Lớp cấu hình MiniCPMOcrConfig: MiniCPMOcrModel (mô hình MiniCPMOcrConfig)
- Lớp cấu hình MiniCPMOcrVisionConfig: MiniCPMOcrVisionModel (mô hình MiniCPMOcrVisionConfig)
- Lớp cấu hình MiniCPMV4_6Config: MiniCPMV4_6Model (mô hình MiniCPMV4_6Config)
- Lớp cấu hình MiniCPMV4_7Config: MiniCPMV4_7Model (mô hình MiniCPMV4_7Config)
- Lớp cấu hình MiniCPMV4_7VisionConfig: MiniCPMV4_7VisionModel (mô hình MiniCPMV4_7VisionConfig)
- Lớp cấu hình MiniMaxConfig: MiniMaxModel (mô hình MiniMaxConfig)
- Lớp cấu hình MiniMaxM2Config: MiniMaxM2Model (mô hình MiniMaxM2Config)
- Lớp cấu hình MiniMaxM3VLConfig: MiniMaxM3VLModel (mô hình MiniMaxM3VLConfig)
- Lớp cấu hình MiniMaxM3VLTextConfig: MiniMaxM3VLTextModel (mô hình MiniMaxM3VLTextConfig)
- Lớp cấu hình Ministral3Config: Ministral3Model (mô hình Ministral3Config)
- Lớp cấu hình MinistralConfig: MinistralModel (mô hình MinistralConfig)
- Lớp cấu hình Mistral3Config: Mistral3Model (mô hình Mistral3Config)
- Lớp cấu hình Mistral4Config: Mistral4Model (mô hình Mistral4Config)
- Lớp cấu hình MistralConfig: MistralModel (mô hình MistralConfig)
- Lớp cấu hình MistralLarge4Config: MistralLarge4Model (mô hình MistralLarge4Config)
- Lớp cấu hình MistralLarge4TextConfig: MistralLarge4TextModel (mô hình MistralLarge4TextConfig)
- Lớp cấu hình MixtralConfig: MixtralModel (mô hình MixtralConfig)
- Lớp cấu hình MllamaConfig: MllamaModel (mô hình MllamaConfig)
- Lớp cấu hình MobileBertConfig: MobileBertModel (mô hình MobileBertConfig)
- Lớp cấu hình MobileNetV1Config: MobileNetV1Model (mô hình MobileNetV1Config)
- Lớp cấu hình MobileNetV2Config: MobileNetV2Model (mô hình MobileNetV2Config)
- Lớp cấu hình MobileViTConfig: MobileViTModel (mô hình MobileViTConfig)
- Lớp cấu hình MobileViTV2Config: MobileViTV2Model (mô hình MobileViTV2Config)
- Lớp cấu hình ModernBertConfig: ModernBertModel (mô hình ModernBertConfig)
- Lớp cấu hình ModernBertDecoderConfig: ModernBertDecoderModel (mô hình ModernBertDecoderConfig)
- Lớp cấu hình ModernVBertConfig: ModernVBertModel (mô hình ModernVBertConfig)
- Lớp cấu hình Molmo2Config: Molmo2Model (mô hình Molmo2Config)
- Lớp cấu hình Molmo2TextConfig: Molmo2TextModel (mô hình Molmo2TextConfig)
- Lớp cấu hình MoonshineConfig: MoonshineModel (mô hình MoonshineConfig)
- Lớp cấu hình MoonshineStreamingConfig: MoonshineStreamingModel (mô hình MoonshineStreamingConfig)
- Lớp cấu hình MoshiConfig: MoshiModel (mô hình MoshiConfig)
- Lớp cấu hình MossTranscribeDiarizeAudioConfig: MossTranscribeDiarizeAudioModel (mô hình MossTranscribeDiarizeAudioConfig)
- Lớp cấu hình MossTranscribeDiarizeConfig: MossTranscribeDiarizeModel (mô hình MossTranscribeDiarizeConfig)
- Lớp cấu hình MptConfig: MptModel (mô hình MptConfig)
- Lớp cấu hình MraConfig: MraModel (mô hình MraConfig)
- MuseGlimmerAssistantConfig lớp cấu hình: MuseGlimmerAssistantModel (mô hình MuseGlimmerAssistantConfig)
- Lớp cấu hình MuseGlimmerConfig: MuseGlimmerModel (mô hình MuseGlimmerConfig)
- Lớp cấu hình MuseGlimmerTextConfig: MuseGlimmerTextModel (mô hình MuseGlimmerTextConfig)
- Lớp cấu hình MuseGlimmerVisionConfig: MuseGlimmerVisionModel (mô hình MuseGlimmerVisionConfig)
- Lớp cấu hình MuseSparkAudioConfig: MuseSparkAudioModel (mô hình MuseSparkAudioConfig)
- Lớp cấu hình MuseSparkConfig: MuseSparkModel (mô hình MuseSparkConfig)
- Lớp cấu hình MuseSparkTextConfig: MuseSparkTextModel (mô hình MuseSparkTextConfig)
- Lớp cấu hình MuseSparkVisionConfig: MuseSparkVisionModel (mô hình MuseSparkVisionConfig)
- Lớp cấu hình MusicFlamingoConfig: MusicFlamingoModel (mô hình MusicFlamingoConfig)
- Lớp cấu hình MusicgenConfig: MusicgenModel (mô hình MusicgenConfig)
- Lớp cấu hình MusicgenMelodyConfig: MusicgenMelodyModel (mô hình MusicgenMelodyConfig)
- Lớp cấu hình MvpConfig: MvpModel (mô hình MvpConfig)
- Lớp cấu hình NanoChatConfig: NanoChatModel (mô hình NanoChatConfig)
- Lớp cấu hình Nemotron3DiarizationAudioConfig: Nemotron3DiarizationAudioModel (mô hình Nemotron3DiarizationAudioConfig)
- Lớp cấu hình Nemotron3DiarizationConfig: Nemotron3DiarizationModel (mô hình Nemotron3DiarizationConfig)
- Lớp cấu hình Nemotron3_5AsrConfig: Nemotron3_5AsrForRNNT (mô hình Nemotron3_5AsrConfig)
- Lớp cấu hình Nemotron3_5TranscribeAsrAudioConfig: Nemotron3_5TranscribeAsrAudioModel (mô hình Nemotron3_5TranscribeAsrAudioConfig)
- Lớp cấu hình Nemotron3_5TranscribeAudioConfig: Nemotron3_5TranscribeAudioModel (mô hình Nemotron3_5TranscribeAudioConfig)
- Lớp cấu hình Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeModel (mô hình Nemotron3_5TranscribeConfig)
- Lớp cấu hình Nemotron3_5TranscribeWordTimestampConfig: Nemotron3_5TranscribeWordTimestampModel (mô hình Nemotron3_5TranscribeWordTimestampConfig)
- Lớp cấu hình NemotronAsrStreamingConfig: NemotronAsrStreamingForRNNT (mô hình NemotronAsrStreamingConfig)
- Lớp cấu hình NemotronAsrStreamingEncoderConfig: NemotronAsrStreamingEncoder (mô hình NemotronAsrStreamingEncoderConfig)
- Lớp cấu hình NemotronConfig: NemotronModel (mô hình NemotronConfig)
- Lớp cấu hình NemotronHConfig: NemotronHModel (mô hình NemotronHConfig)
- Lớp cấu hình NeoMMEConfig: NeoMMEModel (mô hình NeoMMEConfig)
- Lớp cấu hình NeuCodecConfig: NeuCodecModel (mô hình NeuCodecConfig)
- Lớp cấu hình NllbMoeConfig: NllbMoeModel (mô hình NllbMoeConfig)
- Lớp cấu hình NomicBertConfig: NomicBertModel (mô hình NomicBertConfig)
- Lớp cấu hình NystromformerConfig: NystromformerModel (mô hình NystromformerConfig)
- lớp cấu hình OPTConfig: OPTModel (mô hình OPTConfig)
- Lớp cấu hình Olmo2Config: Olmo2Model (mô hình Olmo2Config)
- Lớp cấu hình Olmo3Config: Olmo3Model (mô hình Olmo3Config)
- Lớp cấu hình OlmoConfig: OlmoModel (mô hình OlmoConfig)
- Lớp cấu hình OlmoHybridConfig: OlmoHybridModel (mô hình OlmoHybridConfig)
- Lớp cấu hình OlmoeConfig: OlmoeModel (mô hình OlmoeConfig)
- Lớp cấu hình OmDetTurboConfig: OmDetTurboForObjectDetection (mô hình OmDetTurboConfig)
- Lớp cấu hình OneFormerConfig: OneFormerModel (mô hình OneFormerConfig)
- Lớp cấu hình OpenAIGPTConfig: OpenAIGPTModel (mô hình OpenAIGPTConfig)
- Lớp cấu hình OpenAIPrivacyFilterConfig: OpenAIPrivacyFilterModel (mô hình OpenAIPrivacyFilterConfig)
- Lớp cấu hình Ovis2Config: Ovis2Model (mô hình Ovis2Config)
- Lớp cấu hình OwlViTConfig: OwlViTModel (mô hình OwlViTConfig)
- Lớp cấu hình Owlv2Config: Owlv2Model (mô hình Owlv2Config)
- Lớp cấu hình PI0Config: PI0Model (mô hình PI0Config)
- Lớp cấu hình PLBartConfig: PLBartModel (mô hình PLBartConfig)
- lớp cấu hình PPDocLayoutV3Config: PPDocLayoutV3Model (mô hình PPDocLayoutV3Config)
- PPDocLayoutV4Config lớp cấu hình: PPDocLayoutV4Model (mô hình PPDocLayoutV4Config)
- lớp cấu hình PPOCRV5MobileRecConfig: PPOCRV5MobileRecModel (mô hình PPOCRV5MobileRecConfig)
- Lớp cấu hình PPOCRV5ServerRecConfig: PPOCRV5ServerRecModel (mô hình PPOCRV5ServerRecConfig)
- Lớp cấu hình PPOCRV6MediumDetConfig: PPOCRV6MediumDetModel (mô hình PPOCRV6MediumDetConfig)
- lớp cấu hình PPOCRV6SmallDetConfig: PPOCRV6SmallDetModel (mô hình PPOCRV6SmallDetConfig)
- Lớp cấu hình PPOCRV6SmallRecConfig: PPOCRV6SmallRecModel (mô hình PPOCRV6SmallRecConfig)
- Lớp cấu hình PPOCRV6TinyRecConfig: PPOCRV6TinyRecModel (mô hình PPOCRV6TinyRecConfig)
- Lớp cấu hình PaddleOCRVLConfig: PaddleOCRVLModel (mô hình PaddleOCRVLConfig)
- Lớp cấu hình PaliGemmaConfig: PaliGemmaModel (mô hình PaliGemmaConfig)
- Lớp cấu hình ParakeetCTCConfig: ParakeetForCTC (mô hình ParakeetCTCConfig)
- Lớp cấu hình ParakeetEncoderConfig: ParakeetEncoder (mô hình ParakeetEncoderConfig)
- Lớp cấu hình ParakeetRNNTConfig: ParakeetForRNNT (mô hình ParakeetRNNTConfig)
- Lớp cấu hình ParakeetTDTConfig: ParakeetForTDT (mô hình ParakeetTDTConfig)
- Lớp cấu hình PatchTSMixerConfig: PatchTSMixerModel (mô hình PatchTSMixerConfig)
- Lớp cấu hình PatchTSTConfig: PatchTSTModel (mô hình PatchTSTConfig)
- Lớp cấu hình PeAudioConfig: PeAudioModel (mô hình PeAudioConfig)
- Lớp cấu hình PeAudioEncoderConfig: PeAudioEncoder (mô hình PeAudioEncoderConfig)
- Lớp cấu hình PeAudioVideoConfig: PeAudioVideoModel (mô hình PeAudioVideoConfig)
- Lớp cấu hình PeAudioVideoEncoderConfig: PeAudioVideoEncoder (mô hình PeAudioVideoEncoderConfig)
- Lớp cấu hình PeVideoConfig: PeVideoModel (mô hình PeVideoConfig)
- Lớp cấu hình PeVideoEncoderConfig: PeVideoEncoder (mô hình PeVideoEncoderConfig)
- Lớp cấu hình PegasusConfig: PegasusModel (mô hình PegasusConfig)
- Lớp cấu hình PegasusXConfig: PegasusXModel (mô hình PegasusXConfig)
- Lớp cấu hình PerceiverConfig: PerceiverModel (mô hình PerceiverConfig)
- Lớp cấu hình PerceptionLMConfig: PerceptionLMModel (mô hình PerceptionLMConfig)
- Lớp cấu hình PersimmonConfig: PersimmonModel (mô hình PersimmonConfig)
- Lớp cấu hình Phi3Config: Phi3Model (mô hình Phi3Config)
- Lớp cấu hình Phi4MultimodalConfig: Phi4MultimodalModel (mô hình Phi4MultimodalConfig)
- Lớp cấu hình PhiConfig: PhiModel (mô hình PhiConfig)
- Lớp cấu hình PhimoeConfig: PhimoeModel (mô hình PhimoeConfig)
- Lớp cấu hình PixioConfig: PixioModel (mô hình PixioConfig)
- Lớp cấu hình PixtralVisionConfig: PixtralVisionModel (mô hình PixtralVisionConfig)
- Lớp cấu hình PocketTTSAudioTokenizerConfig: PocketTTSAudioTokenizerModel (mô hình PocketTTSAudioTokenizerConfig)
- Lớp cấu hình PocketTTSAudioTokenizerDecoderConfig: PocketTTSAudioTokenizerDecoderModel (mô hình PocketTTSAudioTokenizerDecoderConfig)
- Lớp cấu hình PocketTTSAudioTokenizerEncoderConfig: PocketTTSAudioTokenizerEncoderModel (mô hình PocketTTSAudioTokenizerEncoderConfig)
- Lớp cấu hình PocketTTSConfig: PocketTTSModel (mô hình PocketTTSConfig)
- Lớp cấu hình PoolFormerConfig: PoolFormerModel (mô hình PoolFormerConfig)
- Lớp cấu hình ProphetNetConfig: ProphetNetModel (mô hình ProphetNetConfig)
- Lớp cấu hình PvtConfig: PvtModel (mô hình PvtConfig)
- Lớp cấu hình PvtV2Config: PvtV2Model (mô hình PvtV2Config)
- Lớp cấu hình QianfanOCRConfig: QianfanOCRModel (mô hình QianfanOCRConfig)
- Lớp cấu hình QianfanOCRVisionConfig: QianfanOCRVisionModel (mô hình QianfanOCRVisionConfig)
- Lớp cấu hình Qwen2AudioConfig: Qwen2AudioModel (mô hình Qwen2AudioConfig)
- Lớp cấu hình Qwen2AudioEncoderConfig: Qwen2AudioEncoder (mô hình Qwen2AudioEncoderConfig)
- Lớp cấu hình Qwen2Config: Qwen2Model (mô hình Qwen2Config)
- Lớp cấu hình Qwen2MoeConfig: Qwen2MoeModel (mô hình Qwen2MoeConfig)
- Lớp cấu hình Qwen2VLConfig: Qwen2VLModel (mô hình Qwen2VLConfig)
- Lớp cấu hình Qwen2VLTextConfig: Qwen2VLTextModel (mô hình Qwen2VLTextConfig)
- Lớp cấu hình Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerModel (mô hình Qwen2_5OmniThinkerConfig)
- Lớp cấu hình Qwen2_5_VLConfig: Qwen2_5_VLModel (mô hình Qwen2_5_VLConfig)
- Lớp cấu hình Qwen2_5_VLTextConfig: Qwen2_5_VLTextModel (mô hình Qwen2_5_VLTextConfig)
- Lớp cấu hình Qwen2_5_VLVisionConfig: Qwen2_5_VisionTransformerPretrainedModel (mô hình Qwen2_5_VLVisionConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRModel (mô hình Qwen3ASRConfig)
- Lớp cấu hình Qwen3ASREncoderConfig: Qwen3ASREncoder (mô hình Qwen3ASREncoderConfig)
- Lớp cấu hình Qwen3Config: Qwen3Model (mô hình Qwen3Config)
- Lớp cấu hình Qwen3MoeConfig: Qwen3MoeModel (mô hình Qwen3MoeConfig)
- Lớp cấu hình Qwen3NextConfig: Qwen3NextModel (mô hình Qwen3NextConfig)
- Lớp cấu hình Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerModel (mô hình Qwen3OmniMoeThinkerConfig)
- Lớp cấu hình Qwen3VLConfig: Qwen3VLModel (mô hình Qwen3VLConfig)
- Lớp cấu hình Qwen3VLMoeConfig: Qwen3VLMoeModel (mô hình Qwen3VLMoeConfig)
- Lớp cấu hình Qwen3VLMoeTextConfig: Qwen3VLMoeTextModel (mô hình Qwen3VLMoeTextConfig)
- Lớp cấu hình Qwen3VLMoeVisionConfig: Qwen3VLMoeVisionModel (mô hình Qwen3VLMoeVisionConfig)
- Lớp cấu hình Qwen3VLTextConfig: Qwen3VLTextModel (mô hình Qwen3VLTextConfig)
- Lớp cấu hình Qwen3VLVisionConfig: Qwen3VLVisionModel (mô hình Qwen3VLVisionConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5Model (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5MoeConfig: Qwen3_5MoeModel (mô hình Qwen3_5MoeConfig)
- Lớp cấu hình Qwen3_5MoeTextConfig: Qwen3_5MoeTextModel (mô hình Qwen3_5MoeTextConfig)
- Lớp cấu hình Qwen3_5MoeVisionConfig: Qwen3_5MoeVisionModel (mô hình Qwen3_5MoeVisionConfig)
- Lớp cấu hình Qwen3_5TextConfig: Qwen3_5TextModel (mô hình Qwen3_5TextConfig)
- Lớp cấu hình Qwen3_5VisionConfig: Qwen3_5VisionModel (mô hình Qwen3_5VisionConfig)
- Lớp cấu hình Qwen4ExpConfig: Qwen4ExpModel (mô hình Qwen4ExpConfig)
- Lớp cấu hình Qwen4ExpTextConfig: Qwen4ExpTextModel (mô hình Qwen4ExpTextConfig)
- Lớp cấu hình Qwen4ExpVisionConfig: Qwen4ExpVisionModel (mô hình Qwen4ExpVisionConfig)
- lớp cấu hình RTDetrConfig: RTDetrModel (mô hình RTDetrConfig)
- lớp cấu hình RTDetrV2Config: RTDetrV2Model (mô hình RTDetrV2Config)
- Lớp cấu hình RadioConfig: RadioModel (mô hình RadioConfig)
- Lớp cấu hình RecurrentGemmaConfig: RecurrentGemmaModel (mô hình RecurrentGemmaConfig)
- Lớp cấu hình ReformerConfig: ReformerModel (mô hình ReformerConfig)
- Lớp cấu hình RegNetConfig: RegNetModel (mô hình RegNetConfig)
- RemBertConfig lớp cấu hình: RemBertModel (mô hình RemBertConfig)
- Lớp cấu hình ResNetConfig: ResNetModel (mô hình ResNetConfig)
- Lớp cấu hình RfDetrConfig: RfDetrModel (mô hình RfDetrConfig)
- RoCBertConfig lớp cấu hình: RoCBertModel (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerModel (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaModel (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormModel (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình RwkvConfig: RwkvModel (mô hình RwkvConfig)
- Lớp cấu hình SEWConfig: SEWModel (mô hình SEWConfig)
- Lớp cấu hình SEWDConfig: SEWDModel (mô hình SEWDConfig)
- Lớp cấu hình Sam2Config: Sam2Model (mô hình Sam2Config)
- Lớp cấu hình Sam2HieraDetConfig: Sam2HieraDetModel (mô hình Sam2HieraDetConfig)
- Lớp cấu hình Sam2VideoConfig: Sam2VideoModel (mô hình Sam2VideoConfig)
- Lớp cấu hình Sam2VisionConfig: Sam2VisionModel (mô hình Sam2VisionConfig)
- Lớp cấu hình Sam3Config: Sam3Model (mô hình Sam3Config)
- Lớp cấu hình Sam3LiteTextConfig: Sam3LiteTextModel (mô hình Sam3LiteTextConfig)
- Lớp cấu hình Sam3LiteTextTextConfig: Sam3LiteTextTextModel (mô hình Sam3LiteTextTextConfig)
- Lớp cấu hình Sam3TrackerConfig: Sam3TrackerModel (mô hình Sam3TrackerConfig)
- Lớp cấu hình Sam3TrackerVideoConfig: Sam3TrackerVideoModel (mô hình Sam3TrackerVideoConfig)
- Lớp cấu hình Sam3ViTConfig: Sam3ViTModel (mô hình Sam3ViTConfig)
- Lớp cấu hình Sam3VideoConfig: Sam3VideoModel (mô hình Sam3VideoConfig)
- Lớp cấu hình Sam3VisionConfig: Sam3VisionModel (mô hình Sam3VisionConfig)
- Lớp cấu hình SamConfig: SamModel (mô hình SamConfig)
- Lớp cấu hình SamHQConfig: SamHQModel (mô hình SamHQConfig)
- Lớp cấu hình SamHQVisionConfig: SamHQVisionModel (mô hình SamHQVisionConfig)
- Lớp cấu hình SamVisionConfig: SamVisionModel (mô hình SamVisionConfig)
- Lớp cấu hình Sapiens2Config: Sapiens2Model (mô hình Sapiens2Config)
- Lớp cấu hình SeamlessM4TConfig: SeamlessM4TModel (mô hình SeamlessM4TConfig)
- Lớp cấu hình SeamlessM4Tv2Config: SeamlessM4Tv2Model (mô hình SeamlessM4Tv2Config)
- Lớp cấu hình SeedOssConfig: SeedOssModel (mô hình SeedOssConfig)
- Lớp cấu hình SegGptConfig: SegGptModel (mô hình SegGptConfig)
- Lớp cấu hình SegformerConfig: SegformerModel (mô hình SegformerConfig)
- Lớp cấu hình Siglip2Config: Siglip2Model (mô hình Siglip2Config)
- Lớp cấu hình Siglip2VisionConfig: Siglip2VisionModel (mô hình Siglip2VisionConfig)
- Lớp cấu hình SiglipConfig: SiglipModel (mô hình SiglipConfig)
- Lớp cấu hình SiglipVisionConfig: SiglipVisionModel (mô hình SiglipVisionConfig)
- Lớp cấu hình SmolLM3Config: SmolLM3Model (mô hình SmolLM3Config)
- Lớp cấu hình SmolVLMConfig: SmolVLMModel (mô hình SmolVLMConfig)
- Lớp cấu hình SmolVLMVisionConfig: SmolVLMVisionTransformer (mô hình SmolVLMVisionConfig)
- Lớp cấu hình SolarOpenConfig: SolarOpenModel (mô hình SolarOpenConfig)
- Lớp cấu hình Speech2TextConfig: Speech2TextModel (mô hình Speech2TextConfig)
- Lớp cấu hình SpeechT5Config: SpeechT5Model (mô hình SpeechT5Config)
- Lớp cấu hình SplinterConfig: SplinterModel (mô hình SplinterConfig)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertModel (mô hình SqueezeBertConfig)
- Lớp cấu hình StableLmConfig: StableLmModel (mô hình StableLmConfig)
- Lớp cấu hình Starcoder2Config: Starcoder2Model (mô hình Starcoder2Config)
- Lớp cấu hình Step3p7Config: Step3p7Model (mô hình Step3p7Config)
- Lớp cấu hình SwiftFormerConfig: SwiftFormerModel (mô hình SwiftFormerConfig)
- Lớp cấu hình Swin2SRConfig: Swin2SRModel (mô hình Swin2SRConfig)
- Lớp cấu hình SwinConfig: SwinModel (mô hình SwinConfig)
- Lớp cấu hình Swinv2Config: Swinv2Model (mô hình Swinv2Config)
- Lớp cấu hình SwitchTransformersConfig: SwitchTransformersModel (mô hình SwitchTransformersConfig)
- Lớp cấu hình T5Config: T5Model (mô hình T5Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2Model (mô hình T5Gemma2Config)
- Lớp cấu hình T5Gemma2EncoderConfig:
T5Gemma2Encoder(mô hình T5Gemma2EncoderConfig) - Lớp cấu hình T5GemmaConfig: T5GemmaModel (mô hình T5GemmaConfig)
- Lớp cấu hình TableTransformerConfig: TableTransformerModel (mô hình TableTransformerConfig)
- Lớp cấu hình TapasConfig: TapasModel (mô hình TapasConfig)
- Lớp cấu hình TextNetConfig: TextNetModel (mô hình TextNetConfig)
- Lớp cấu hình TimeSeriesTransformerConfig: TimeSeriesTransformerModel (mô hình TimeSeriesTransformerConfig)
- Lớp cấu hình TimesFm2_5Config: TimesFm2_5Model (mô hình TimesFm2_5Config)
- Lớp cấu hình TimesFmConfig: TimesFmModel (mô hình TimesFmConfig)
- Lớp cấu hình TimesformerConfig: TimesformerModel (mô hình TimesformerConfig)
- Lớp cấu hình TimmBackboneConfig: TimmBackbone (mô hình TimmBackboneConfig)
- Lớp cấu hình TimmWrapperConfig: TimmWrapperModel (mô hình TimmWrapperConfig)
- Lớp cấu hình Tipsv2Config: Tipsv2Model (mô hình Tipsv2Config)
- Lớp cấu hình Tipsv2TextConfig: Tipsv2TextModel (mô hình Tipsv2TextConfig)
- Lớp cấu hình Tipsv2VisionConfig: Tipsv2VisionModel (mô hình Tipsv2VisionConfig)
- Lớp cấu hình TvpConfig: TvpModel (mô hình TvpConfig)
- Lớp cấu hình UMT5Config: UMT5Model (mô hình UMT5Config)
- Lớp cấu hình UVDocConfig: UVDocModel (mô hình UVDocConfig)
- Lớp cấu hình UdopConfig: UdopModel (mô hình UdopConfig)
- Lớp cấu hình UltraVBertConfig: UltraVBertModel (mô hình UltraVBertConfig)
- Lớp cấu hình UltrabertConfig: UltrabertModel (mô hình UltrabertConfig)
- Lớp cấu hình UniSpeechConfig: UniSpeechModel (mô hình UniSpeechConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatModel (mô hình UniSpeechSatConfig)
- Lớp cấu hình UnivNetConfig: UnivNetModel (mô hình UnivNetConfig)
- Lớp cấu hình UnlimitedOcrConfig: UnlimitedOcrModel (mô hình UnlimitedOcrConfig)
- Lớp cấu hình VJEPA2Config: VJEPA2Model (mô hình VJEPA2Config)
- Lớp cấu hình VaultGemmaConfig: VaultGemmaModel (mô hình VaultGemmaConfig)
- Lớp cấu hình ViTConfig: ViTModel (mô hình ViTConfig)
- Lớp cấu hình ViTMAEConfig: ViTMAEModel (mô hình ViTMAEConfig)
- ViTMSNConfig lớp cấu hình: ViTMSNModel (mô hình ViTMSNConfig)
- Lớp cấu hình VibeVoiceAcousticTokenizerConfig: VibeVoiceAcousticTokenizerModel (mô hình VibeVoiceAcousticTokenizerConfig)
- Lớp cấu hình VibeVoiceAcousticTokenizerDecoderConfig: VibeVoiceAcousticTokenizerDecoderModel (mô hình VibeVoiceAcousticTokenizerDecoderConfig)
- Lớp cấu hình VibeVoiceAcousticTokenizerEncoderConfig: VibeVoiceAcousticTokenizerEncoderModel (mô hình VibeVoiceAcousticTokenizerEncoderConfig)
- Lớp cấu hình VibeVoiceAsrConfig: VibeVoiceAsrModel (mô hình VibeVoiceAsrConfig)
- Lớp cấu hình VibeVoiceConfig: VibeVoiceForConditionalGeneration (mô hình VibeVoiceConfig)
- Lớp cấu hình VideoLlama3Config: VideoLlama3Model (mô hình VideoLlama3Config)
- Lớp cấu hình VideoLlama3VisionConfig: VideoLlama3VisionModel (mô hình VideoLlama3VisionConfig)
- Lớp cấu hình VideoLlavaConfig: VideoLlavaModel (mô hình VideoLlavaConfig)
- Lớp cấu hình VideoMAEConfig: VideoMAEModel (mô hình VideoMAEConfig)
- Lớp cấu hình VideoPrismConfig: VideoPrismClipModel (mô hình VideoPrismConfig)
- Lớp cấu hình VideoPrismVisionConfig: VideoPrismVisionModel (mô hình VideoPrismVisionConfig)
- Lớp cấu hình ViltConfig: ViltModel (mô hình ViltConfig)
- Lớp cấu hình VipLlavaConfig: VipLlavaModel (mô hình VipLlavaConfig)
- Lớp cấu hình VisionTextDualEncoderConfig: VisionTextDualEncoderModel (mô hình VisionTextDualEncoderConfig)
- Lớp cấu hình VisualBertConfig: VisualBertModel (mô hình VisualBertConfig)
- Lớp cấu hình VitDetConfig: VitDetModel (mô hình VitDetConfig)
- Lớp cấu hình VitsConfig: VitsModel (mô hình VitsConfig)
- Lớp cấu hình VivitConfig: VivitModel (mô hình VivitConfig)
- Lớp cấu hình VoxtralConfig: VoxtralModel (mô hình VoxtralConfig)
- Lớp cấu hình VoxtralEncoderConfig: VoxtralEncoder (mô hình VoxtralEncoderConfig)
- Lớp cấu hình VoxtralRealtimeConfig: VoxtralRealtimeModel (mô hình VoxtralRealtimeConfig)
- Lớp cấu hình VoxtralRealtimeEncoderConfig: VoxtralRealtimeEncoder (mô hình VoxtralRealtimeEncoderConfig)
- Lớp cấu hình VoxtralRealtimeTextConfig:
VoxtralRealtimeTextModel(mô hình VoxtralRealtimeTextConfig) - Lớp cấu hình Wav2Vec2BertConfig: Wav2Vec2BertModel (mô hình Wav2Vec2BertConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2Model (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerModel (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình WavLMConfig: WavLMModel (mô hình WavLMConfig)
- Lớp cấu hình WhisperConfig: WhisperModel (mô hình WhisperConfig)
- Lớp cấu hình XCLIPConfig: XCLIPModel (mô hình XCLIPConfig)
- Lớp cấu hình XGLMConfig: XGLMModel (mô hình XGLMConfig)
- lớp cấu hình XLMConfig: XLMModel (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaModel (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLModel (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetModel (mô hình XLNetConfig)
- Lớp cấu hình Xcodec2Config: Xcodec2Model (mô hình Xcodec2Config)
- Lớp cấu hình XcodecConfig: XcodecModel (mô hình XcodecConfig)
- Lớp cấu hình XmodConfig: XmodModel (mô hình XmodConfig)
- Lớp cấu hình YolosConfig: YolosModel (mô hình YolosConfig)
- Lớp cấu hình YosoConfig: YosoModel (mô hình YosoConfig)
- Lớp cấu hình YoutuConfig: YoutuModel (mô hình YoutuConfig)
- Lớp cấu hình Zamba2Config: Zamba2Model (mô hình Zamba2Config)
- Lớp cấu hình ZambaConfig: ZambaModel (mô hình ZambaConfig)
- Lớp cấu hình ZayaConfig: ZayaModel (mô hình ZayaConfig)
- lớp cấu hình xLSTMConfig: xLSTMModel (mô hình xLSTMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình cơ bản của thư viện từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình cơ sở của thư viện từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- afmoe — AfmoeModel (mô hình AfmoeConfig)
- aimv2 — Aimv2Model (mô hình Aimv2Config)
- aimv2_vision_model — Aimv2VisionModel (mô hình Aimv2VisionConfig)
- albert — AlbertModel (mô hình AlbertConfig)
- align — AlignModel (mô hình AlignConfig)
- altclip — AltCLIPModel (mô hình AltCLIPConfig)
- apertus — ApertusModel (mô hình ApertusConfig)
- arcee — ArceeModel (mô hình ArceeConfig)
- aria — AriaModel (mô hình AriaConfig)
- aria_text — AriaTextModel (mô hình AriaTextConfig)
- audio-spectrogram-transformer — ASTModel (mô hình ASTConfig)
- audioflamingo3 — AudioFlamingo3Model (mô hình AudioFlamingo3Config)
- audioflamingo3_encoder — AudioFlamingo3Encoder (mô hình AudioFlamingo3EncoderConfig)
- autoformer — AutoformerModel (mô hình AutoformerConfig)
- axk1 — AXK1Model (mô hình AXK1Config)
- axk2 — AXK2Model (mô hình AXK2Config)
- aya_vision — AyaVisionModel (mô hình AyaVisionConfig)
- bailing_hybrid — BailingHybridModel (mô hình BailingHybridConfig)
- bamba — BambaModel (mô hình BambaConfig)
- bark — BarkModel (mô hình BarkConfig)
- bart — BartModel (mô hình BartConfig)
- beam — BeamModel (mô hình BeamConfig)
- beit — BeitModel (mô hình BeitConfig)
- bert — BertModel (mô hình BertConfig)
- bert-generation — BertGenerationEncoder (mô hình BertGenerationConfig)
- big_bird — BigBirdModel (mô hình BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusModel (mô hình BigBirdPegasusConfig)
- biogpt — BioGptModel (mô hình BioGptConfig)
- bit — BitModel (mô hình BitConfig)
- bitnet — BitNetModel (mô hình BitNetConfig)
- blenderbot — BlenderbotModel (mô hình BlenderbotConfig)
- blenderbot-small — BlenderbotSmallModel (mô hình BlenderbotSmallConfig)
- blip — BlipModel (mô hình BlipConfig)
- blip-2 — Blip2Model (mô hình Blip2Config)
- blip_2_qformer — Blip2QFormerModel (mô hình Blip2QFormerConfig)
- bloom — BloomModel (mô hình BloomConfig)
- blt — BltModel (mô hình BltConfig)
- bridgetower — BridgeTowerModel (mô hình BridgeTowerConfig)
- bros — BrosModel (mô hình BrosConfig)
- camembert — CamembertModel (mô hình CamembertConfig)
- canary — CanaryModel (mô hình CanaryConfig)
- canine — CanineModel (mô hình CanineConfig)
- chameleon — ChameleonModel (mô hình ChameleonConfig)
- chinese_clip — ChineseCLIPModel (mô hình ChineseCLIPConfig)
- chinese_clip_vision_model — ChineseCLIPVisionModel (mô hình ChineseCLIPVisionConfig)
- clap — ClapModel (mô hình ClapConfig)
- clip — CLIPModel (mô hình CLIPConfig)
- clip_text_model — CLIPTextModel (mô hình CLIPTextConfig)
- clip_vision_model — CLIPVisionModel (mô hình CLIPVisionConfig)
- clipseg — CLIPSegModel (mô hình CLIPSegConfig)
- clvp — ClvpModelForConditionalGeneration (mô hình ClvpConfig)
- codegen — CodeGenModel (mô hình CodeGenConfig)
- cohere — CohereModel (mô hình CohereConfig)
- cohere2 — Cohere2Model (mô hình Cohere2Config)
- cohere2_moe — Cohere2MoeModel (mô hình Cohere2MoeConfig)
- cohere2_vision — Cohere2VisionModel (mô hình Cohere2VisionConfig)
- cohere_asr — CohereAsrModel (mô hình CohereAsrConfig)
- cohere_compass — CohereCompassModel (mô hình CohereCompassConfig)
- cohere_compass_text — CohereCompassTextModel (mô hình CohereCompassTextConfig)
- cohere_compass_vision — CohereCompassVisionModel (mô hình CohereCompassVisionConfig)
- conditional_detr — ConditionalDetrModel (mô hình ConditionalDetrConfig)
- convbert — ConvBertModel (mô hình ConvBertConfig)
- convnext — ConvNextModel (mô hình ConvNextConfig)
- convnextv2 — ConvNextV2Model (mô hình ConvNextV2Config)
- cosmos3_edge — Cosmos3EdgeModel (mô hình Cosmos3EdgeConfig)
- cosmos3_edge_text — Cosmos3EdgeTextModel (mô hình Cosmos3EdgeTextConfig)
- cosmos3_edge_vision — Cosmos3EdgeVisionModel (mô hình Cosmos3EdgeVisionConfig)
- cosmos3_omni — Cosmos3OmniModel (mô hình Cosmos3OmniConfig)
- cpmant — CpmAntModel (mô hình CpmAntConfig)
- csm — CsmForConditionalGeneration (mô hình CsmConfig)
- ctrl — CTRLModel (mô hình CTRLConfig)
- cvt — CvtModel (mô hình CvtConfig)
- cwm — CwmModel (mô hình CwmConfig)
- d_fine — DFineModel (mô hình DFineConfig)
- dab-detr — DabDetrModel (mô hình DabDetrConfig)
- dac — DacModel (mô hình DacConfig)
- data2vec-audio — Data2VecAudioModel (mô hình Data2VecAudioConfig)
- data2vec-text — Data2VecTextModel (mô hình Data2VecTextConfig)
- data2vec-vision — Data2VecVisionModel (mô hình Data2VecVisionConfig)
- dbrx — DbrxModel (mô hình DbrxConfig)
- deberta — DebertaModel (mô hình DebertaConfig)
- deberta-v2 — DebertaV2Model (mô hình DebertaV2Config)
- decision_transformer — DecisionTransformerModel (mô hình DecisionTransformerConfig)
- deepseek_ocr2 — DeepseekOcr2Model (mô hình DeepseekOcr2Config)
- deepseek_v2 — DeepseekV2Model (mô hình DeepseekV2Config)
- deepseek_v3 — DeepseekV3Model (mô hình DeepseekV3Config)
- deepseek_v32 — DeepseekV32Model (mô hình DeepseekV32Config)
- deepseek_v4 — DeepseekV4Model (mô hình DeepseekV4Config)
- deepseek_vl — DeepseekVLModel (mô hình DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridModel (mô hình DeepseekVLHybridConfig)
- deformable_detr — DeformableDetrModel (mô hình DeformableDetrConfig)
- deimv2 — Deimv2Model (mô hình Deimv2Config)
- deit — DeiTModel (mô hình DeiTConfig)
- depth_pro — DepthProModel (mô hình DepthProConfig)
- detr — DetrModel (mô hình DetrConfig)
- dia — DiaModel (mô hình DiaConfig)
- diffllama — DiffLlamaModel (mô hình DiffLlamaConfig)
- diffusion_gemma — DiffusionGemmaModel (mô hình DiffusionGemmaConfig)
- dinat — DinatModel (mô hình DinatConfig)
- dinov2 — Dinov2Model (mô hình Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersModel (mô hình Dinov2WithRegistersConfig)
- dinov3_convnext — DINOv3ConvNextModel (mô hình DINOv3ConvNextConfig)
- dinov3_vit — DINOv3ViTModel (mô hình DINOv3ViTConfig)
- distilbert — DistilBertModel (mô hình DistilBertConfig)
- doge — DogeModel (mô hình DogeConfig)
- donut-swin — DonutSwinModel (mô hình DonutSwinConfig)
- dots1 — Dots1Model (mô hình Dots1Config)
- dots3_note — Dots3NoteModel (mô hình Dots3NoteConfig)
- dots3_note_text — Dots3NoteTextModel (mô hình Dots3NoteTextConfig)
- dpr — DPRQuestionEncoder (mô hình DPRConfig)
- dpt — DPTModel (mô hình DPTConfig)
- edgetam — EdgeTamModel (mô hình EdgeTamConfig)
- edgetam_video — EdgeTamVideoModel (mô hình EdgeTamVideoConfig)
- edgetam_vision_model — EdgeTamVisionModel (mô hình EdgeTamVisionConfig)
- efficientloftr — EfficientLoFTRModel (mô hình EfficientLoFTRConfig)
- efficientnet — EfficientNetModel (mô hình EfficientNetConfig)
- electra — ElectraModel (mô hình ElectraConfig)
- embedding_gemma2 — EmbeddingGemma2Model (mô hình EmbeddingGemma2Config)
- embedding_gemma2_text — EmbeddingGemma2TextModel (mô hình EmbeddingGemma2TextConfig)
- emu3 — Emu3Model (mô hình Emu3Config)
- encodec — EncodecModel (mô hình EncodecConfig)
- ernie — ErnieModel (mô hình ErnieConfig)
- ernie4_5 — Ernie4_5Model (mô hình Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeModel (mô hình Ernie4_5_MoeConfig)
- ernie4_5_vl_moe — Ernie4_5_VLMoeModel (mô hình Ernie4_5_VLMoeConfig)
- esm — EsmModel (mô hình EsmConfig)
- esmc — EsmcModel (mô hình EsmcConfig)
- eurobert — EuroBertModel (mô hình EuroBertConfig)
- evolla — EvollaModel (mô hình EvollaConfig)
- exaone4 — Exaone4Model (mô hình Exaone4Config)
- exaone4_5 — Exaone4_5_Model (mô hình Exaone4_5_Config)
- exaone4_5_vision — Exaone4_5_VisionModel (mô hình Exaone4_5_VisionConfig)
- exaone_moe — ExaoneMoeModel (mô hình ExaoneMoeConfig)
- falcon — FalconModel (mô hình FalconConfig)
- falcon_h1 — FalconH1Model (mô hình FalconH1Config)
- falcon_mamba — FalconMambaModel (mô hình FalconMambaConfig)
- fast_vlm — FastVlmModel (mô hình FastVlmConfig)
- fastspeech2_conformer — FastSpeech2ConformerModel (mô hình FastSpeech2ConformerConfig)
- fastspeech2_conformer_with_hifigan — FastSpeech2ConformerWithHifiGan (mô hình FastSpeech2ConformerWithHifiGanConfig)
- flaubert — FlaubertModel (mô hình FlaubertConfig)
- flava — FlavaModel (mô hình FlavaConfig)
- flex_olmo — FlexOlmoModel (mô hình FlexOlmoConfig)
- flint — FlintModel (mô hình FlintConfig)
- florence2 — Florence2Model (mô hình Florence2Config)
- fnet — FNetModel (mô hình FNetConfig)
- focalnet — FocalNetModel (mô hình FocalNetConfig)
- fsmt — FSMTModel (mô hình FSMTConfig)
- fun_asr_nano — FunAsrNanoModel (mô hình FunAsrNanoConfig)
- fun_asr_nano_encoder — FunAsrNanoEncoder (mô hình FunAsrNanoEncoderConfig)
- funnel — FunnelModel hoặc FunnelBaseModel (mô hình FunnelConfig)
- fuyu — FuyuModel (mô hình FuyuConfig)
- gemma — GemmaModel (mô hình GemmaConfig)
- gemma2 — Gemma2Model (mô hình Gemma2Config)
- gemma3 — Gemma3Model (mô hình Gemma3Config)
- gemma3_text — Gemma3TextModel (mô hình Gemma3TextConfig)
- gemma3n — Gemma3nModel (mô hình Gemma3nConfig)
- gemma3n_audio —
Gemma3nAudioEncoder(mô hình Gemma3nAudioConfig) - gemma3n_text — Gemma3nTextModel (mô hình Gemma3nTextConfig)
- gemma3n_vision — TimmWrapperModel (mô hình Gemma3nVisionConfig)
- gemma4 — Gemma4Model (mô hình Gemma4Config)
- gemma4_audio — Gemma4AudioModel (mô hình Gemma4AudioConfig)
- gemma4_text — Gemma4TextModel (mô hình Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedModel (mô hình Gemma4UnifiedConfig)
- gemma4_unified_text — Gemma4UnifiedTextModel (mô hình Gemma4UnifiedTextConfig)
- gemma4_vision — Gemma4VisionModel (mô hình Gemma4VisionConfig)
- git — GitModel (mô hình GitConfig)
- glm — GlmModel (mô hình GlmConfig)
- glm4 — Glm4Model (mô hình Glm4Config)
- glm46v — Glm46VModel (mô hình Glm46VConfig)
- glm4_moe — Glm4MoeModel (mô hình Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteModel (mô hình Glm4MoeLiteConfig)
- glm4v — Glm4vModel (mô hình Glm4vConfig)
- glm4v_moe — Glm4vMoeModel (mô hình Glm4vMoeConfig)
- glm4v_moe_text — Glm4vMoeTextModel (mô hình Glm4vMoeTextConfig)
- glm4v_moe_vision — Glm4vMoeVisionModel (mô hình Glm4vMoeVisionConfig)
- glm4v_text — Glm4vTextModel (mô hình Glm4vTextConfig)
- glm4v_vision — Glm4vVisionModel (mô hình Glm4vVisionConfig)
- glm5_next — Glm5NextModel (mô hình Glm5NextConfig)
- glm5_next_text — Glm5NextTextModel (mô hình Glm5NextTextConfig)
- glm5_next_vision — Glm5NextVisionModel (mô hình Glm5NextVisionConfig)
- glm_image — GlmImageModel (mô hình GlmImageConfig)
- glm_image_text — GlmImageTextModel (mô hình GlmImageTextConfig)
- glm_image_vision — GlmImageVisionModel (mô hình GlmImageVisionConfig)
- glm_image_vqmodel — GlmImageVQVAE (mô hình GlmImageVQVAEConfig)
- glm_moe_dsa — GlmMoeDsaModel (mô hình GlmMoeDsaConfig)
- glm_ocr — GlmOcrModel (mô hình GlmOcrConfig)
- glm_ocr_text — GlmOcrTextModel (mô hình GlmOcrTextConfig)
- glm_ocr_vision — GlmOcrVisionModel (mô hình GlmOcrVisionConfig)
- glmasr — GlmAsrModel (mô hình GlmAsrConfig)
- glmasr_encoder — GlmAsrEncoder (mô hình GlmAsrEncoderConfig)
- glmga — Glm46VModel (mô hình GlmgaConfig)
- glpn — GLPNModel (mô hình GLPNConfig)
- got_ocr2 — GotOcr2Model (mô hình GotOcr2Config)
- gpt-sw3 — GPT2Model (mô hình GPT2Config)
- gpt2 — GPT2Model (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeModel (mô hình GPTBigCodeConfig)
- gpt_neo — GPTNeoModel (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXModel (mô hình GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseModel (mô hình GPTNeoXJapaneseConfig)
- gpt_oss — GptOssModel (mô hình GptOssConfig)
- gptj — GPTJModel (mô hình GPTJConfig)
- gradium_phonon_tts — GradiumPhononTTSModel (mô hình GradiumPhononTTSConfig)
- granite — GraniteModel (mô hình GraniteConfig)
- granite4_vision — Granite4VisionModel (mô hình Granite4VisionConfig)
- granite_docling — GraniteDoclingModel (mô hình GraniteDoclingConfig)
- granite_docling_text — GraniteDoclingTextModel (mô hình GraniteDoclingTextConfig)
- granite_docling_vision — GraniteDoclingVisionModel (mô hình GraniteDoclingVisionConfig)
- granite_speech — GraniteSpeechModel (mô hình GraniteSpeechConfig)
- granite_speech5_ctc — GraniteSpeech5ForCTC (mô hình GraniteSpeech5CTCConfig)
- granite_speech5_encoder — GraniteSpeech5Encoder (mô hình GraniteSpeech5EncoderConfig)
- granite_speech_plus — GraniteSpeechPlusModel (mô hình GraniteSpeechPlusConfig)
- granite_swa — GraniteSWAModel (mô hình GraniteSWAConfig)
- granitemoe — GraniteMoeModel (mô hình GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAModel (mô hình GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridModel (mô hình GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedModel (mô hình GraniteMoeSharedConfig)
- grounding-dino — GroundingDinoModel (mô hình GroundingDinoConfig)
- groupvit — GroupViTModel (mô hình GroupViTConfig)
- gte — GteModel (mô hình GteConfig)
- helium — HeliumModel (mô hình HeliumConfig)
- hgnet_v2 — HGNetV2Backbone (mô hình HGNetV2Config)
- hiera — HieraModel (mô hình HieraConfig)
- higgs_audio_v2 — HiggsAudioV2ForConditionalGeneration (mô hình HiggsAudioV2Config)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerModel (mô hình HiggsAudioV2TokenizerConfig)
- hrm_text — HrmTextModel (mô hình HrmTextConfig)
- hubert — HubertModel (mô hình HubertConfig)
- hunyuan_v1_dense — HunYuanDenseV1Model (mô hình HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1Model (mô hình HunYuanMoEV1Config)
- hunyuan_vl — HunYuanVLModel (mô hình HunYuanVLConfig)
- hunyuan_vl_text — HunYuanVLTextModel (mô hình HunYuanVLTextConfig)
- hunyuan_vl_vision — HunYuanVLVisionTransformer (mô hình HunYuanVLVisionConfig)
- hy_v3 — HYV3Model (mô hình HYV3Config)
- hy_v4 — HYV4Model (mô hình HYV4Config)
- hyperclovax — HyperCLOVAXModel (mô hình HyperCLOVAXConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2Model (mô hình HyperCLOVAXVisionV2Config)
- ibert — IBertModel (mô hình IBertConfig)
- idefics — IdeficsModel (mô hình IdeficsConfig)
- idefics2 — Idefics2Model (mô hình Idefics2Config)
- idefics3 — Idefics3Model (mô hình Idefics3Config)
- idefics3_vision — Idefics3VisionTransformer (mô hình Idefics3VisionConfig)
- ijepa — IJepaModel (mô hình IJepaConfig)
- imagegpt — ImageGPTModel (mô hình ImageGPTConfig)
- informer — InformerModel (mô hình InformerConfig)
- inkling2 — Inkling2Model (mô hình Inkling2Config)
- inkling2_text — Inkling2TextModel (mô hình Inkling2TextConfig)
- inkling2_vision — Inkling2VisionModel (mô hình Inkling2VisionConfig)
- inkling_mm_model — InklingModel (mô hình InklingConfig)
- inkling_text — InklingTextModel (mô hình InklingTextConfig)
- instructblip — InstructBlipModel (mô hình InstructBlipConfig)
- instructblipvideo — InstructBlipVideoModel (mô hình InstructBlipVideoConfig)
- internlm3 — LlamaModel (mô hình InternLM3Config)
- internvl — InternVLModel (mô hình InternVLConfig)
- internvl_vision — InternVLVisionModel (mô hình InternVLVisionConfig)
- iquestcoder — LlamaModel (mô hình IQuestCoderConfig)
- jais2 — Jais2Model (mô hình Jais2Config)
- jamba — JambaModel (mô hình JambaConfig)
- janus — JanusModel (mô hình JanusConfig)
- jetmoe — JetMoeModel (mô hình JetMoeConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3Model (mô hình JinaEmbeddingsV3Config)
- kimi_k25 — Kimi_K25Model (mô hình Kimi_K25Config)
- kimi_k25_vision — Kimi_K25VisionModel (mô hình Kimi_K25VisionConfig)
- kimi_linear — KimiLinearModel (mô hình KimiLinearConfig)
- kolibri1 — Kolibri1Model (mô hình Kolibri1Config)
- kosmos-2 — Kosmos2Model (mô hình Kosmos2Config)
- kosmos-2.5 — Kosmos2_5Model (mô hình Kosmos2_5Config)
- kyutai_speech_to_text — KyutaiSpeechToTextModel (mô hình KyutaiSpeechToTextConfig)
- laguna — LagunaModel (mô hình LagunaConfig)
- lasr_ctc — LasrForCTC (mô hình LasrCTCConfig)
- lasr_encoder — LasrEncoder (mô hình LasrEncoderConfig)
- layoutlm — LayoutLMModel (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2Model (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3Model (mô hình LayoutLMv3Config)
- led — LEDModel (LEDConfig model)
- levit — LevitModel (mô hình LevitConfig)
- lfm2 — Lfm2Model (mô hình Lfm2Config)
- lfm2_moe — Lfm2MoeModel (mô hình Lfm2MoeConfig)
- lfm2_vl — Lfm2VlModel (mô hình Lfm2VlConfig)
- lfm3 — Lfm3Model (mô hình Lfm3Config)
- lfm3_vl — Lfm3VlModel (mô hình Lfm3VlConfig)
- lfm3_vl_vision — Lfm3VlVisionModel (mô hình Lfm3VlVisionConfig)
- lightglue — LightGlueForKeypointMatching (mô hình LightGlueConfig)
- lighton_ocr — LightOnOcrModel (mô hình LightOnOcrConfig)
- lilt — LiltModel (mô hình LiltConfig)
- llama — LlamaModel (mô hình LlamaConfig)
- llama4 — Llama4ForConditionalGeneration (mô hình Llama4Config)
- llama4_text — Llama4TextModel (mô hình Llama4TextConfig)
- llava — LlavaModel (mô hình LlavaConfig)
- llava_next — LlavaNextModel (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoModel (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionModel (mô hình LlavaOnevisionConfig)
- longcat_flash — LongcatFlashModel (mô hình LongcatFlashConfig)
- longformer — LongformerModel (mô hình LongformerConfig)
- longt5 — LongT5Model (mô hình LongT5Config)
- luke — LukeModel (mô hình LukeConfig)
- lw_detr — LwDetrModel (mô hình LwDetrConfig)
- lxmert — LxmertModel (mô hình LxmertConfig)
- m2m_100 — M2M100Model (mô hình M2M100Config)
- mamba — MambaModel (mô hình MambaConfig)
- mamba2 — Mamba2Model (mô hình Mamba2Config)
- marian — MarianModel (mô hình MarianConfig)
- markuplm — MarkupLMModel (mô hình MarkupLMConfig)
- mask2former — Mask2FormerModel (mô hình Mask2FormerConfig)
- maskformer — MaskFormerModel (mô hình MaskFormerConfig)
- maskformer-swin —
MaskFormerSwinModel(mô hình MaskFormerSwinConfig) - mbart — MBartModel (mô hình MBartConfig)
- megatron-bert — MegatronBertModel (mô hình MegatronBertConfig)
- mellum — MellumModel (mô hình MellumConfig)
- metaclip_2 — MetaClip2Model (mô hình MetaClip2Config)
- mgp-str — MgpstrForSceneTextRecognition (mô hình MgpstrConfig)
- mimi — MimiModel (mô hình MimiConfig)
- mimi_decoder — MimiDecoderModel (mô hình MimiDecoderConfig)
- mimi_encoder — MimiEncoderModel (mô hình MimiEncoderConfig)
- mimo_v2_flash — MiMoV2FlashModel (mô hình MiMoV2FlashConfig)
- minicpm3 — MiniCPM3Model (mô hình MiniCPM3Config)
- minicpm_ocr — MiniCPMOcrModel (mô hình MiniCPMOcrConfig)
- minicpm_ocr_vision — MiniCPMOcrVisionModel (mô hình MiniCPMOcrVisionConfig)
- minicpmv4_6 — MiniCPMV4_6Model (mô hình MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7Model (mô hình MiniCPMV4_7Config)
- minicpmv4_7_vision — MiniCPMV4_7VisionModel (mô hình MiniCPMV4_7VisionConfig)
- minimax — MiniMaxModel (mô hình MiniMaxConfig)
- minimax_m2 — MiniMaxM2Model (mô hình MiniMaxM2Config)
- minimax_m3_vl — MiniMaxM3VLModel (mô hình MiniMaxM3VLConfig)
- minimax_m3_vl_text — MiniMaxM3VLTextModel (mô hình MiniMaxM3VLTextConfig)
- ministral — MinistralModel (mô hình MinistralConfig)
- ministral3 — Ministral3Model (mô hình Ministral3Config)
- mistral — MistralModel (mô hình MistralConfig)
- mistral3 — Mistral3Model (mô hình Mistral3Config)
- mistral4 — Mistral4Model (mô hình Mistral4Config)
- mistral_large4 — MistralLarge4Model (mô hình MistralLarge4Config)
- mistral_large4_text — MistralLarge4TextModel (mô hình MistralLarge4TextConfig)
- mixtral — MixtralModel (mô hình MixtralConfig)
- mlcd — MLCDVisionModel (mô hình MLCDVisionConfig)
- mlcd_vision_model — MLCDVisionModel (mô hình MLCDVisionConfig)
- mllama — MllamaModel (mô hình MllamaConfig)
- mm-grounding-dino — MMGroundingDinoModel (mô hình MMGroundingDinoConfig)
- mobilebert — MobileBertModel (mô hình MobileBertConfig)
- mobilenet_v1 — MobileNetV1Model (mô hình MobileNetV1Config)
- mobilenet_v2 — MobileNetV2Model (mô hình MobileNetV2Config)
- mobilevit — MobileViTModel (mô hình MobileViTConfig)
- mobilevitv2 — MobileViTV2Model (mô hình MobileViTV2Config)
- modernbert — ModernBertModel (mô hình ModernBertConfig)
- modernbert-decoder — ModernBertDecoderModel (mô hình ModernBertDecoderConfig)
- modernvbert — ModernVBertModel (mô hình ModernVBertConfig)
- molmo2 — Molmo2Model (mô hình Molmo2Config)
- molmo2_text — Molmo2TextModel (mô hình Molmo2TextConfig)
- moonshine — MoonshineModel (mô hình MoonshineConfig)
- moonshine_streaming — MoonshineStreamingModel (mô hình MoonshineStreamingConfig)
- moshi — MoshiModel (mô hình MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeModel (mô hình MossTranscribeDiarizeConfig)
- moss_transcribe_diarize_audio — MossTranscribeDiarizeAudioModel (mô hình MossTranscribeDiarizeAudioConfig)
- mpnet — MPNetModel (mô hình MPNetConfig)
- mpt — MptModel (mô hình MptConfig)
- mra — MraModel (mô hình MraConfig)
- mt5 — MT5Model (mô hình MT5Config)
- muse_glimmer — MuseGlimmerModel (mô hình MuseGlimmerConfig)
- muse_glimmer_assistant — MuseGlimmerAssistantModel (mô hình MuseGlimmerAssistantConfig)
- muse_glimmer_text — MuseGlimmerTextModel (mô hình MuseGlimmerTextConfig)
- muse_glimmer_vision — MuseGlimmerVisionModel (mô hình MuseGlimmerVisionConfig)
- muse_spark — MuseSparkModel (mô hình MuseSparkConfig)
- muse_spark_audio — MuseSparkAudioModel (mô hình MuseSparkAudioConfig)
- muse_spark_text — MuseSparkTextModel (mô hình MuseSparkTextConfig)
- muse_spark_vision — MuseSparkVisionModel (mô hình MuseSparkVisionConfig)
- musicflamingo — MusicFlamingoModel (mô hình MusicFlamingoConfig)
- musicgen — MusicgenModel (mô hình MusicgenConfig)
- musicgen_melody — MusicgenMelodyModel (mô hình MusicgenMelodyConfig)
- mvp — MvpModel (mô hình MvpConfig)
- nanochat — NanoChatModel (mô hình NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeModel (mô hình Nemotron3_5TranscribeConfig)
- nemotron — NemotronModel (mô hình NemotronConfig)
- nemotron3_5_asr — Nemotron3_5AsrForRNNT (mô hình Nemotron3_5AsrConfig)
- nemotron3_5_transcribe_asr_audio — Nemotron3_5TranscribeAsrAudioModel (mô hình Nemotron3_5TranscribeAsrAudioConfig)
- nemotron3_5_transcribe_audio — Nemotron3_5TranscribeAudioModel (mô hình Nemotron3_5TranscribeAudioConfig)
- nemotron3_5_transcribe_word_timestamp — Nemotron3_5TranscribeWordTimestampModel (mô hình Nemotron3_5TranscribeWordTimestampConfig)
- nemotron3_diarization — Nemotron3DiarizationModel (mô hình Nemotron3DiarizationConfig)
- nemotron3_diarization_audio — Nemotron3DiarizationAudioModel (mô hình Nemotron3DiarizationAudioConfig)
- nemotron_asr_streaming — NemotronAsrStreamingForRNNT (mô hình NemotronAsrStreamingConfig)
- nemotron_asr_streaming_encoder — NemotronAsrStreamingEncoder (mô hình NemotronAsrStreamingEncoderConfig)
- nemotron_h — NemotronHModel (mô hình NemotronHConfig)
- neomme — NeoMMEModel (mô hình NeoMMEConfig)
- neucodec — NeuCodecModel (mô hình NeuCodecConfig)
- nllb-moe — NllbMoeModel (mô hình NllbMoeConfig)
- nomic_bert — NomicBertModel (mô hình NomicBertConfig)
- nystromformer — NystromformerModel (mô hình NystromformerConfig)
- olmo — OlmoModel (mô hình OlmoConfig)
- olmo2 — Olmo2Model (mô hình Olmo2Config)
- olmo3 — Olmo3Model (mô hình Olmo3Config)
- olmo_hybrid — OlmoHybridModel (mô hình OlmoHybridConfig)
- olmoe — OlmoeModel (mô hình OlmoeConfig)
- omdet-turbo — OmDetTurboForObjectDetection (mô hình OmDetTurboConfig)
- oneformer — OneFormerModel (mô hình OneFormerConfig)
- openai-gpt — OpenAIGPTModel (mô hình OpenAIGPTConfig)
- openai_privacy_filter — OpenAIPrivacyFilterModel (mô hình OpenAIPrivacyFilterConfig)
- opt — OPTModel (mô hình OPTConfig)
- ovis2 — Ovis2Model (mô hình Ovis2Config)
- owlv2 — Owlv2Model (mô hình Owlv2Config)
- owlvit — OwlViTModel (mô hình OwlViTConfig)
- paddleocr_vl — PaddleOCRVLModel (mô hình PaddleOCRVLConfig)
- paligemma — PaliGemmaModel (mô hình PaliGemmaConfig)
- parakeet_ctc — ParakeetForCTC (mô hình ParakeetCTCConfig)
- parakeet_encoder — ParakeetEncoder (mô hình ParakeetEncoderConfig)
- parakeet_rnnt — ParakeetForRNNT (mô hình ParakeetRNNTConfig)
- parakeet_tdt — ParakeetForTDT (mô hình ParakeetTDTConfig)
- patchtsmixer — PatchTSMixerModel (mô hình PatchTSMixerConfig)
- patchtst — PatchTSTModel (mô hình PatchTSTConfig)
- pe_audio — PeAudioModel (mô hình PeAudioConfig)
- pe_audio_encoder — PeAudioEncoder (mô hình PeAudioEncoderConfig)
- pe_audio_video — PeAudioVideoModel (mô hình PeAudioVideoConfig)
- pe_audio_video_encoder — PeAudioVideoEncoder (mô hình PeAudioVideoEncoderConfig)
- pe_video — PeVideoModel (mô hình PeVideoConfig)
- pe_video_encoder — PeVideoEncoder (mô hình PeVideoEncoderConfig)
- pegasus — PegasusModel (mô hình PegasusConfig)
- pegasus_x — PegasusXModel (mô hình PegasusXConfig)
- perceiver — PerceiverModel (mô hình PerceiverConfig)
- perception_lm — PerceptionLMModel (mô hình PerceptionLMConfig)
- persimmon — PersimmonModel (mô hình PersimmonConfig)
- phi — PhiModel (PhiConfig model)
- phi3 — Phi3Model (Phi3Config model)
- phi4_multimodal — Phi4MultimodalModel (mô hình Phi4MultimodalConfig)
- phimoe — PhimoeModel (mô hình PhimoeConfig)
- pi0 — PI0Model (mô hình PI0Config)
- pixio — PixioModel (mô hình PixioConfig)
- pixtral — PixtralVisionModel (mô hình PixtralVisionConfig)
- plbart — PLBartModel (mô hình PLBartConfig)
- pocket_tts — PocketTTSModel (mô hình PocketTTSConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerModel (mô hình PocketTTSAudioTokenizerConfig)
- pocket_tts_audio_tokenizer_decoder — PocketTTSAudioTokenizerDecoderModel (mô hình PocketTTSAudioTokenizerDecoderConfig)
- pocket_tts_audio_tokenizer_encoder — PocketTTSAudioTokenizerEncoderModel (mô hình PocketTTSAudioTokenizerEncoderConfig)
- poolformer — PoolFormerModel (mô hình PoolFormerConfig)
- pp_doclayout_v3 — PPDocLayoutV3Model (mô hình PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4Model (mô hình PPDocLayoutV4Config)
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecModel (mô hình PPOCRV5MobileRecConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecModel (mô hình PPOCRV5ServerRecConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetModel (mô hình PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetModel (mô hình PPOCRV6SmallDetConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecModel (mô hình PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecModel (mô hình PPOCRV6TinyRecConfig)
- prophetnet — ProphetNetModel (mô hình ProphetNetConfig)
- pvt — PvtModel (mô hình PvtConfig)
- pvt_v2 — PvtV2Model (mô hình PvtV2Config)
- qianfan_ocr — QianfanOCRModel (mô hình QianfanOCRConfig)
- qianfan_ocr_vision — QianfanOCRVisionModel (mô hình QianfanOCRVisionConfig)
- qwen2 — Qwen2Model (mô hình Qwen2Config)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerModel (mô hình Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLModel (mô hình Qwen2_5_VLConfig)
- qwen2_5_vl_text — Qwen2_5_VLTextModel (mô hình Qwen2_5_VLTextConfig)
- qwen2_5_vl_vision — Qwen2_5_VisionTransformerPretrainedModel (mô hình Qwen2_5_VLVisionConfig)
- qwen2_audio — Qwen2AudioModel (mô hình Qwen2AudioConfig)
- qwen2_audio_encoder — Qwen2AudioEncoder (mô hình Qwen2AudioEncoderConfig)
- qwen2_moe — Qwen2MoeModel (mô hình Qwen2MoeConfig)
- qwen2_vl — Qwen2VLModel (mô hình Qwen2VLConfig)
- qwen2_vl_text — Qwen2VLTextModel (mô hình Qwen2VLTextConfig)
- qwen3 — Qwen3Model (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5Model (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeModel (mô hình Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeTextModel (mô hình Qwen3_5MoeTextConfig)
- qwen3_5_moe_vision — Qwen3_5MoeVisionModel (mô hình Qwen3_5MoeVisionConfig)
- qwen3_5_text — Qwen3_5TextModel (mô hình Qwen3_5TextConfig)
- qwen3_5_vision — Qwen3_5VisionModel (mô hình Qwen3_5VisionConfig)
- qwen3_asr — Qwen3ASRModel (mô hình Qwen3ASRConfig)
- qwen3_asr_encoder — Qwen3ASREncoder (mô hình Qwen3ASREncoderConfig)
- qwen3_moe — Qwen3MoeModel (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextModel (mô hình Qwen3NextConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerModel (mô hình Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLModel (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeModel (mô hình Qwen3VLMoeConfig)
- qwen3_vl_moe_text — Qwen3VLMoeTextModel (mô hình Qwen3VLMoeTextConfig)
- qwen3_vl_moe_vision — Qwen3VLMoeVisionModel (mô hình Qwen3VLMoeVisionConfig)
- qwen3_vl_text — Qwen3VLTextModel (mô hình Qwen3VLTextConfig)
- qwen3_vl_vision — Qwen3VLVisionModel (mô hình Qwen3VLVisionConfig)
- qwen4_exp — Qwen4ExpModel (mô hình Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpTextModel (mô hình Qwen4ExpTextConfig)
- qwen4_exp_vision — Qwen4ExpVisionModel (mô hình Qwen4ExpVisionConfig)
- radio — RadioModel (mô hình RadioConfig)
- recurrent_gemma — RecurrentGemmaModel (mô hình RecurrentGemmaConfig)
- reformer — ReformerModel (mô hình ReformerConfig)
- regnet — RegNetModel (mô hình RegNetConfig)
- rembert — RemBertModel (mô hình RemBertConfig)
- resnet — ResNetModel (mô hình ResNetConfig)
- rf_detr — RfDetrModel (mô hình RfDetrConfig)
- roberta — RobertaModel (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormModel (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertModel (mô hình RoCBertConfig)
- roformer — RoFormerModel (mô hình RoFormerConfig)
- rt_detr — RTDetrModel (mô hình RTDetrConfig)
- rt_detr_v2 — RTDetrV2Model (mô hình RTDetrV2Config)
- rwkv — RwkvModel (mô hình RwkvConfig)
- sam — SamModel (mô hình SamConfig)
- sam2 — Sam2Model (mô hình Sam2Config)
- sam2_hiera_det_model — Sam2HieraDetModel (mô hình Sam2HieraDetConfig)
- sam2_video — Sam2VideoModel (mô hình Sam2VideoConfig)
- sam2_vision_model — Sam2VisionModel (mô hình Sam2VisionConfig)
- sam3 — Sam3Model (mô hình Sam3Config)
- sam3_lite_text — Sam3LiteTextModel (mô hình Sam3LiteTextConfig)
- sam3_lite_text_text_model — Sam3LiteTextTextModel (mô hình Sam3LiteTextTextConfig)
- sam3_tracker — Sam3TrackerModel (mô hình Sam3TrackerConfig)
- sam3_tracker_video — Sam3TrackerVideoModel (mô hình Sam3TrackerVideoConfig)
- sam3_video — Sam3VideoModel (mô hình Sam3VideoConfig)
- sam3_vision_model — Sam3VisionModel (mô hình Sam3VisionConfig)
- sam3_vit_model — Sam3ViTModel (mô hình Sam3ViTConfig)
- sam_hq — SamHQModel (mô hình SamHQConfig)
- sam_hq_vision_model — SamHQVisionModel (mô hình SamHQVisionConfig)
- sam_vision_model — SamVisionModel (mô hình SamVisionConfig)
- sapiens2 — Sapiens2Model (mô hình Sapiens2Config)
- seamless_m4t — SeamlessM4TModel (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2Model (mô hình SeamlessM4Tv2Config)
- seed_oss — SeedOssModel (mô hình SeedOssConfig)
- segformer — SegformerModel (mô hình SegformerConfig)
- seggpt — SegGptModel (mô hình SegGptConfig)
- sew — SEWModel (mô hình SEWConfig)
- sew-d — SEWDModel (mô hình SEWDConfig)
- siglip — SiglipModel (mô hình SiglipConfig)
- siglip2 — Siglip2Model (mô hình Siglip2Config)
- siglip2_vision_model — Siglip2VisionModel (mô hình Siglip2VisionConfig)
- siglip_vision_model — SiglipVisionModel (mô hình SiglipVisionConfig)
- smollm3 — SmolLM3Model (mô hình SmolLM3Config)
- smolvlm — SmolVLMModel (mô hình SmolVLMConfig)
- smolvlm_vision — SmolVLMVisionTransformer (mô hình SmolVLMVisionConfig)
- solar_open — SolarOpenModel (mô hình SolarOpenConfig)
- speech_to_text — Speech2TextModel (mô hình Speech2TextConfig)
- speecht5 — SpeechT5Model (mô hình SpeechT5Config)
- splinter — SplinterModel (mô hình SplinterConfig)
- squeezebert — SqueezeBertModel (mô hình SqueezeBertConfig)
- stablelm — StableLmModel (mô hình StableLmConfig)
- starcoder2 — Starcoder2Model (mô hình Starcoder2Config)
- step3p7 — Step3p7Model (mô hình Step3p7Config)
- swiftformer — SwiftFormerModel (mô hình SwiftFormerConfig)
- swin — SwinModel (mô hình SwinConfig)
- swin2sr — Swin2SRModel (mô hình Swin2SRConfig)
- swinv2 — Swinv2Model (mô hình Swinv2Config)
- switch_transformers — SwitchTransformersModel (mô hình SwitchTransformersConfig)
- t5 — T5Model (mô hình T5Config)
- t5gemma — T5GemmaModel (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2Model (mô hình T5Gemma2Config)
- t5gemma2_encoder —
T5Gemma2Encoder(mô hình T5Gemma2EncoderConfig) - table-transformer — TableTransformerModel (mô hình TableTransformerConfig)
- tapas — TapasModel (mô hình TapasConfig)
- textnet — TextNetModel (mô hình TextNetConfig)
- time_series_transformer — TimeSeriesTransformerModel (mô hình TimeSeriesTransformerConfig)
- timesfm — TimesFmModel (mô hình TimesFmConfig)
- timesfm2_5 — TimesFm2_5Model (mô hình TimesFm2_5Config)
- timesformer — TimesformerModel (mô hình TimesformerConfig)
- timm_backbone — TimmBackbone (mô hình TimmBackboneConfig)
- timm_wrapper — TimmWrapperModel (mô hình TimmWrapperConfig)
- tipsv2 — Tipsv2Model (mô hình Tipsv2Config)
- tipsv2_text_model — Tipsv2TextModel (mô hình Tipsv2TextConfig)
- tipsv2_vision_model — Tipsv2VisionModel (mô hình Tipsv2VisionConfig)
- tvp — TvpModel (mô hình TvpConfig)
- udop — UdopModel (mô hình UdopConfig)
- ultrabert — UltrabertModel (mô hình UltrabertConfig)
- ultravbert — UltraVBertModel (mô hình UltraVBertConfig)
- umt5 — UMT5Model (mô hình UMT5Config)
- unispeech — UniSpeechModel (mô hình UniSpeechConfig)
- unispeech-sat — UniSpeechSatModel (mô hình UniSpeechSatConfig)
- univnet — UnivNetModel (mô hình UnivNetConfig)
- unlimited_ocr — UnlimitedOcrModel (mô hình UnlimitedOcrConfig)
- uvdoc — UVDocModel (mô hình UVDocConfig)
- vaultgemma — VaultGemmaModel (mô hình VaultGemmaConfig)
- vibevoice — VibeVoiceForConditionalGeneration (mô hình VibeVoiceConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerModel (mô hình VibeVoiceAcousticTokenizerConfig)
- vibevoice_acoustic_tokenizer_decoder — VibeVoiceAcousticTokenizerDecoderModel (mô hình VibeVoiceAcousticTokenizerDecoderConfig)
- vibevoice_acoustic_tokenizer_encoder — VibeVoiceAcousticTokenizerEncoderModel (mô hình VibeVoiceAcousticTokenizerEncoderConfig)
- vibevoice_asr — VibeVoiceAsrModel (mô hình VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3Model (mô hình VideoLlama3Config)
- video_llama_3_vision — VideoLlama3VisionModel (mô hình VideoLlama3VisionConfig)
- video_llava — VideoLlavaModel (mô hình VideoLlavaConfig)
- videomae — VideoMAEModel (mô hình VideoMAEConfig)
- videoprism — VideoPrismClipModel (mô hình VideoPrismConfig)
- videoprism_vision_model — VideoPrismVisionModel (mô hình VideoPrismVisionConfig)
- vilt — ViltModel (mô hình ViltConfig)
- vipllava — VipLlavaModel (mô hình VipLlavaConfig)
- vision-text-dual-encoder — VisionTextDualEncoderModel (mô hình VisionTextDualEncoderConfig)
- visual_bert — VisualBertModel (mô hình VisualBertConfig)
- vit — ViTModel (mô hình ViTConfig)
- vit_mae — ViTMAEModel (mô hình ViTMAEConfig)
- vit_msn — ViTMSNModel (mô hình ViTMSNConfig)
- vitdet — VitDetModel (mô hình VitDetConfig)
- vits — VitsModel (mô hình VitsConfig)
- vivit — VivitModel (mô hình VivitConfig)
- vjepa2 — VJEPA2Model (mô hình VJEPA2Config)
- voxtral — VoxtralModel (mô hình VoxtralConfig)
- voxtral_encoder — VoxtralEncoder (mô hình VoxtralEncoderConfig)
- voxtral_realtime — VoxtralRealtimeModel (mô hình VoxtralRealtimeConfig)
- voxtral_realtime_encoder — VoxtralRealtimeEncoder (mô hình VoxtralRealtimeEncoderConfig)
- voxtral_realtime_text —
VoxtralRealtimeTextModel(mô hình VoxtralRealtimeTextConfig) - wav2vec2 — Wav2Vec2Model (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertModel (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerModel (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMModel (mô hình WavLMConfig)
- whisper — WhisperModel (mô hình WhisperConfig)
- xclip — XCLIPModel (mô hình XCLIPConfig)
- xcodec — XcodecModel (mô hình XcodecConfig)
- xcodec2 — Xcodec2Model (mô hình Xcodec2Config)
- xglm — XGLMModel (mô hình XGLMConfig)
- xlm — XLMModel (mô hình XLMConfig)
- xlm-roberta — XLMRobertaModel (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLModel (mô hình XLMRobertaXLConfig)
- xlnet — XLNetModel (mô hình XLNetConfig)
- xlstm — xLSTMModel (mô hình xLSTMConfig)
- xmod — XmodModel (mô hình XmodConfig)
- yolos — YolosModel (mô hình YolosConfig)
- yoso — YosoModel (mô hình YosoConfig)
- youtu — YoutuModel (mô hình YoutuConfig)
- zamba — ZambaModel (mô hình ZambaConfig)
- zamba2 — Zamba2Model (mô hình Zamba2Config)
- zaya — ZayaModel (mô hình ZayaConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModel
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueCác lớp tiền huấn luyện tổng quát
Các lớp auto sau đây có sẵn để khởi tạo một mô hình với đầu pretraining.
AutoModelForPreTraining
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu pretraining) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AlbertConfig: AlbertForPreTraining (mô hình AlbertConfig)
- Lớp cấu hình AudioFlamingo3Config: AudioFlamingo3ForConditionalGeneration (mô hình AudioFlamingo3Config)
- Lớp cấu hình BartConfig: BartForConditionalGeneration (mô hình BartConfig)
- Lớp cấu hình BertConfig: BertForPreTraining (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForPreTraining (mô hình BigBirdConfig)
- Lớp cấu hình BloomConfig: BloomForCausalLM (mô hình BloomConfig)
- Lớp cấu hình CTRLConfig: CTRLLMHeadModel (mô hình CTRLConfig)
- Lớp cấu hình CamembertConfig: CamembertForMaskedLM (mô hình CamembertConfig)
- ColModernVBertConfig lớp cấu hình: ColModernVBertForRetrieval (mô hình ColModernVBertConfig)
- Lớp cấu hình ColPaliConfig: ColPaliForRetrieval (mô hình ColPaliConfig)
- Lớp cấu hình ColQwen2Config: ColQwen2ForRetrieval (mô hình ColQwen2Config)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForMaskedLM (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaConfig: DebertaForMaskedLM (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForMaskedLM (mô hình DebertaV2Config)
- Lớp cấu hình DistilBertConfig: DistilBertForMaskedLM (mô hình DistilBertConfig)
- Lớp cấu hình ElectraConfig: ElectraForPreTraining (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForPreTraining (mô hình ErnieConfig)
- Lớp cấu hình EvollaConfig: EvollaForProteinText2Text (mô hình EvollaConfig)
- Lớp cấu hình Exaone4Config: Exaone4ForCausalLM (mô hình Exaone4Config)
- Lớp cấu hình ExaoneMoeConfig: ExaoneMoeForCausalLM (mô hình ExaoneMoeConfig)
- Lớp cấu hình FNetConfig: FNetForPreTraining (mô hình FNetConfig)
- Lớp cấu hình FSMTConfig: FSMTForConditionalGeneration (mô hình FSMTConfig)
- Lớp cấu hình FalconMambaConfig: FalconMambaForCausalLM (mô hình FalconMambaConfig)
- Lớp cấu hình FlaubertConfig: FlaubertWithLMHeadModel (mô hình FlaubertConfig)
- Lớp cấu hình FlavaConfig: FlavaForPreTraining (mô hình FlavaConfig)
- Lớp cấu hình Florence2Config: Florence2ForConditionalGeneration (mô hình Florence2Config)
- Lớp cấu hình FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- Lớp cấu hình FunnelConfig: FunnelForPreTraining (mô hình FunnelConfig)
- lớp cấu hình GPT2Config: GPT2LMHeadModel (mô hình GPT2Config)
- Lớp cấu hình GPTBigCodeConfig: GPTBigCodeForCausalLM (mô hình GPTBigCodeConfig)
- Lớp cấu hình Gemma3Config: Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- Lớp cấu hình Gemma4Config: Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- Lớp cấu hình Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- Lớp cấu hình GlmAsrConfig: GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- Lớp cấu hình HieraConfig: HieraForPreTraining (mô hình HieraConfig)
- Lớp cấu hình IBertConfig: IBertForMaskedLM (mô hình IBertConfig)
- Lớp cấu hình Idefics2Config: Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- Lớp cấu hình Idefics3Config: Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- Lớp cấu hình IdeficsConfig: IdeficsForVisionText2Text (mô hình IdeficsConfig)
- Lớp cấu hình Inkling2Config: Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- Lớp cấu hình InklingConfig: InklingForConditionalGeneration (mô hình InklingConfig)
- Lớp cấu hình JanusConfig: JanusForConditionalGeneration (mô hình JanusConfig)
- Lớp cấu hình LayoutLMConfig: LayoutLMForMaskedLM (mô hình LayoutLMConfig)
- Lớp cấu hình LlavaConfig: LlavaForConditionalGeneration (mô hình LlavaConfig)
- Lớp cấu hình LlavaNextConfig: LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- Lớp cấu hình LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- Lớp cấu hình LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- Lớp cấu hình LongformerConfig: LongformerForMaskedLM (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForMaskedLM (mô hình LukeConfig)
- Lớp cấu hình LxmertConfig: LxmertForPreTraining (mô hình LxmertConfig)
- Lớp cấu hình MPNetConfig: MPNetForMaskedLM (mô hình MPNetConfig)
- Lớp cấu hình Mamba2Config: Mamba2ForCausalLM (mô hình Mamba2Config)
- Lớp cấu hình MambaConfig: MambaForCausalLM (mô hình MambaConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForPreTraining (mô hình MegatronBertConfig)
- Lớp cấu hình Mistral3Config: Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- Lớp cấu hình Mistral4Config: Mistral4ForCausalLM (mô hình Mistral4Config)
- Lớp cấu hình MistralLarge4Config: MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- Lớp cấu hình MllamaConfig: MllamaForConditionalGeneration (mô hình MllamaConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForPreTraining (mô hình MobileBertConfig)
- Lớp cấu hình MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- Lớp cấu hình MptConfig: MptForCausalLM (mô hình MptConfig)
- Lớp cấu hình MraConfig: MraForMaskedLM (mô hình MraConfig)
- Lớp cấu hình MusicFlamingoConfig: MusicFlamingoForConditionalGeneration (mô hình MusicFlamingoConfig)
- Lớp cấu hình MvpConfig: MvpForConditionalGeneration (mô hình MvpConfig)
- Lớp cấu hình NanoChatConfig: NanoChatForCausalLM (mô hình NanoChatConfig)
- Lớp cấu hình Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- Lớp cấu hình NllbMoeConfig: NllbMoeForConditionalGeneration (mô hình NllbMoeConfig)
- Lớp cấu hình OpenAIGPTConfig: OpenAIGPTLMHeadModel (mô hình OpenAIGPTConfig)
- Lớp cấu hình PaliGemmaConfig: PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- Lớp cấu hình Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- Lớp cấu hình RoCBertConfig: RoCBertForPreTraining (mô hình RoCBertConfig)
- Lớp cấu hình RobertaConfig: RobertaForMaskedLM (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForMaskedLM (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình RwkvConfig: RwkvForCausalLM (mô hình RwkvConfig)
- Lớp cấu hình SplinterConfig: SplinterForPreTraining (mô hình SplinterConfig)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForMaskedLM (mô hình SqueezeBertConfig)
- Lớp cấu hình SwitchTransformersConfig: SwitchTransformersForConditionalGeneration (mô hình SwitchTransformersConfig)
- Lớp cấu hình T5Config: T5ForConditionalGeneration (mô hình T5Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- Lớp cấu hình T5GemmaConfig: T5GemmaForConditionalGeneration (mô hình T5GemmaConfig)
- Lớp cấu hình TapasConfig: TapasForMaskedLM (mô hình TapasConfig)
- Lớp cấu hình UniSpeechConfig: UniSpeechForPreTraining (mô hình UniSpeechConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatForPreTraining (mô hình UniSpeechSatConfig)
- Lớp cấu hình ViTMAEConfig: ViTMAEForPreTraining (mô hình ViTMAEConfig)
- Lớp cấu hình VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- Lớp cấu hình VideoLlavaConfig: VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- Lớp cấu hình VideoMAEConfig: VideoMAEForPreTraining (mô hình VideoMAEConfig)
- Lớp cấu hình VipLlavaConfig: VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- Lớp cấu hình VisualBertConfig: VisualBertForPreTraining (mô hình VisualBertConfig)
- Lớp cấu hình VoxtralConfig: VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- Lớp cấu hình VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2ForPreTraining (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerForPreTraining (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình XLMConfig: XLMWithLMHeadModel (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForMaskedLM (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForMaskedLM (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetLMHeadModel (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForMaskedLM (mô hình XmodConfig)
- lớp cấu hình xLSTMConfig: xLSTMForCausalLM (mô hình xLSTMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu pretraining) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu pretraining) từ một mô hình đã được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForPreTraining (mô hình AlbertConfig)
- audioflamingo3 — AudioFlamingo3ForConditionalGeneration (mô hình AudioFlamingo3Config)
- bart — BartForConditionalGeneration (mô hình BartConfig)
- bert — BertForPreTraining (mô hình BertConfig)
- big_bird — BigBirdForPreTraining (mô hình BigBirdConfig)
- bloom — BloomForCausalLM (mô hình BloomConfig)
- camembert — CamembertForMaskedLM (mô hình CamembertConfig)
- colmodernvbert — ColModernVBertForRetrieval (mô hình ColModernVBertConfig)
- colpali — ColPaliForRetrieval (mô hình ColPaliConfig)
- colqwen2 — ColQwen2ForRetrieval (mô hình ColQwen2Config)
- ctrl — CTRLLMHeadModel (mô hình CTRLConfig)
- data2vec-text — Data2VecTextForMaskedLM (mô hình Data2VecTextConfig)
- deberta — DebertaForMaskedLM (mô hình DebertaConfig)
- deberta-v2 — DebertaV2ForMaskedLM (mô hình DebertaV2Config)
- distilbert — DistilBertForMaskedLM (mô hình DistilBertConfig)
- electra — ElectraForPreTraining (mô hình ElectraConfig)
- ernie — ErnieForPreTraining (mô hình ErnieConfig)
- evolla — EvollaForProteinText2Text (mô hình EvollaConfig)
- exaone4 — Exaone4ForCausalLM (mô hình Exaone4Config)
- exaone_moe — ExaoneMoeForCausalLM (mô hình ExaoneMoeConfig)
- falcon_mamba — FalconMambaForCausalLM (mô hình FalconMambaConfig)
- flaubert — FlaubertWithLMHeadModel (mô hình FlaubertConfig)
- flava — FlavaForPreTraining (mô hình FlavaConfig)
- florence2 — Florence2ForConditionalGeneration (mô hình Florence2Config)
- fnet — FNetForPreTraining (mô hình FNetConfig)
- fsmt — FSMTForConditionalGeneration (mô hình FSMTConfig)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- funnel — FunnelForPreTraining (mô hình FunnelConfig)
- gemma3 — Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- gemma4 — Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- glmasr — GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- gpt-sw3 — GPT2LMHeadModel (mô hình GPT2Config)
- gpt2 — GPT2LMHeadModel (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeForCausalLM (mô hình GPTBigCodeConfig)
- hiera — HieraForPreTraining (mô hình HieraConfig)
- ibert — IBertForMaskedLM (mô hình IBertConfig)
- idefics — IdeficsForVisionText2Text (mô hình IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- inkling2 — Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- inkling_mm_model — InklingForConditionalGeneration (mô hình InklingConfig)
- janus — JanusForConditionalGeneration (mô hình JanusConfig)
- layoutlm — LayoutLMForMaskedLM (mô hình LayoutLMConfig)
- llava — LlavaForConditionalGeneration (mô hình LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- longformer — LongformerForMaskedLM (mô hình LongformerConfig)
- luke — LukeForMaskedLM (mô hình LukeConfig)
- lxmert — LxmertForPreTraining (mô hình LxmertConfig)
- mamba — MambaForCausalLM (mô hình MambaConfig)
- mamba2 — Mamba2ForCausalLM (mô hình Mamba2Config)
- megatron-bert — MegatronBertForPreTraining (mô hình MegatronBertConfig)
- mistral3 — Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- mistral4 — Mistral4ForCausalLM (mô hình Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (mô hình MllamaConfig)
- mobilebert — MobileBertForPreTraining (mô hình MobileBertConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- mpnet — MPNetForMaskedLM (mô hình MPNetConfig)
- mpt — MptForCausalLM (mô hình MptConfig)
- mra — MraForMaskedLM (mô hình MraConfig)
- musicflamingo — MusicFlamingoForConditionalGeneration (mô hình MusicFlamingoConfig)
- mvp — MvpForConditionalGeneration (mô hình MvpConfig)
- nanochat — NanoChatForCausalLM (mô hình NanoChatConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- nllb-moe — NllbMoeForConditionalGeneration (mô hình NllbMoeConfig)
- openai-gpt — OpenAIGPTLMHeadModel (mô hình OpenAIGPTConfig)
- paligemma — PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- roberta — RobertaForMaskedLM (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMaskedLM (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForPreTraining (mô hình RoCBertConfig)
- rwkv — RwkvForCausalLM (mô hình RwkvConfig)
- splinter — SplinterForPreTraining (mô hình SplinterConfig)
- squeezebert — SqueezeBertForMaskedLM (mô hình SqueezeBertConfig)
- switch_transformers — SwitchTransformersForConditionalGeneration (mô hình SwitchTransformersConfig)
- t5 — T5ForConditionalGeneration (mô hình T5Config)
- t5gemma — T5GemmaForConditionalGeneration (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- tapas — TapasForMaskedLM (mô hình TapasConfig)
- unispeech — UniSpeechForPreTraining (mô hình UniSpeechConfig)
- unispeech-sat — UniSpeechSatForPreTraining (mô hình UniSpeechSatConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- video_llava — VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- videomae — VideoMAEForPreTraining (mô hình VideoMAEConfig)
- vipllava — VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- visual_bert — VisualBertForPreTraining (mô hình VisualBertConfig)
- vit_mae — ViTMAEForPreTraining (mô hình ViTMAEConfig)
- voxtral — VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- wav2vec2 — Wav2Vec2ForPreTraining (mô hình Wav2Vec2Config)
- wav2vec2-conformer — Wav2Vec2ConformerForPreTraining (mô hình Wav2Vec2ConformerConfig)
- xlm — XLMWithLMHeadModel (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForMaskedLM (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMaskedLM (mô hình XLMRobertaXLConfig)
- xlnet — XLNetLMHeadModel (mô hình XLNetConfig)
- xlstm — xLSTMForCausalLM (mô hình xLSTMConfig)
- xmod — XmodForMaskedLM (mô hình XmodConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForPreTraining
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueXử lý ngôn ngữ tự nhiên
Các lớp tự động (auto classes) sau đây có sẵn cho các tác vụ xử lý ngôn ngữ tự nhiên sau.
AutoModelForCausalLM
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ nhân quả) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AXK1Config: AXK1ForCausalLM (mô hình AXK1Config)
- Lớp cấu hình AXK2Config: AXK2ForCausalLM (mô hình AXK2Config)
- Lớp cấu hình AfmoeConfig: AfmoeForCausalLM (mô hình AfmoeConfig)
- Lớp cấu hình ApertusConfig: ApertusForCausalLM (mô hình ApertusConfig)
- Lớp cấu hình ArceeConfig: ArceeForCausalLM (mô hình ArceeConfig)
- Lớp cấu hình AriaTextConfig: AriaTextForCausalLM (mô hình AriaTextConfig)
- Lớp cấu hình BailingHybridConfig: BailingHybridForCausalLM (mô hình BailingHybridConfig)
- Lớp cấu hình BambaConfig: BambaForCausalLM (mô hình BambaConfig)
- Lớp cấu hình BartConfig: BartForCausalLM (mô hình BartConfig)
- Lớp cấu hình BeamConfig: BeamForCausalLM (mô hình BeamConfig)
- Lớp cấu hình BertConfig: BertLMHeadModel (mô hình BertConfig)
- Lớp cấu hình BertGenerationConfig: BertGenerationDecoder (mô hình BertGenerationConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForCausalLM (mô hình BigBirdConfig)
- Lớp cấu hình BigBirdPegasusConfig: BigBirdPegasusForCausalLM (mô hình BigBirdPegasusConfig)
- Lớp cấu hình BioGptConfig: BioGptForCausalLM (mô hình BioGptConfig)
- Lớp cấu hình BitNetConfig: BitNetForCausalLM (mô hình BitNetConfig)
- Lớp cấu hình BlenderbotConfig: BlenderbotForCausalLM (mô hình BlenderbotConfig)
- Lớp cấu hình BlenderbotSmallConfig: BlenderbotSmallForCausalLM (mô hình BlenderbotSmallConfig)
- Lớp cấu hình BloomConfig: BloomForCausalLM (mô hình BloomConfig)
- Lớp cấu hình BltConfig: BltForCausalLM (mô hình BltConfig)
- Lớp cấu hình CTRLConfig: CTRLLMHeadModel (mô hình CTRLConfig)
- Lớp cấu hình CamembertConfig: CamembertForCausalLM (mô hình CamembertConfig)
- Lớp cấu hình CodeGenConfig: CodeGenForCausalLM (mô hình CodeGenConfig)
- Lớp cấu hình Cohere2Config: Cohere2ForCausalLM (mô hình Cohere2Config)
- Lớp cấu hình Cohere2MoeConfig: Cohere2MoeForCausalLM (mô hình Cohere2MoeConfig)
- Lớp cấu hình CohereCompassTextConfig: CohereCompassForCausalLM (mô hình CohereCompassTextConfig)
- Lớp cấu hình CohereConfig: CohereForCausalLM (mô hình CohereConfig)
- CpmAntConfig lớp cấu hình: CpmAntForCausalLM (mô hình CpmAntConfig)
- Lớp cấu hình CwmConfig: CwmForCausalLM (mô hình CwmConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForCausalLM (mô hình Data2VecTextConfig)
- Lớp cấu hình DbrxConfig: DbrxForCausalLM (mô hình DbrxConfig)
- Lớp cấu hình DeepseekV2Config: DeepseekV2ForCausalLM (mô hình DeepseekV2Config)
- Lớp cấu hình DeepseekV32Config: DeepseekV32ForCausalLM (mô hình DeepseekV32Config)
- Lớp cấu hình DeepseekV3Config: DeepseekV3ForCausalLM (mô hình DeepseekV3Config)
- Lớp cấu hình DeepseekV4Config: DeepseekV4ForCausalLM (mô hình DeepseekV4Config)
- Lớp cấu hình DiffLlamaConfig: DiffLlamaForCausalLM (mô hình DiffLlamaConfig)
- Lớp cấu hình DogeConfig: DogeForCausalLM (mô hình DogeConfig)
- Lớp cấu hình Dots1Config: Dots1ForCausalLM (mô hình Dots1Config)
- Lớp cấu hình Dots3NoteConfig: Dots3NoteForCausalLM (mô hình Dots3NoteConfig)
- Lớp cấu hình Dots3NoteTextConfig: Dots3NoteForCausalLM (mô hình Dots3NoteTextConfig)
- Lớp cấu hình ElectraConfig: ElectraForCausalLM (mô hình ElectraConfig)
- Lớp cấu hình Emu3Config: Emu3ForCausalLM (mô hình Emu3Config)
- Lớp cấu hình Ernie4_5Config: Ernie4_5ForCausalLM (mô hình Ernie4_5Config)
- Lớp cấu hình Ernie4_5_MoeConfig: Ernie4_5_MoeForCausalLM (mô hình Ernie4_5_MoeConfig)
- Lớp cấu hình ErnieConfig: ErnieForCausalLM (mô hình ErnieConfig)
- Lớp cấu hình Exaone4Config: Exaone4ForCausalLM (mô hình Exaone4Config)
- Lớp cấu hình ExaoneMoeConfig: ExaoneMoeForCausalLM (mô hình ExaoneMoeConfig)
- Lớp cấu hình FalconConfig: FalconForCausalLM (mô hình FalconConfig)
- Lớp cấu hình FalconH1Config: FalconH1ForCausalLM (mô hình FalconH1Config)
- Lớp cấu hình FalconMambaConfig: FalconMambaForCausalLM (mô hình FalconMambaConfig)
- Lớp cấu hình FlexOlmoConfig: FlexOlmoForCausalLM (mô hình FlexOlmoConfig)
- Lớp cấu hình FlintConfig: FlintForCausalLM (mô hình FlintConfig)
- Lớp cấu hình FuyuConfig: FuyuForCausalLM (mô hình FuyuConfig)
- lớp cấu hình GPT2Config: GPT2LMHeadModel (mô hình GPT2Config)
- Lớp cấu hình GPTBigCodeConfig: GPTBigCodeForCausalLM (mô hình GPTBigCodeConfig)
- Lớp cấu hình GPTJConfig: GPTJForCausalLM (mô hình GPTJConfig)
- Lớp cấu hình GPTNeoConfig: GPTNeoForCausalLM (mô hình GPTNeoConfig)
- Lớp cấu hình GPTNeoXConfig: GPTNeoXForCausalLM (mô hình GPTNeoXConfig)
- Lớp cấu hình GPTNeoXJapaneseConfig: GPTNeoXJapaneseForCausalLM (mô hình GPTNeoXJapaneseConfig)
- Lớp cấu hình Gemma2Config: Gemma2ForCausalLM (mô hình Gemma2Config)
- Lớp cấu hình Gemma3Config: Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- Lớp cấu hình Gemma3TextConfig: Gemma3ForCausalLM (mô hình Gemma3TextConfig)
- Lớp cấu hình Gemma3nConfig: Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- Lớp cấu hình Gemma3nTextConfig: Gemma3nForCausalLM (mô hình Gemma3nTextConfig)
- Lớp cấu hình Gemma4AssistantConfig: Gemma4AssistantForCausalLM (mô hình Gemma4AssistantConfig)
- Lớp cấu hình Gemma4Config: Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- Lớp cấu hình Gemma4TextConfig: Gemma4ForCausalLM (mô hình Gemma4TextConfig)
- Lớp cấu hình Gemma4UnifiedAssistantConfig: Gemma4UnifiedAssistantForCausalLM (mô hình Gemma4UnifiedAssistantConfig)
- Lớp cấu hình Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- Lớp cấu hình Gemma4UnifiedTextConfig: Gemma4UnifiedForCausalLM (mô hình Gemma4UnifiedTextConfig)
- Lớp cấu hình GemmaConfig: GemmaForCausalLM (mô hình GemmaConfig)
- Lớp cấu hình GitConfig: GitForCausalLM (mô hình GitConfig)
- Lớp cấu hình Glm4Config: Glm4ForCausalLM (mô hình Glm4Config)
- Lớp cấu hình Glm4MoeConfig: Glm4MoeForCausalLM (mô hình Glm4MoeConfig)
- Lớp cấu hình Glm4MoeLiteConfig: Glm4MoeLiteForCausalLM (mô hình Glm4MoeLiteConfig)
- Lớp cấu hình GlmConfig: GlmForCausalLM (mô hình GlmConfig)
- Lớp cấu hình GlmMoeDsaConfig: GlmMoeDsaForCausalLM (mô hình GlmMoeDsaConfig)
- Lớp cấu hình GotOcr2Config: GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- Lớp cấu hình GptOssConfig: GptOssForCausalLM (mô hình GptOssConfig)
- Lớp cấu hình GraniteConfig: GraniteForCausalLM (mô hình GraniteConfig)
- Lớp cấu hình GraniteMoeConfig: GraniteMoeForCausalLM (mô hình GraniteMoeConfig)
- Lớp cấu hình GraniteMoeHybridConfig: GraniteMoeHybridForCausalLM (mô hình GraniteMoeHybridConfig)
- Lớp cấu hình GraniteMoeSWAConfig: GraniteMoeSWAForCausalLM (mô hình GraniteMoeSWAConfig)
- Lớp cấu hình GraniteMoeSharedConfig: GraniteMoeSharedForCausalLM (mô hình GraniteMoeSharedConfig)
- Lớp cấu hình GraniteSWAConfig: GraniteSWAForCausalLM (mô hình GraniteSWAConfig)
- Lớp cấu hình HYV3Config: HYV3ForCausalLM (mô hình HYV3Config)
- Lớp cấu hình HYV4Config: HYV4ForCausalLM (mô hình HYV4Config)
- Lớp cấu hình HeliumConfig: HeliumForCausalLM (mô hình HeliumConfig)
- Lớp cấu hình HrmTextConfig: HrmTextForCausalLM (mô hình HrmTextConfig)
- Lớp cấu hình HunYuanDenseV1Config: HunYuanDenseV1ForCausalLM (mô hình HunYuanDenseV1Config)
- Lớp cấu hình HunYuanMoEV1Config: HunYuanMoEV1ForCausalLM (mô hình HunYuanMoEV1Config)
- Lớp cấu hình HyperCLOVAXConfig: HyperCLOVAXForCausalLM (mô hình HyperCLOVAXConfig)
- Lớp cấu hình IQuestCoderConfig: LlamaForCausalLM (mô hình IQuestCoderConfig)
- Lớp cấu hình Inkling2TextConfig: Inkling2ForCausalLM (mô hình Inkling2TextConfig)
- Lớp cấu hình InklingTextConfig: InklingForCausalLM (mô hình InklingTextConfig)
- Lớp cấu hình InternLM3Config: LlamaForCausalLM (mô hình InternLM3Config)
- Lớp cấu hình Jais2Config: Jais2ForCausalLM (mô hình Jais2Config)
- Lớp cấu hình JambaConfig: JambaForCausalLM (mô hình JambaConfig)
- Lớp cấu hình JetMoeConfig: JetMoeForCausalLM (mô hình JetMoeConfig)
- Lớp cấu hình KimiLinearConfig: KimiLinearForCausalLM (mô hình KimiLinearConfig)
- Lớp cấu hình Kolibri1Config: Kolibri1ForCausalLM (mô hình Kolibri1Config)
- Lớp cấu hình LagunaConfig: LagunaForCausalLM (mô hình LagunaConfig)
- Lớp cấu hình Lfm2Config: Lfm2ForCausalLM (mô hình Lfm2Config)
- Lớp cấu hình Lfm2MoeConfig: Lfm2MoeForCausalLM (mô hình Lfm2MoeConfig)
- Lớp cấu hình Lfm3Config: Lfm3ForCausalLM (mô hình Lfm3Config)
- Lớp cấu hình Llama4Config: Llama4ForCausalLM (mô hình Llama4Config)
- Lớp cấu hình Llama4TextConfig: Llama4ForCausalLM (mô hình Llama4TextConfig)
- Lớp cấu hình LlamaConfig: LlamaForCausalLM (mô hình LlamaConfig)
- Lớp cấu hình LongcatFlashConfig: LongcatFlashForCausalLM (mô hình LongcatFlashConfig)
- Lớp cấu hình MBartConfig: MBartForCausalLM (mô hình MBartConfig)
- Lớp cấu hình Mamba2Config: Mamba2ForCausalLM (mô hình Mamba2Config)
- Lớp cấu hình MambaConfig: MambaForCausalLM (mô hình MambaConfig)
- Lớp cấu hình MarianConfig: MarianForCausalLM (mô hình MarianConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForCausalLM (mô hình MegatronBertConfig)
- Lớp cấu hình MellumConfig: MellumForCausalLM (mô hình MellumConfig)
- Lớp cấu hình MiMoV2FlashConfig: MiMoV2FlashForCausalLM (mô hình MiMoV2FlashConfig)
- Lớp cấu hình MiniCPM3Config: MiniCPM3ForCausalLM (mô hình MiniCPM3Config)
- Lớp cấu hình MiniMaxConfig: MiniMaxForCausalLM (mô hình MiniMaxConfig)
- Lớp cấu hình MiniMaxM2Config: MiniMaxM2ForCausalLM (mô hình MiniMaxM2Config)
- Lớp cấu hình MiniMaxM3VLTextConfig: MiniMaxM3VLForCausalLM (mô hình MiniMaxM3VLTextConfig)
- Lớp cấu hình Ministral3Config: Ministral3ForCausalLM (mô hình Ministral3Config)
- Lớp cấu hình MinistralConfig: MinistralForCausalLM (mô hình MinistralConfig)
- Lớp cấu hình MistralConfig: MistralForCausalLM (mô hình MistralConfig)
- Lớp cấu hình MixtralConfig: MixtralForCausalLM (mô hình MixtralConfig)
- Lớp cấu hình MllamaConfig: MllamaForCausalLM (mô hình MllamaConfig)
- Lớp cấu hình ModernBertDecoderConfig: ModernBertDecoderForCausalLM (mô hình ModernBertDecoderConfig)
- Lớp cấu hình MoshiConfig: MoshiForCausalLM (mô hình MoshiConfig)
- Lớp cấu hình MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- Lớp cấu hình MptConfig: MptForCausalLM (mô hình MptConfig)
- Lớp cấu hình MusicgenConfig: MusicgenForCausalLM (mô hình MusicgenConfig)
- Lớp cấu hình MusicgenMelodyConfig: MusicgenMelodyForCausalLM (mô hình MusicgenMelodyConfig)
- Lớp cấu hình MvpConfig: MvpForCausalLM (mô hình MvpConfig)
- Lớp cấu hình NanoChatConfig: NanoChatForCausalLM (mô hình NanoChatConfig)
- Lớp cấu hình NemotronConfig: NemotronForCausalLM (mô hình NemotronConfig)
- Lớp cấu hình NemotronHConfig: NemotronHForCausalLM (mô hình NemotronHConfig)
- Lớp cấu hình OPTConfig: OPTForCausalLM (mô hình OPTConfig)
- Lớp cấu hình Olmo2Config: Olmo2ForCausalLM (mô hình Olmo2Config)
- Lớp cấu hình Olmo3Config: Olmo3ForCausalLM (mô hình Olmo3Config)
- Lớp cấu hình OlmoConfig: OlmoForCausalLM (mô hình OlmoConfig)
- Lớp cấu hình OlmoHybridConfig: OlmoHybridForCausalLM (mô hình OlmoHybridConfig)
- Lớp cấu hình OlmoeConfig: OlmoeForCausalLM (mô hình OlmoeConfig)
- Lớp cấu hình OpenAIGPTConfig: OpenAIGPTLMHeadModel (mô hình OpenAIGPTConfig)
- Lớp cấu hình PLBartConfig: PLBartForCausalLM (mô hình PLBartConfig)
- Lớp cấu hình PegasusConfig: PegasusForCausalLM (mô hình PegasusConfig)
- Lớp cấu hình PersimmonConfig: PersimmonForCausalLM (mô hình PersimmonConfig)
- Lớp cấu hình Phi3Config: Phi3ForCausalLM (mô hình Phi3Config)
- Lớp cấu hình Phi4MultimodalConfig: Phi4MultimodalForCausalLM (mô hình Phi4MultimodalConfig)
- Lớp cấu hình PhiConfig: PhiForCausalLM (mô hình PhiConfig)
- Lớp cấu hình PhimoeConfig: PhimoeForCausalLM (mô hình PhimoeConfig)
- Lớp cấu hình ProphetNetConfig: ProphetNetForCausalLM (mô hình ProphetNetConfig)
- Lớp cấu hình Qwen2Config: Qwen2ForCausalLM (mô hình Qwen2Config)
- Lớp cấu hình Qwen2MoeConfig: Qwen2MoeForCausalLM (mô hình Qwen2MoeConfig)
- Lớp cấu hình Qwen3Config: Qwen3ForCausalLM (mô hình Qwen3Config)
- Lớp cấu hình Qwen3MoeConfig: Qwen3MoeForCausalLM (mô hình Qwen3MoeConfig)
- Lớp cấu hình Qwen3NextConfig: Qwen3NextForCausalLM (mô hình Qwen3NextConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5ForCausalLM (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5MoeConfig: Qwen3_5MoeForCausalLM (mô hình Qwen3_5MoeConfig)
- Lớp cấu hình Qwen3_5MoeTextConfig: Qwen3_5MoeForCausalLM (mô hình Qwen3_5MoeTextConfig)
- Lớp cấu hình Qwen3_5TextConfig: Qwen3_5ForCausalLM (mô hình Qwen3_5TextConfig)
- Lớp cấu hình Qwen4ExpConfig: Qwen4ExpForCausalLM (mô hình Qwen4ExpConfig)
- Lớp cấu hình Qwen4ExpTextConfig: Qwen4ExpForCausalLM (mô hình Qwen4ExpTextConfig)
- Lớp cấu hình RecurrentGemmaConfig: RecurrentGemmaForCausalLM (mô hình RecurrentGemmaConfig)
- Lớp cấu hình ReformerConfig: ReformerModelWithLMHead (mô hình ReformerConfig)
- Lớp cấu hình RemBertConfig: RemBertForCausalLM (mô hình RemBertConfig)
- Lớp cấu hình RoCBertConfig: RoCBertForCausalLM (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerForCausalLM (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForCausalLM (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForCausalLM (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình RwkvConfig: RwkvForCausalLM (mô hình RwkvConfig)
- Lớp cấu hình SeedOssConfig: SeedOssForCausalLM (mô hình SeedOssConfig)
- Lớp cấu hình SmolLM3Config: SmolLM3ForCausalLM (mô hình SmolLM3Config)
- Lớp cấu hình SolarOpenConfig: SolarOpenForCausalLM (mô hình SolarOpenConfig)
- Lớp cấu hình StableLmConfig: StableLmForCausalLM (mô hình StableLmConfig)
- Lớp cấu hình Starcoder2Config: Starcoder2ForCausalLM (mô hình Starcoder2Config)
- Lớp cấu hình TrOCRConfig: TrOCRForCausalLM (mô hình TrOCRConfig)
- Lớp cấu hình VaultGemmaConfig: VaultGemmaForCausalLM (mô hình VaultGemmaConfig)
- Lớp cấu hình WhisperConfig: WhisperForCausalLM (mô hình WhisperConfig)
- Lớp cấu hình XGLMConfig: XGLMForCausalLM (mô hình XGLMConfig)
- Lớp cấu hình XLMConfig: XLMWithLMHeadModel (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForCausalLM (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForCausalLM (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetLMHeadModel (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForCausalLM (mô hình XmodConfig)
- Lớp cấu hình YoutuConfig: YoutuForCausalLM (mô hình YoutuConfig)
- Lớp cấu hình Zamba2Config: Zamba2ForCausalLM (mô hình Zamba2Config)
- Lớp cấu hình ZambaConfig: ZambaForCausalLM (mô hình ZambaConfig)
- Lớp cấu hình ZayaConfig: ZayaForCausalLM (mô hình ZayaConfig)
- lớp cấu hình xLSTMConfig: xLSTMForCausalLM (mô hình xLSTMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ nhân quả) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ nhân quả) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- afmoe — AfmoeForCausalLM (mô hình AfmoeConfig)
- apertus — ApertusForCausalLM (mô hình ApertusConfig)
- arcee — ArceeForCausalLM (mô hình ArceeConfig)
- aria_text — AriaTextForCausalLM (mô hình AriaTextConfig)
- axk1 — AXK1ForCausalLM (mô hình AXK1Config)
- axk2 — AXK2ForCausalLM (mô hình AXK2Config)
- bailing_hybrid — BailingHybridForCausalLM (mô hình BailingHybridConfig)
- bamba — BambaForCausalLM (mô hình BambaConfig)
- bart — BartForCausalLM (mô hình BartConfig)
- beam — BeamForCausalLM (mô hình BeamConfig)
- bert — BertLMHeadModel (mô hình BertConfig)
- bert-generation — BertGenerationDecoder (mô hình BertGenerationConfig)
- big_bird — BigBirdForCausalLM (mô hình BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForCausalLM (mô hình BigBirdPegasusConfig)
- biogpt — BioGptForCausalLM (mô hình BioGptConfig)
- bitnet — BitNetForCausalLM (mô hình BitNetConfig)
- blenderbot — BlenderbotForCausalLM (mô hình BlenderbotConfig)
- blenderbot-small — BlenderbotSmallForCausalLM (mô hình BlenderbotSmallConfig)
- bloom — BloomForCausalLM (mô hình BloomConfig)
- blt — BltForCausalLM (mô hình BltConfig)
- camembert — CamembertForCausalLM (mô hình CamembertConfig)
- codegen — CodeGenForCausalLM (mô hình CodeGenConfig)
- cohere — CohereForCausalLM (mô hình CohereConfig)
- cohere2 — Cohere2ForCausalLM (mô hình Cohere2Config)
- cohere2_moe — Cohere2MoeForCausalLM (mô hình Cohere2MoeConfig)
- cohere_compass_text — CohereCompassForCausalLM (mô hình CohereCompassTextConfig)
- cpmant — CpmAntForCausalLM (mô hình CpmAntConfig)
- ctrl — CTRLLMHeadModel (mô hình CTRLConfig)
- cwm — CwmForCausalLM (mô hình CwmConfig)
- data2vec-text — Data2VecTextForCausalLM (mô hình Data2VecTextConfig)
- dbrx — DbrxForCausalLM (mô hình DbrxConfig)
- deepseek_v2 — DeepseekV2ForCausalLM (mô hình DeepseekV2Config)
- deepseek_v3 — DeepseekV3ForCausalLM (mô hình DeepseekV3Config)
- deepseek_v32 — DeepseekV32ForCausalLM (mô hình DeepseekV32Config)
- deepseek_v4 — DeepseekV4ForCausalLM (mô hình DeepseekV4Config)
- diffllama — DiffLlamaForCausalLM (mô hình DiffLlamaConfig)
- doge — DogeForCausalLM (mô hình DogeConfig)
- dots1 — Dots1ForCausalLM (mô hình Dots1Config)
- dots3_note — Dots3NoteForCausalLM (mô hình Dots3NoteConfig)
- dots3_note_text — Dots3NoteForCausalLM (mô hình Dots3NoteTextConfig)
- electra — ElectraForCausalLM (mô hình ElectraConfig)
- emu3 — Emu3ForCausalLM (mô hình Emu3Config)
- ernie — ErnieForCausalLM (mô hình ErnieConfig)
- ernie4_5 — Ernie4_5ForCausalLM (mô hình Ernie4_5Config)
- ernie4_5_moe — Ernie4_5_MoeForCausalLM (mô hình Ernie4_5_MoeConfig)
- exaone4 — Exaone4ForCausalLM (mô hình Exaone4Config)
- exaone_moe — ExaoneMoeForCausalLM (mô hình ExaoneMoeConfig)
- falcon — FalconForCausalLM (mô hình FalconConfig)
- falcon_h1 — FalconH1ForCausalLM (mô hình FalconH1Config)
- falcon_mamba — FalconMambaForCausalLM (mô hình FalconMambaConfig)
- flex_olmo — FlexOlmoForCausalLM (mô hình FlexOlmoConfig)
- flint — FlintForCausalLM (mô hình FlintConfig)
- fuyu — FuyuForCausalLM (mô hình FuyuConfig)
- gemma — GemmaForCausalLM (mô hình GemmaConfig)
- gemma2 — Gemma2ForCausalLM (mô hình Gemma2Config)
- gemma3 — Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- gemma3_text — Gemma3ForCausalLM (mô hình Gemma3TextConfig)
- gemma3n — Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- gemma3n_text — Gemma3nForCausalLM (mô hình Gemma3nTextConfig)
- gemma4 — Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- gemma4_assistant — Gemma4AssistantForCausalLM (mô hình Gemma4AssistantConfig)
- gemma4_text — Gemma4ForCausalLM (mô hình Gemma4TextConfig)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- gemma4_unified_assistant — Gemma4UnifiedAssistantForCausalLM (mô hình Gemma4UnifiedAssistantConfig)
- gemma4_unified_text — Gemma4UnifiedForCausalLM (mô hình Gemma4UnifiedTextConfig)
- git — GitForCausalLM (mô hình GitConfig)
- glm — GlmForCausalLM (mô hình GlmConfig)
- glm4 — Glm4ForCausalLM (mô hình Glm4Config)
- glm4_moe — Glm4MoeForCausalLM (mô hình Glm4MoeConfig)
- glm4_moe_lite — Glm4MoeLiteForCausalLM (mô hình Glm4MoeLiteConfig)
- glm_moe_dsa — GlmMoeDsaForCausalLM (mô hình GlmMoeDsaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- gpt-sw3 — GPT2LMHeadModel (mô hình GPT2Config)
- gpt2 — GPT2LMHeadModel (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeForCausalLM (mô hình GPTBigCodeConfig)
- gpt_neo — GPTNeoForCausalLM (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXForCausalLM (mô hình GPTNeoXConfig)
- gpt_neox_japanese — GPTNeoXJapaneseForCausalLM (mô hình GPTNeoXJapaneseConfig)
- gpt_oss — GptOssForCausalLM (mô hình GptOssConfig)
- gptj — GPTJForCausalLM (mô hình GPTJConfig)
- granite — GraniteForCausalLM (mô hình GraniteConfig)
- granite_swa — GraniteSWAForCausalLM (mô hình GraniteSWAConfig)
- granitemoe — GraniteMoeForCausalLM (mô hình GraniteMoeConfig)
- granitemoe_swa — GraniteMoeSWAForCausalLM (mô hình GraniteMoeSWAConfig)
- granitemoehybrid — GraniteMoeHybridForCausalLM (mô hình GraniteMoeHybridConfig)
- granitemoeshared — GraniteMoeSharedForCausalLM (mô hình GraniteMoeSharedConfig)
- helium — HeliumForCausalLM (mô hình HeliumConfig)
- hrm_text — HrmTextForCausalLM (mô hình HrmTextConfig)
- hunyuan_v1_dense — HunYuanDenseV1ForCausalLM (mô hình HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1ForCausalLM (mô hình HunYuanMoEV1Config)
- hy_v3 — HYV3ForCausalLM (mô hình HYV3Config)
- hy_v4 — HYV4ForCausalLM (mô hình HYV4Config)
- hyperclovax — HyperCLOVAXForCausalLM (mô hình HyperCLOVAXConfig)
- inkling2_text — Inkling2ForCausalLM (mô hình Inkling2TextConfig)
- inkling_text — InklingForCausalLM (mô hình InklingTextConfig)
- internlm3 — LlamaForCausalLM (mô hình InternLM3Config)
- iquestcoder — LlamaForCausalLM (mô hình IQuestCoderConfig)
- jais2 — Jais2ForCausalLM (mô hình Jais2Config)
- jamba — JambaForCausalLM (mô hình JambaConfig)
- jetmoe — JetMoeForCausalLM (mô hình JetMoeConfig)
- kimi_linear — KimiLinearForCausalLM (mô hình KimiLinearConfig)
- kolibri1 — Kolibri1ForCausalLM (mô hình Kolibri1Config)
- laguna — LagunaForCausalLM (mô hình LagunaConfig)
- lfm2 — Lfm2ForCausalLM (mô hình Lfm2Config)
- lfm2_moe — Lfm2MoeForCausalLM (mô hình Lfm2MoeConfig)
- lfm3 — Lfm3ForCausalLM (mô hình Lfm3Config)
- llama — LlamaForCausalLM (mô hình LlamaConfig)
- llama4 — Llama4ForCausalLM (mô hình Llama4Config)
- llama4_text — Llama4ForCausalLM (mô hình Llama4TextConfig)
- longcat_flash — LongcatFlashForCausalLM (mô hình LongcatFlashConfig)
- mamba — MambaForCausalLM (mô hình MambaConfig)
- mamba2 — Mamba2ForCausalLM (mô hình Mamba2Config)
- marian — MarianForCausalLM (mô hình MarianConfig)
- mbart — MBartForCausalLM (mô hình MBartConfig)
- megatron-bert — MegatronBertForCausalLM (mô hình MegatronBertConfig)
- mellum — MellumForCausalLM (mô hình MellumConfig)
- mimo_v2_flash — MiMoV2FlashForCausalLM (mô hình MiMoV2FlashConfig)
- minicpm3 — MiniCPM3ForCausalLM (mô hình MiniCPM3Config)
- minimax — MiniMaxForCausalLM (mô hình MiniMaxConfig)
- minimax_m2 — MiniMaxM2ForCausalLM (mô hình MiniMaxM2Config)
- minimax_m3_vl_text — MiniMaxM3VLForCausalLM (mô hình MiniMaxM3VLTextConfig)
- ministral — MinistralForCausalLM (mô hình MinistralConfig)
- ministral3 — Ministral3ForCausalLM (mô hình Ministral3Config)
- mistral — MistralForCausalLM (mô hình MistralConfig)
- mixtral — MixtralForCausalLM (mô hình MixtralConfig)
- mllama — MllamaForCausalLM (mô hình MllamaConfig)
- modernbert-decoder — ModernBertDecoderForCausalLM (mô hình ModernBertDecoderConfig)
- moshi — MoshiForCausalLM (mô hình MoshiConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- mpt — MptForCausalLM (mô hình MptConfig)
- musicgen — MusicgenForCausalLM (mô hình MusicgenConfig)
- musicgen_melody — MusicgenMelodyForCausalLM (mô hình MusicgenMelodyConfig)
- mvp — MvpForCausalLM (mô hình MvpConfig)
- nanochat — NanoChatForCausalLM (mô hình NanoChatConfig)
- nemotron — NemotronForCausalLM (mô hình NemotronConfig)
- nemotron_h — NemotronHForCausalLM (mô hình NemotronHConfig)
- olmo — OlmoForCausalLM (mô hình OlmoConfig)
- olmo2 — Olmo2ForCausalLM (mô hình Olmo2Config)
- olmo3 — Olmo3ForCausalLM (mô hình Olmo3Config)
- olmo_hybrid — OlmoHybridForCausalLM (mô hình OlmoHybridConfig)
- olmoe — OlmoeForCausalLM (mô hình OlmoeConfig)
- openai-gpt — OpenAIGPTLMHeadModel (mô hình OpenAIGPTConfig)
- opt — OPTForCausalLM (mô hình OPTConfig)
- pegasus — PegasusForCausalLM (mô hình PegasusConfig)
- persimmon — PersimmonForCausalLM (mô hình PersimmonConfig)
- phi — PhiForCausalLM (mô hình PhiConfig)
- phi3 — Phi3ForCausalLM (mô hình Phi3Config)
- phi4_multimodal — Phi4MultimodalForCausalLM (mô hình Phi4MultimodalConfig)
- phimoe — PhimoeForCausalLM (mô hình PhimoeConfig)
- plbart — PLBartForCausalLM (mô hình PLBartConfig)
- prophetnet — ProphetNetForCausalLM (mô hình ProphetNetConfig)
- qwen2 — Qwen2ForCausalLM (mô hình Qwen2Config)
- qwen2_moe — Qwen2MoeForCausalLM (mô hình Qwen2MoeConfig)
- qwen3 — Qwen3ForCausalLM (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5ForCausalLM (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForCausalLM (mô hình Qwen3_5MoeConfig)
- qwen3_5_moe_text — Qwen3_5MoeForCausalLM (mô hình Qwen3_5MoeTextConfig)
- qwen3_5_text — Qwen3_5ForCausalLM (mô hình Qwen3_5TextConfig)
- qwen3_moe — Qwen3MoeForCausalLM (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextForCausalLM (mô hình Qwen3NextConfig)
- qwen4_exp — Qwen4ExpForCausalLM (mô hình Qwen4ExpConfig)
- qwen4_exp_text — Qwen4ExpForCausalLM (mô hình Qwen4ExpTextConfig)
- recurrent_gemma — RecurrentGemmaForCausalLM (mô hình RecurrentGemmaConfig)
- reformer — ReformerModelWithLMHead (mô hình ReformerConfig)
- rembert — RemBertForCausalLM (mô hình RemBertConfig)
- roberta — RobertaForCausalLM (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForCausalLM (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForCausalLM (mô hình RoCBertConfig)
- roformer — RoFormerForCausalLM (mô hình RoFormerConfig)
- rwkv — RwkvForCausalLM (mô hình RwkvConfig)
- seed_oss — SeedOssForCausalLM (mô hình SeedOssConfig)
- smollm3 — SmolLM3ForCausalLM (mô hình SmolLM3Config)
- solar_open — SolarOpenForCausalLM (mô hình SolarOpenConfig)
- stablelm — StableLmForCausalLM (mô hình StableLmConfig)
- starcoder2 — Starcoder2ForCausalLM (mô hình Starcoder2Config)
- trocr — TrOCRForCausalLM (mô hình TrOCRConfig)
- vaultgemma — VaultGemmaForCausalLM (mô hình VaultGemmaConfig)
- whisper — WhisperForCausalLM (mô hình WhisperConfig)
- xglm — XGLMForCausalLM (mô hình XGLMConfig)
- xlm — XLMWithLMHeadModel (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForCausalLM (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForCausalLM (mô hình XLMRobertaXLConfig)
- xlnet — XLNetLMHeadModel (mô hình XLNetConfig)
- xlstm — xLSTMForCausalLM (mô hình xLSTMConfig)
- xmod — XmodForCausalLM (mô hình XmodConfig)
- youtu — YoutuForCausalLM (mô hình YoutuConfig)
- zamba — ZambaForCausalLM (mô hình ZambaConfig)
- zamba2 — Zamba2ForCausalLM (mô hình Zamba2Config)
- zaya — ZayaForCausalLM (mô hình ZayaConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForCausalLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMaskedLM
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình ngôn ngữ có che) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AlbertConfig: AlbertForMaskedLM (mô hình AlbertConfig)
- Lớp cấu hình BartConfig: BartForConditionalGeneration (mô hình BartConfig)
- Lớp cấu hình BertConfig: BertForMaskedLM (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForMaskedLM (mô hình BigBirdConfig)
- Lớp cấu hình CamembertConfig: CamembertForMaskedLM (mô hình CamembertConfig)
- Lớp cấu hình ConvBertConfig: ConvBertForMaskedLM (mô hình ConvBertConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForMaskedLM (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaConfig: DebertaForMaskedLM (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForMaskedLM (mô hình DebertaV2Config)
- Lớp cấu hình DistilBertConfig: DistilBertForMaskedLM (mô hình DistilBertConfig)
- Lớp cấu hình ElectraConfig: ElectraForMaskedLM (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForMaskedLM (mô hình ErnieConfig)
- Lớp cấu hình EsmConfig: EsmForMaskedLM (mô hình EsmConfig)
- Lớp cấu hình EsmcConfig: EsmcForMaskedLM (mô hình EsmcConfig)
- Lớp cấu hình EuroBertConfig: EuroBertForMaskedLM (mô hình EuroBertConfig)
- Lớp cấu hình FNetConfig: FNetForMaskedLM (mô hình FNetConfig)
- Lớp cấu hình FlaubertConfig: FlaubertWithLMHeadModel (mô hình FlaubertConfig)
- Lớp cấu hình FunnelConfig: FunnelForMaskedLM (mô hình FunnelConfig)
- Lớp cấu hình GteConfig: GteForMaskedLM (mô hình GteConfig)
- Lớp cấu hình IBertConfig: IBertForMaskedLM (mô hình IBertConfig)
- Lớp cấu hình JinaEmbeddingsV3Config: JinaEmbeddingsV3ForMaskedLM (mô hình JinaEmbeddingsV3Config)
- Lớp cấu hình LayoutLMConfig: LayoutLMForMaskedLM (mô hình LayoutLMConfig)
- Lớp cấu hình LongformerConfig: LongformerForMaskedLM (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForMaskedLM (mô hình LukeConfig)
- Lớp cấu hình MBartConfig: MBartForConditionalGeneration (mô hình MBartConfig)
- Lớp cấu hình MPNetConfig: MPNetForMaskedLM (mô hình MPNetConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForMaskedLM (mô hình MegatronBertConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForMaskedLM (mô hình MobileBertConfig)
- Lớp cấu hình ModernBertConfig: ModernBertForMaskedLM (mô hình ModernBertConfig)
- Lớp cấu hình ModernVBertConfig: ModernVBertForMaskedLM (mô hình ModernVBertConfig)
- Lớp cấu hình MraConfig: MraForMaskedLM (mô hình MraConfig)
- Lớp cấu hình MvpConfig: MvpForConditionalGeneration (mô hình MvpConfig)
- Lớp cấu hình NeoMMEConfig: NeoMMEForMaskedLM (mô hình NeoMMEConfig)
- Lớp cấu hình NomicBertConfig: NomicBertForMaskedLM (mô hình NomicBertConfig)
- Lớp cấu hình NystromformerConfig: NystromformerForMaskedLM (mô hình NystromformerConfig)
- Lớp cấu hình PerceiverConfig: PerceiverForMaskedLM (mô hình PerceiverConfig)
- Lớp cấu hình ReformerConfig: ReformerForMaskedLM (mô hình ReformerConfig)
- RemBertConfig lớp cấu hình: RemBertForMaskedLM (mô hình RemBertConfig)
- RoCBertConfig lớp cấu hình: RoCBertForMaskedLM (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerForMaskedLM (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForMaskedLM (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForMaskedLM (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForMaskedLM (mô hình SqueezeBertConfig)
- Lớp cấu hình TapasConfig: TapasForMaskedLM (mô hình TapasConfig)
- Lớp cấu hình UltraVBertConfig: UltraVBertForMaskedLM (mô hình UltraVBertConfig)
- Lớp cấu hình UltrabertConfig: UltrabertForMaskedLM (mô hình UltrabertConfig)
- Lớp cấu hình XLMConfig: XLMWithLMHeadModel (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForMaskedLM (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForMaskedLM (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XmodConfig: XmodForMaskedLM (mô hình XmodConfig)
- Lớp cấu hình YosoConfig: YosoForMaskedLM (mô hình YosoConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ có che) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ có che) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForMaskedLM (mô hình AlbertConfig)
- bart — BartForConditionalGeneration (mô hình BartConfig)
- bert — BertForMaskedLM (mô hình BertConfig)
- big_bird — BigBirdForMaskedLM (mô hình BigBirdConfig)
- camembert — CamembertForMaskedLM (mô hình CamembertConfig)
- convbert — ConvBertForMaskedLM (mô hình ConvBertConfig)
- data2vec-text — Data2VecTextForMaskedLM (mô hình Data2VecTextConfig)
- deberta — DebertaForMaskedLM (mô hình DebertaConfig)
- deberta-v2 — DebertaV2ForMaskedLM (mô hình DebertaV2Config)
- distilbert — DistilBertForMaskedLM (mô hình DistilBertConfig)
- electra — ElectraForMaskedLM (mô hình ElectraConfig)
- ernie — ErnieForMaskedLM (mô hình ErnieConfig)
- esm — EsmForMaskedLM (mô hình EsmConfig)
- esmc — EsmcForMaskedLM (mô hình EsmcConfig)
- eurobert — EuroBertForMaskedLM (mô hình EuroBertConfig)
- flaubert — FlaubertWithLMHeadModel (mô hình FlaubertConfig)
- fnet — FNetForMaskedLM (mô hình FNetConfig)
- funnel — FunnelForMaskedLM (mô hình FunnelConfig)
- gte — GteForMaskedLM (mô hình GteConfig)
- ibert — IBertForMaskedLM (mô hình IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForMaskedLM (mô hình JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForMaskedLM (mô hình LayoutLMConfig)
- longformer — LongformerForMaskedLM (mô hình LongformerConfig)
- luke — LukeForMaskedLM (mô hình LukeConfig)
- mbart — MBartForConditionalGeneration (mô hình MBartConfig)
- megatron-bert — MegatronBertForMaskedLM (mô hình MegatronBertConfig)
- mobilebert — MobileBertForMaskedLM (mô hình MobileBertConfig)
- modernbert — ModernBertForMaskedLM (mô hình ModernBertConfig)
- modernvbert — ModernVBertForMaskedLM (mô hình ModernVBertConfig)
- mpnet — MPNetForMaskedLM (mô hình MPNetConfig)
- mra — MraForMaskedLM (mô hình MraConfig)
- mvp — MvpForConditionalGeneration (mô hình MvpConfig)
- neomme — NeoMMEForMaskedLM (mô hình NeoMMEConfig)
- nomic_bert — NomicBertForMaskedLM (mô hình NomicBertConfig)
- nystromformer — NystromformerForMaskedLM (mô hình NystromformerConfig)
- perceiver — PerceiverForMaskedLM (mô hình PerceiverConfig)
- reformer — ReformerForMaskedLM (mô hình ReformerConfig)
- rembert — RemBertForMaskedLM (mô hình RemBertConfig)
- roberta — RobertaForMaskedLM (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMaskedLM (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForMaskedLM (mô hình RoCBertConfig)
- roformer — RoFormerForMaskedLM (mô hình RoFormerConfig)
- squeezebert — SqueezeBertForMaskedLM (mô hình SqueezeBertConfig)
- tapas — TapasForMaskedLM (mô hình TapasConfig)
- ultrabert — UltrabertForMaskedLM (mô hình UltrabertConfig)
- ultravbert — UltraVBertForMaskedLM (mô hình UltraVBertConfig)
- xlm — XLMWithLMHeadModel (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForMaskedLM (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMaskedLM (mô hình XLMRobertaXLConfig)
- xmod — XmodForMaskedLM (mô hình XmodConfig)
- yoso — YosoForMaskedLM (mô hình YosoConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForMaskedLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMaskGeneration
AutoModelForSeq2SeqLM
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ tuần tự-đến-tuần tự) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AudioFlamingo3Config: AudioFlamingo3ForConditionalGeneration (mô hình AudioFlamingo3Config)
- Lớp cấu hình BartConfig: BartForConditionalGeneration (mô hình BartConfig)
- Lớp cấu hình BigBirdPegasusConfig: BigBirdPegasusForConditionalGeneration (mô hình BigBirdPegasusConfig)
- Lớp cấu hình BlenderbotConfig: BlenderbotForConditionalGeneration (mô hình BlenderbotConfig)
- Lớp cấu hình BlenderbotSmallConfig: BlenderbotSmallForConditionalGeneration (mô hình BlenderbotSmallConfig)
- Lớp cấu hình EncoderDecoderConfig: EncoderDecoderModel (mô hình EncoderDecoderConfig)
- Lớp cấu hình FSMTConfig: FSMTForConditionalGeneration (mô hình FSMTConfig)
- Lớp cấu hình GlmAsrConfig: GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- Lớp cấu hình GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- Lớp cấu hình GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- Lớp cấu hình LEDConfig: LEDForConditionalGeneration (mô hình LEDConfig)
- Lớp cấu hình LongT5Config: LongT5ForConditionalGeneration (mô hình LongT5Config)
- Lớp cấu hình M2M100Config: M2M100ForConditionalGeneration (mô hình M2M100Config)
- Lớp cấu hình MBartConfig: MBartForConditionalGeneration (mô hình MBartConfig)
- MT5Config lớp cấu hình: MT5ForConditionalGeneration (mô hình MT5Config)
- Lớp cấu hình MarianConfig: MarianMTModel (mô hình MarianConfig)
- Lớp cấu hình MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- Lớp cấu hình MusicFlamingoConfig: MusicFlamingoForConditionalGeneration (mô hình MusicFlamingoConfig)
- Lớp cấu hình MvpConfig: MvpForConditionalGeneration (mô hình MvpConfig)
- Lớp cấu hình Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- Lớp cấu hình NllbMoeConfig: NllbMoeForConditionalGeneration (mô hình NllbMoeConfig)
- Lớp cấu hình PLBartConfig: PLBartForConditionalGeneration (mô hình PLBartConfig)
- Lớp cấu hình PegasusConfig: PegasusForConditionalGeneration (mô hình PegasusConfig)
- Lớp cấu hình PegasusXConfig: PegasusXForConditionalGeneration (mô hình PegasusXConfig)
- Lớp cấu hình ProphetNetConfig: ProphetNetForConditionalGeneration (mô hình ProphetNetConfig)
- Lớp cấu hình Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- Lớp cấu hình SeamlessM4TConfig: SeamlessM4TForTextToText (mô hình SeamlessM4TConfig)
- Lớp cấu hình SeamlessM4Tv2Config: SeamlessM4Tv2ForTextToText (mô hình SeamlessM4Tv2Config)
- Lớp cấu hình SwitchTransformersConfig: SwitchTransformersForConditionalGeneration (mô hình SwitchTransformersConfig)
- Lớp cấu hình T5Config: T5ForConditionalGeneration (mô hình T5Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- Lớp cấu hình T5GemmaConfig: T5GemmaForConditionalGeneration (mô hình T5GemmaConfig)
- Lớp cấu hình UMT5Config: UMT5ForConditionalGeneration (mô hình UMT5Config)
- Lớp cấu hình VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- Lớp cấu hình VoxtralConfig: VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- Lớp cấu hình VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ từ chuỗi đến chuỗi) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ tuần tự-đến-tuần tự) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- audioflamingo3 — AudioFlamingo3ForConditionalGeneration (mô hình AudioFlamingo3Config)
- bart — BartForConditionalGeneration (mô hình BartConfig)
- bigbird_pegasus — BigBirdPegasusForConditionalGeneration (mô hình BigBirdPegasusConfig)
- blenderbot — BlenderbotForConditionalGeneration (mô hình BlenderbotConfig)
- blenderbot-small — BlenderbotSmallForConditionalGeneration (mô hình BlenderbotSmallConfig)
- encoder-decoder — EncoderDecoderModel (mô hình EncoderDecoderConfig)
- fsmt — FSMTForConditionalGeneration (mô hình FSMTConfig)
- glmasr — GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- led — LEDForConditionalGeneration (mô hình LEDConfig)
- longt5 — LongT5ForConditionalGeneration (mô hình LongT5Config)
- m2m_100 — M2M100ForConditionalGeneration (mô hình M2M100Config)
- marian — MarianMTModel (mô hình MarianConfig)
- mbart — MBartForConditionalGeneration (mô hình MBartConfig)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- mt5 — MT5ForConditionalGeneration (mô hình MT5Config)
- musicflamingo — MusicFlamingoForConditionalGeneration (mô hình MusicFlamingoConfig)
- mvp — MvpForConditionalGeneration (mô hình MvpConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- nllb-moe — NllbMoeForConditionalGeneration (mô hình NllbMoeConfig)
- pegasus — PegasusForConditionalGeneration (mô hình PegasusConfig)
- pegasus_x — PegasusXForConditionalGeneration (mô hình PegasusXConfig)
- plbart — PLBartForConditionalGeneration (mô hình PLBartConfig)
- prophetnet — ProphetNetForConditionalGeneration (mô hình ProphetNetConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- seamless_m4t — SeamlessM4TForTextToText (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2ForTextToText (mô hình SeamlessM4Tv2Config)
- switch_transformers — SwitchTransformersForConditionalGeneration (mô hình SwitchTransformersConfig)
- t5 — T5ForConditionalGeneration (mô hình T5Config)
- t5gemma — T5GemmaForConditionalGeneration (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- umt5 — UMT5ForConditionalGeneration (mô hình UMT5Config)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- voxtral — VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForSeq2SeqLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base")
>>> # Update configuration during loading
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForSequenceClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại chuỗi) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- AXK1Config lớp cấu hình: AXK1ForSequenceClassification (mô hình AXK1Config)
- AXK2Config lớp cấu hình: AXK2ForSequenceClassification (mô hình AXK2Config)
- Lớp cấu hình AlbertConfig: AlbertForSequenceClassification (mô hình AlbertConfig)
- Lớp cấu hình ArceeConfig: ArceeForSequenceClassification (mô hình ArceeConfig)
- Lớp cấu hình BartConfig: BartForSequenceClassification (mô hình BartConfig)
- Lớp cấu hình BertConfig: BertForSequenceClassification (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForSequenceClassification (mô hình BigBirdConfig)
- Lớp cấu hình BigBirdPegasusConfig: BigBirdPegasusForSequenceClassification (mô hình BigBirdPegasusConfig)
- Lớp cấu hình BioGptConfig: BioGptForSequenceClassification (mô hình BioGptConfig)
- Lớp cấu hình BloomConfig: BloomForSequenceClassification (mô hình BloomConfig)
- Lớp cấu hình CTRLConfig: CTRLForSequenceClassification (mô hình CTRLConfig)
- Lớp cấu hình CamembertConfig: CamembertForSequenceClassification (mô hình CamembertConfig)
- Lớp cấu hình CanineConfig: CanineForSequenceClassification (mô hình CanineConfig)
- Lớp cấu hình CohereCompassTextConfig: CohereCompassTextForSequenceClassification (mô hình CohereCompassTextConfig)
- Lớp cấu hình ConvBertConfig: ConvBertForSequenceClassification (mô hình ConvBertConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForSequenceClassification (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaConfig: DebertaForSequenceClassification (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForSequenceClassification (mô hình DebertaV2Config)
- Lớp cấu hình DeepseekV2Config: DeepseekV2ForSequenceClassification (mô hình DeepseekV2Config)
- Lớp cấu hình DeepseekV3Config: DeepseekV3ForSequenceClassification (mô hình DeepseekV3Config)
- Lớp cấu hình DiffLlamaConfig: DiffLlamaForSequenceClassification (mô hình DiffLlamaConfig)
- Lớp cấu hình DistilBertConfig: DistilBertForSequenceClassification (mô hình DistilBertConfig)
- Lớp cấu hình DogeConfig: DogeForSequenceClassification (mô hình DogeConfig)
- Lớp cấu hình ElectraConfig: ElectraForSequenceClassification (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForSequenceClassification (mô hình ErnieConfig)
- Lớp cấu hình EsmConfig: EsmForSequenceClassification (mô hình EsmConfig)
- Lớp cấu hình EsmcConfig: EsmcForSequenceClassification (mô hình EsmcConfig)
- Lớp cấu hình EuroBertConfig: EuroBertForSequenceClassification (mô hình EuroBertConfig)
- Lớp cấu hình Exaone4Config: Exaone4ForSequenceClassification (mô hình Exaone4Config)
- Lớp cấu hình FNetConfig: FNetForSequenceClassification (mô hình FNetConfig)
- Lớp cấu hình FalconConfig: FalconForSequenceClassification (mô hình FalconConfig)
- Lớp cấu hình FlaubertConfig: FlaubertForSequenceClassification (mô hình FlaubertConfig)
- Lớp cấu hình FunnelConfig: FunnelForSequenceClassification (mô hình FunnelConfig)
- lớp cấu hình GPT2Config: GPT2ForSequenceClassification (mô hình GPT2Config)
- Lớp cấu hình GPTBigCodeConfig: GPTBigCodeForSequenceClassification (mô hình GPTBigCodeConfig)
- Lớp cấu hình GPTJConfig: GPTJForSequenceClassification (mô hình GPTJConfig)
- Lớp cấu hình GPTNeoConfig: GPTNeoForSequenceClassification (mô hình GPTNeoConfig)
- Lớp cấu hình GPTNeoXConfig: GPTNeoXForSequenceClassification (mô hình GPTNeoXConfig)
- Lớp cấu hình Gemma2Config: Gemma2ForSequenceClassification (mô hình Gemma2Config)
- Lớp cấu hình Gemma3Config: Gemma3ForSequenceClassification (mô hình Gemma3Config)
- Lớp cấu hình Gemma3TextConfig: Gemma3TextForSequenceClassification (mô hình Gemma3TextConfig)
- Lớp cấu hình GemmaConfig: GemmaForSequenceClassification (mô hình GemmaConfig)
- Lớp cấu hình Glm4Config: Glm4ForSequenceClassification (mô hình Glm4Config)
- Lớp cấu hình GlmConfig: GlmForSequenceClassification (mô hình GlmConfig)
- Lớp cấu hình GptOssConfig: GptOssForSequenceClassification (mô hình GptOssConfig)
- Lớp cấu hình GteConfig: GteForSequenceClassification (mô hình GteConfig)
- Lớp cấu hình HeliumConfig: HeliumForSequenceClassification (mô hình HeliumConfig)
- Lớp cấu hình HunYuanDenseV1Config: HunYuanDenseV1ForSequenceClassification (mô hình HunYuanDenseV1Config)
- Lớp cấu hình HunYuanMoEV1Config: HunYuanMoEV1ForSequenceClassification (mô hình HunYuanMoEV1Config)
- Lớp cấu hình IBertConfig: IBertForSequenceClassification (mô hình IBertConfig)
- Lớp cấu hình JambaConfig: JambaForSequenceClassification (mô hình JambaConfig)
- Lớp cấu hình JetMoeConfig: JetMoeForSequenceClassification (mô hình JetMoeConfig)
- Lớp cấu hình JinaEmbeddingsV3Config: JinaEmbeddingsV3ForSequenceClassification (mô hình JinaEmbeddingsV3Config)
- Lớp cấu hình LayoutLMConfig: LayoutLMForSequenceClassification (mô hình LayoutLMConfig)
- Lớp cấu hình LayoutLMv2Config: LayoutLMv2ForSequenceClassification (mô hình LayoutLMv2Config)
- Lớp cấu hình LayoutLMv3Config: LayoutLMv3ForSequenceClassification (mô hình LayoutLMv3Config)
- Lớp cấu hình LiltConfig: LiltForSequenceClassification (mô hình LiltConfig)
- Lớp cấu hình LlamaConfig: LlamaForSequenceClassification (mô hình LlamaConfig)
- Lớp cấu hình LongformerConfig: LongformerForSequenceClassification (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForSequenceClassification (mô hình LukeConfig)
- Lớp cấu hình MBartConfig: MBartForSequenceClassification (mô hình MBartConfig)
- Lớp cấu hình MPNetConfig: MPNetForSequenceClassification (mô hình MPNetConfig)
- MT5Config lớp cấu hình: MT5ForSequenceClassification (mô hình MT5Config)
- Lớp cấu hình MarkupLMConfig: MarkupLMForSequenceClassification (mô hình MarkupLMConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForSequenceClassification (mô hình MegatronBertConfig)
- Lớp cấu hình MiniCPM3Config: MiniCPM3ForSequenceClassification (mô hình MiniCPM3Config)
- Lớp cấu hình MiniMaxConfig: MiniMaxForSequenceClassification (mô hình MiniMaxConfig)
- Lớp cấu hình Ministral3Config: Ministral3ForSequenceClassification (mô hình Ministral3Config)
- Lớp cấu hình MinistralConfig: MinistralForSequenceClassification (mô hình MinistralConfig)
- Lớp cấu hình Mistral4Config: Mistral4ForSequenceClassification (mô hình Mistral4Config)
- Lớp cấu hình MistralConfig: MistralForSequenceClassification (mô hình MistralConfig)
- Lớp cấu hình MixtralConfig: MixtralForSequenceClassification (mô hình MixtralConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForSequenceClassification (mô hình MobileBertConfig)
- Lớp cấu hình ModernBertConfig: ModernBertForSequenceClassification (mô hình ModernBertConfig)
- Lớp cấu hình ModernBertDecoderConfig: ModernBertDecoderForSequenceClassification (mô hình ModernBertDecoderConfig)
- Lớp cấu hình ModernVBertConfig: ModernVBertForSequenceClassification (mô hình ModernVBertConfig)
- Lớp cấu hình MptConfig: MptForSequenceClassification (mô hình MptConfig)
- Lớp cấu hình MraConfig: MraForSequenceClassification (mô hình MraConfig)
- Lớp cấu hình MvpConfig: MvpForSequenceClassification (mô hình MvpConfig)
- Lớp cấu hình NemotronConfig: NemotronForSequenceClassification (mô hình NemotronConfig)
- Lớp cấu hình NomicBertConfig: NomicBertForSequenceClassification (mô hình NomicBertConfig)
- Lớp cấu hình NystromformerConfig: NystromformerForSequenceClassification (mô hình NystromformerConfig)
- Lớp cấu hình OPTConfig: OPTForSequenceClassification (mô hình OPTConfig)
- Lớp cấu hình Olmo2Config: Olmo2ForSequenceClassification (mô hình Olmo2Config)
- Lớp cấu hình Olmo3Config: Olmo3ForSequenceClassification (mô hình Olmo3Config)
- Lớp cấu hình OlmoConfig: OlmoForSequenceClassification (mô hình OlmoConfig)
- Lớp cấu hình OpenAIGPTConfig: OpenAIGPTForSequenceClassification (mô hình OpenAIGPTConfig)
- Lớp cấu hình PLBartConfig: PLBartForSequenceClassification (mô hình PLBartConfig)
- Lớp cấu hình PerceiverConfig: PerceiverForSequenceClassification (mô hình PerceiverConfig)
- Lớp cấu hình PersimmonConfig: PersimmonForSequenceClassification (mô hình PersimmonConfig)
- Lớp cấu hình Phi3Config: Phi3ForSequenceClassification (mô hình Phi3Config)
- Lớp cấu hình PhiConfig: PhiForSequenceClassification (mô hình PhiConfig)
- Lớp cấu hình PhimoeConfig: PhimoeForSequenceClassification (mô hình PhimoeConfig)
- Lớp cấu hình Qwen2Config: Qwen2ForSequenceClassification (mô hình Qwen2Config)
- Lớp cấu hình Qwen2MoeConfig: Qwen2MoeForSequenceClassification (mô hình Qwen2MoeConfig)
- Lớp cấu hình Qwen3Config: Qwen3ForSequenceClassification (mô hình Qwen3Config)
- Lớp cấu hình Qwen3MoeConfig: Qwen3MoeForSequenceClassification (mô hình Qwen3MoeConfig)
- Lớp cấu hình Qwen3NextConfig: Qwen3NextForSequenceClassification (mô hình Qwen3NextConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5ForSequenceClassification (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5TextConfig: Qwen3_5TextForSequenceClassification (mô hình Qwen3_5TextConfig)
- Lớp cấu hình ReformerConfig: ReformerForSequenceClassification (mô hình ReformerConfig)
- RemBertConfig lớp cấu hình: RemBertForSequenceClassification (mô hình RemBertConfig)
- Lớp cấu hình RoCBertConfig: RoCBertForSequenceClassification (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerForSequenceClassification (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForSequenceClassification (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForSequenceClassification (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình SeedOssConfig: SeedOssForSequenceClassification (mô hình SeedOssConfig)
- Lớp cấu hình SmolLM3Config: SmolLM3ForSequenceClassification (mô hình SmolLM3Config)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForSequenceClassification (mô hình SqueezeBertConfig)
- Lớp cấu hình StableLmConfig: StableLmForSequenceClassification (mô hình StableLmConfig)
- Lớp cấu hình Starcoder2Config: Starcoder2ForSequenceClassification (mô hình Starcoder2Config)
- Lớp cấu hình T5Config: T5ForSequenceClassification (mô hình T5Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForSequenceClassification (mô hình T5Gemma2Config)
- Lớp cấu hình T5GemmaConfig: T5GemmaForSequenceClassification (mô hình T5GemmaConfig)
- Lớp cấu hình TapasConfig: TapasForSequenceClassification (mô hình TapasConfig)
- Lớp cấu hình UMT5Config: UMT5ForSequenceClassification (mô hình UMT5Config)
- Lớp cấu hình UltraVBertConfig: UltraVBertForSequenceClassification (mô hình UltraVBertConfig)
- Lớp cấu hình UltrabertConfig: UltrabertForSequenceClassification (mô hình UltrabertConfig)
- Lớp cấu hình XLMConfig: XLMForSequenceClassification (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForSequenceClassification (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForSequenceClassification (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetForSequenceClassification (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForSequenceClassification (mô hình XmodConfig)
- Lớp cấu hình YosoConfig: YosoForSequenceClassification (mô hình YosoConfig)
- Lớp cấu hình Zamba2Config: Zamba2ForSequenceClassification (mô hình Zamba2Config)
- Lớp cấu hình ZambaConfig: ZambaForSequenceClassification (mô hình ZambaConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại chuỗi) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại chuỗi) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForSequenceClassification (mô hình AlbertConfig)
- arcee — ArceeForSequenceClassification (mô hình ArceeConfig)
- axk1 — AXK1ForSequenceClassification (mô hình AXK1Config)
- axk2 — AXK2ForSequenceClassification (mô hình AXK2Config)
- bart — BartForSequenceClassification (mô hình BartConfig)
- bert — BertForSequenceClassification (mô hình BertConfig)
- big_bird — BigBirdForSequenceClassification (mô hình BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForSequenceClassification (mô hình BigBirdPegasusConfig)
- biogpt — BioGptForSequenceClassification (mô hình BioGptConfig)
- bloom — BloomForSequenceClassification (mô hình BloomConfig)
- camembert — CamembertForSequenceClassification (mô hình CamembertConfig)
- canine — CanineForSequenceClassification (mô hình CanineConfig)
- cohere_compass_text — CohereCompassTextForSequenceClassification (mô hình CohereCompassTextConfig)
- convbert — ConvBertForSequenceClassification (mô hình ConvBertConfig)
- ctrl — CTRLForSequenceClassification (mô hình CTRLConfig)
- data2vec-text — Data2VecTextForSequenceClassification (mô hình Data2VecTextConfig)
- deberta — DebertaForSequenceClassification (mô hình DebertaConfig)
- deberta-v2 — DebertaV2ForSequenceClassification (mô hình DebertaV2Config)
- deepseek_v2 — DeepseekV2ForSequenceClassification (mô hình DeepseekV2Config)
- deepseek_v3 — DeepseekV3ForSequenceClassification (mô hình DeepseekV3Config)
- diffllama — DiffLlamaForSequenceClassification (mô hình DiffLlamaConfig)
- distilbert — DistilBertForSequenceClassification (mô hình DistilBertConfig)
- doge — DogeForSequenceClassification (mô hình DogeConfig)
- electra — ElectraForSequenceClassification (mô hình ElectraConfig)
- ernie — ErnieForSequenceClassification (mô hình ErnieConfig)
- esm — EsmForSequenceClassification (mô hình EsmConfig)
- esmc — EsmcForSequenceClassification (mô hình EsmcConfig)
- eurobert — EuroBertForSequenceClassification (mô hình EuroBertConfig)
- exaone4 — Exaone4ForSequenceClassification (mô hình Exaone4Config)
- falcon — FalconForSequenceClassification (mô hình FalconConfig)
- flaubert — FlaubertForSequenceClassification (mô hình FlaubertConfig)
- fnet — FNetForSequenceClassification (mô hình FNetConfig)
- funnel — FunnelForSequenceClassification (mô hình FunnelConfig)
- gemma — GemmaForSequenceClassification (mô hình GemmaConfig)
- gemma2 — Gemma2ForSequenceClassification (mô hình Gemma2Config)
- gemma3 — Gemma3ForSequenceClassification (mô hình Gemma3Config)
- gemma3_text — Gemma3TextForSequenceClassification (mô hình Gemma3TextConfig)
- glm — GlmForSequenceClassification (mô hình GlmConfig)
- glm4 — Glm4ForSequenceClassification (mô hình Glm4Config)
- gpt-sw3 — GPT2ForSequenceClassification (mô hình GPT2Config)
- gpt2 — GPT2ForSequenceClassification (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeForSequenceClassification (mô hình GPTBigCodeConfig)
- gpt_neo — GPTNeoForSequenceClassification (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXForSequenceClassification (mô hình GPTNeoXConfig)
- gpt_oss — GptOssForSequenceClassification (mô hình GptOssConfig)
- gptj — GPTJForSequenceClassification (mô hình GPTJConfig)
- gte — GteForSequenceClassification (mô hình GteConfig)
- helium — HeliumForSequenceClassification (mô hình HeliumConfig)
- hunyuan_v1_dense — HunYuanDenseV1ForSequenceClassification (mô hình HunYuanDenseV1Config)
- hunyuan_v1_moe — HunYuanMoEV1ForSequenceClassification (mô hình HunYuanMoEV1Config)
- ibert — IBertForSequenceClassification (mô hình IBertConfig)
- jamba — JambaForSequenceClassification (mô hình JambaConfig)
- jetmoe — JetMoeForSequenceClassification (mô hình JetMoeConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForSequenceClassification (mô hình JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForSequenceClassification (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForSequenceClassification (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForSequenceClassification (mô hình LayoutLMv3Config)
- lilt — LiltForSequenceClassification (mô hình LiltConfig)
- llama — LlamaForSequenceClassification (mô hình LlamaConfig)
- longformer — LongformerForSequenceClassification (mô hình LongformerConfig)
- luke — LukeForSequenceClassification (mô hình LukeConfig)
- markuplm — MarkupLMForSequenceClassification (mô hình MarkupLMConfig)
- mbart — MBartForSequenceClassification (mô hình MBartConfig)
- megatron-bert — MegatronBertForSequenceClassification (mô hình MegatronBertConfig)
- minicpm3 — MiniCPM3ForSequenceClassification (mô hình MiniCPM3Config)
- minimax — MiniMaxForSequenceClassification (mô hình MiniMaxConfig)
- ministral — MinistralForSequenceClassification (mô hình MinistralConfig)
- ministral3 — Ministral3ForSequenceClassification (mô hình Ministral3Config)
- mistral — MistralForSequenceClassification (mô hình MistralConfig)
- mistral4 — Mistral4ForSequenceClassification (mô hình Mistral4Config)
- mixtral — MixtralForSequenceClassification (mô hình MixtralConfig)
- mobilebert — MobileBertForSequenceClassification (mô hình MobileBertConfig)
- modernbert — ModernBertForSequenceClassification (mô hình ModernBertConfig)
- modernbert-decoder — ModernBertDecoderForSequenceClassification (mô hình ModernBertDecoderConfig)
- modernvbert — ModernVBertForSequenceClassification (mô hình ModernVBertConfig)
- mpnet — MPNetForSequenceClassification (mô hình MPNetConfig)
- mpt — MptForSequenceClassification (mô hình MptConfig)
- mra — MraForSequenceClassification (mô hình MraConfig)
- mt5 — MT5ForSequenceClassification (mô hình MT5Config)
- mvp — MvpForSequenceClassification (mô hình MvpConfig)
- nemotron — NemotronForSequenceClassification (mô hình NemotronConfig)
- nomic_bert — NomicBertForSequenceClassification (mô hình NomicBertConfig)
- nystromformer — NystromformerForSequenceClassification (mô hình NystromformerConfig)
- olmo — OlmoForSequenceClassification (mô hình OlmoConfig)
- olmo2 — Olmo2ForSequenceClassification (mô hình Olmo2Config)
- olmo3 — Olmo3ForSequenceClassification (mô hình Olmo3Config)
- openai-gpt — OpenAIGPTForSequenceClassification (mô hình OpenAIGPTConfig)
- opt — OPTForSequenceClassification (mô hình OPTConfig)
- perceiver — PerceiverForSequenceClassification (mô hình PerceiverConfig)
- persimmon — PersimmonForSequenceClassification (mô hình PersimmonConfig)
- phi — PhiForSequenceClassification (PhiConfig model)
- phi3 — Phi3ForSequenceClassification (Phi3Config model)
- phimoe — PhimoeForSequenceClassification (mô hình PhimoeConfig)
- plbart — PLBartForSequenceClassification (mô hình PLBartConfig)
- qwen2 — Qwen2ForSequenceClassification (mô hình Qwen2Config)
- qwen2_moe — Qwen2MoeForSequenceClassification (mô hình Qwen2MoeConfig)
- qwen3 — Qwen3ForSequenceClassification (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5ForSequenceClassification (mô hình Qwen3_5Config)
- qwen3_5_text — Qwen3_5TextForSequenceClassification (mô hình Qwen3_5TextConfig)
- qwen3_moe — Qwen3MoeForSequenceClassification (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextForSequenceClassification (mô hình Qwen3NextConfig)
- reformer — ReformerForSequenceClassification (mô hình ReformerConfig)
- rembert — RemBertForSequenceClassification (mô hình RemBertConfig)
- roberta — RobertaForSequenceClassification (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForSequenceClassification (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForSequenceClassification (mô hình RoCBertConfig)
- roformer — RoFormerForSequenceClassification (mô hình RoFormerConfig)
- seed_oss — SeedOssForSequenceClassification (mô hình SeedOssConfig)
- smollm3 — SmolLM3ForSequenceClassification (mô hình SmolLM3Config)
- squeezebert — SqueezeBertForSequenceClassification (mô hình SqueezeBertConfig)
- stablelm — StableLmForSequenceClassification (mô hình StableLmConfig)
- starcoder2 — Starcoder2ForSequenceClassification (mô hình Starcoder2Config)
- t5 — T5ForSequenceClassification (mô hình T5Config)
- t5gemma — T5GemmaForSequenceClassification (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2ForSequenceClassification (mô hình T5Gemma2Config)
- tapas — TapasForSequenceClassification (mô hình TapasConfig)
- ultrabert — UltrabertForSequenceClassification (mô hình UltrabertConfig)
- ultravbert — UltraVBertForSequenceClassification (mô hình UltraVBertConfig)
- umt5 — UMT5ForSequenceClassification (mô hình UMT5Config)
- xlm — XLMForSequenceClassification (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForSequenceClassification (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForSequenceClassification (mô hình XLMRobertaXLConfig)
- xlnet — XLNetForSequenceClassification (mô hình XLNetConfig)
- xmod — XmodForSequenceClassification (mô hình XmodConfig)
- yoso — YosoForSequenceClassification (mô hình YosoConfig)
- zamba — ZambaForSequenceClassification (mô hình ZambaConfig)
- zamba2 — Zamba2ForSequenceClassification (mô hình Zamba2Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForSequenceClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForMultipleChoice
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu chọn nhiều lựa chọn) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AlbertConfig: AlbertForMultipleChoice (mô hình AlbertConfig)
- Lớp cấu hình BertConfig: BertForMultipleChoice (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForMultipleChoice (mô hình BigBirdConfig)
- Lớp cấu hình CamembertConfig: CamembertForMultipleChoice (mô hình CamembertConfig)
- Lớp cấu hình CanineConfig: CanineForMultipleChoice (mô hình CanineConfig)
- Lớp cấu hình ConvBertConfig: ConvBertForMultipleChoice (mô hình ConvBertConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForMultipleChoice (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForMultipleChoice (mô hình DebertaV2Config)
- Lớp cấu hình DistilBertConfig: DistilBertForMultipleChoice (mô hình DistilBertConfig)
- Lớp cấu hình ElectraConfig: ElectraForMultipleChoice (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForMultipleChoice (mô hình ErnieConfig)
- Lớp cấu hình FNetConfig: FNetForMultipleChoice (mô hình FNetConfig)
- Lớp cấu hình FlaubertConfig: FlaubertForMultipleChoice (mô hình FlaubertConfig)
- Lớp cấu hình FunnelConfig: FunnelForMultipleChoice (mô hình FunnelConfig)
- Lớp cấu hình IBertConfig: IBertForMultipleChoice (mô hình IBertConfig)
- Lớp cấu hình LongformerConfig: LongformerForMultipleChoice (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForMultipleChoice (mô hình LukeConfig)
- Lớp cấu hình MPNetConfig: MPNetForMultipleChoice (mô hình MPNetConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForMultipleChoice (mô hình MegatronBertConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForMultipleChoice (mô hình MobileBertConfig)
- Lớp cấu hình ModernBertConfig: ModernBertForMultipleChoice (mô hình ModernBertConfig)
- Lớp cấu hình MraConfig: MraForMultipleChoice (mô hình MraConfig)
- Lớp cấu hình NystromformerConfig: NystromformerForMultipleChoice (mô hình NystromformerConfig)
- RemBertConfig lớp cấu hình: RemBertForMultipleChoice (mô hình RemBertConfig)
- RoCBertConfig lớp cấu hình: RoCBertForMultipleChoice (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerForMultipleChoice (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForMultipleChoice (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForMultipleChoice (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForMultipleChoice (mô hình SqueezeBertConfig)
- Lớp cấu hình XLMConfig: XLMForMultipleChoice (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForMultipleChoice (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForMultipleChoice (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetForMultipleChoice (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForMultipleChoice (mô hình XmodConfig)
- Lớp cấu hình YosoConfig: YosoForMultipleChoice (mô hình YosoConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu chọn nhiều lựa chọn) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu ra lựa chọn nhiều phương án) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForMultipleChoice (mô hình AlbertConfig)
- bert — BertForMultipleChoice (mô hình BertConfig)
- big_bird — BigBirdForMultipleChoice (mô hình BigBirdConfig)
- camembert — CamembertForMultipleChoice (mô hình CamembertConfig)
- canine — CanineForMultipleChoice (mô hình CanineConfig)
- convbert — ConvBertForMultipleChoice (mô hình ConvBertConfig)
- data2vec-text — Data2VecTextForMultipleChoice (mô hình Data2VecTextConfig)
- deberta-v2 — DebertaV2ForMultipleChoice (mô hình DebertaV2Config)
- distilbert — DistilBertForMultipleChoice (mô hình DistilBertConfig)
- electra — ElectraForMultipleChoice (mô hình ElectraConfig)
- ernie — ErnieForMultipleChoice (mô hình ErnieConfig)
- flaubert — FlaubertForMultipleChoice (mô hình FlaubertConfig)
- fnet — FNetForMultipleChoice (mô hình FNetConfig)
- funnel — FunnelForMultipleChoice (mô hình FunnelConfig)
- ibert — IBertForMultipleChoice (mô hình IBertConfig)
- longformer — LongformerForMultipleChoice (mô hình LongformerConfig)
- luke — LukeForMultipleChoice (mô hình LukeConfig)
- megatron-bert — MegatronBertForMultipleChoice (mô hình MegatronBertConfig)
- mobilebert — MobileBertForMultipleChoice (mô hình MobileBertConfig)
- modernbert — ModernBertForMultipleChoice (mô hình ModernBertConfig)
- mpnet — MPNetForMultipleChoice (mô hình MPNetConfig)
- mra — MraForMultipleChoice (mô hình MraConfig)
- nystromformer — NystromformerForMultipleChoice (mô hình NystromformerConfig)
- rembert — RemBertForMultipleChoice (mô hình RemBertConfig)
- roberta — RobertaForMultipleChoice (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForMultipleChoice (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForMultipleChoice (mô hình RoCBertConfig)
- roformer — RoFormerForMultipleChoice (mô hình RoFormerConfig)
- squeezebert — SqueezeBertForMultipleChoice (mô hình SqueezeBertConfig)
- xlm — XLMForMultipleChoice (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForMultipleChoice (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForMultipleChoice (mô hình XLMRobertaXLConfig)
- xlnet — XLNetForMultipleChoice (mô hình XLNetConfig)
- xmod — XmodForMultipleChoice (mô hình XmodConfig)
- yoso — YosoForMultipleChoice (mô hình YosoConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForMultipleChoice
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForNextSentencePrediction
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dự đoán câu tiếp theo) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình BertConfig: BertForNextSentencePrediction (mô hình BertConfig)
- Lớp cấu hình ErnieConfig: ErnieForNextSentencePrediction (mô hình ErnieConfig)
- Lớp cấu hình FNetConfig: FNetForNextSentencePrediction (mô hình FNetConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForNextSentencePrediction (mô hình MegatronBertConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForNextSentencePrediction (mô hình MobileBertConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự đoán câu tiếp theo) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu dự đoán câu tiếp theo) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- bert — BertForNextSentencePrediction (mô hình BertConfig)
- ernie — ErnieForNextSentencePrediction (mô hình ErnieConfig)
- fnet — FNetForNextSentencePrediction (mô hình FNetConfig)
- megatron-bert — MegatronBertForNextSentencePrediction (mô hình MegatronBertConfig)
- mobilebert — MobileBertForNextSentencePrediction (mô hình MobileBertConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForNextSentencePrediction
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTokenClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại token) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- AXK1Config lớp cấu hình: AXK1ForTokenClassification (mô hình AXK1Config)
- AXK2Config lớp cấu hình: AXK2ForTokenClassification (mô hình AXK2Config)
- Lớp cấu hình AlbertConfig: AlbertForTokenClassification (mô hình AlbertConfig)
- Lớp cấu hình ApertusConfig: ApertusForTokenClassification (mô hình ApertusConfig)
- Lớp cấu hình ArceeConfig: ArceeForTokenClassification (mô hình ArceeConfig)
- Lớp cấu hình BertConfig: BertForTokenClassification (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForTokenClassification (mô hình BigBirdConfig)
- Lớp cấu hình BioGptConfig: BioGptForTokenClassification (mô hình BioGptConfig)
- Lớp cấu hình BloomConfig: BloomForTokenClassification (mô hình BloomConfig)
- Lớp cấu hình BrosConfig: BrosForTokenClassification (mô hình BrosConfig)
- Lớp cấu hình CamembertConfig: CamembertForTokenClassification (mô hình CamembertConfig)
- Lớp cấu hình CanineConfig: CanineForTokenClassification (mô hình CanineConfig)
- Lớp cấu hình ConvBertConfig: ConvBertForTokenClassification (mô hình ConvBertConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForTokenClassification (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaConfig: DebertaForTokenClassification (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForTokenClassification (mô hình DebertaV2Config)
- Lớp cấu hình DeepseekV3Config: DeepseekV3ForTokenClassification (mô hình DeepseekV3Config)
- Lớp cấu hình DiffLlamaConfig: DiffLlamaForTokenClassification (mô hình DiffLlamaConfig)
- Lớp cấu hình DistilBertConfig: DistilBertForTokenClassification (mô hình DistilBertConfig)
- Lớp cấu hình ElectraConfig: ElectraForTokenClassification (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForTokenClassification (mô hình ErnieConfig)
- Lớp cấu hình EsmConfig: EsmForTokenClassification (mô hình EsmConfig)
- Lớp cấu hình EsmcConfig: EsmcForTokenClassification (mô hình EsmcConfig)
- Lớp cấu hình EuroBertConfig: EuroBertForTokenClassification (mô hình EuroBertConfig)
- Lớp cấu hình Exaone4Config: Exaone4ForTokenClassification (mô hình Exaone4Config)
- Lớp cấu hình FNetConfig: FNetForTokenClassification (mô hình FNetConfig)
- Lớp cấu hình FalconConfig: FalconForTokenClassification (mô hình FalconConfig)
- Lớp cấu hình FlaubertConfig: FlaubertForTokenClassification (mô hình FlaubertConfig)
- Lớp cấu hình FunnelConfig: FunnelForTokenClassification (mô hình FunnelConfig)
- lớp cấu hình GPT2Config: GPT2ForTokenClassification (mô hình GPT2Config)
- Lớp cấu hình GPTBigCodeConfig: GPTBigCodeForTokenClassification (mô hình GPTBigCodeConfig)
- Lớp cấu hình GPTNeoConfig: GPTNeoForTokenClassification (mô hình GPTNeoConfig)
- Lớp cấu hình GPTNeoXConfig: GPTNeoXForTokenClassification (mô hình GPTNeoXConfig)
- Lớp cấu hình Gemma2Config: Gemma2ForTokenClassification (mô hình Gemma2Config)
- Lớp cấu hình GemmaConfig: GemmaForTokenClassification (mô hình GemmaConfig)
- Lớp cấu hình Glm4Config: Glm4ForTokenClassification (mô hình Glm4Config)
- Lớp cấu hình GlmConfig: GlmForTokenClassification (mô hình GlmConfig)
- Lớp cấu hình GptOssConfig: GptOssForTokenClassification (mô hình GptOssConfig)
- Lớp cấu hình GteConfig: GteForTokenClassification (mô hình GteConfig)
- Lớp cấu hình HeliumConfig: HeliumForTokenClassification (mô hình HeliumConfig)
- Lớp cấu hình IBertConfig: IBertForTokenClassification (mô hình IBertConfig)
- Lớp cấu hình JinaEmbeddingsV3Config: JinaEmbeddingsV3ForTokenClassification (mô hình JinaEmbeddingsV3Config)
- Lớp cấu hình LayoutLMConfig: LayoutLMForTokenClassification (mô hình LayoutLMConfig)
- Lớp cấu hình LayoutLMv2Config: LayoutLMv2ForTokenClassification (mô hình LayoutLMv2Config)
- Lớp cấu hình LayoutLMv3Config: LayoutLMv3ForTokenClassification (mô hình LayoutLMv3Config)
- Lớp cấu hình LiltConfig: LiltForTokenClassification (mô hình LiltConfig)
- Lớp cấu hình LlamaConfig: LlamaForTokenClassification (mô hình LlamaConfig)
- Lớp cấu hình LongformerConfig: LongformerForTokenClassification (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForTokenClassification (mô hình LukeConfig)
- Lớp cấu hình MPNetConfig: MPNetForTokenClassification (mô hình MPNetConfig)
- MT5Config lớp cấu hình: MT5ForTokenClassification (mô hình MT5Config)
- Lớp cấu hình MarkupLMConfig: MarkupLMForTokenClassification (mô hình MarkupLMConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForTokenClassification (mô hình MegatronBertConfig)
- Lớp cấu hình MiniMaxConfig: MiniMaxForTokenClassification (mô hình MiniMaxConfig)
- Lớp cấu hình Ministral3Config: Ministral3ForTokenClassification (mô hình Ministral3Config)
- Lớp cấu hình MinistralConfig: MinistralForTokenClassification (mô hình MinistralConfig)
- Lớp cấu hình Mistral4Config: Mistral4ForTokenClassification (mô hình Mistral4Config)
- Lớp cấu hình MistralConfig: MistralForTokenClassification (mô hình MistralConfig)
- Lớp cấu hình MixtralConfig: MixtralForTokenClassification (mô hình MixtralConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForTokenClassification (mô hình MobileBertConfig)
- Lớp cấu hình ModernBertConfig: ModernBertForTokenClassification (mô hình ModernBertConfig)
- Lớp cấu hình ModernVBertConfig: ModernVBertForTokenClassification (mô hình ModernVBertConfig)
- Lớp cấu hình MptConfig: MptForTokenClassification (mô hình MptConfig)
- Lớp cấu hình MraConfig: MraForTokenClassification (mô hình MraConfig)
- Lớp cấu hình NemotronConfig: NemotronForTokenClassification (mô hình NemotronConfig)
- Lớp cấu hình NomicBertConfig: NomicBertForTokenClassification (mô hình NomicBertConfig)
- Lớp cấu hình NystromformerConfig: NystromformerForTokenClassification (mô hình NystromformerConfig)
- Lớp cấu hình OpenAIPrivacyFilterConfig: OpenAIPrivacyFilterForTokenClassification (mô hình OpenAIPrivacyFilterConfig)
- Lớp cấu hình PersimmonConfig: PersimmonForTokenClassification (mô hình PersimmonConfig)
- Lớp cấu hình Phi3Config: Phi3ForTokenClassification (mô hình Phi3Config)
- Lớp cấu hình PhiConfig: PhiForTokenClassification (mô hình PhiConfig)
- Lớp cấu hình Qwen2Config: Qwen2ForTokenClassification (mô hình Qwen2Config)
- Lớp cấu hình Qwen2MoeConfig: Qwen2MoeForTokenClassification (mô hình Qwen2MoeConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRForTokenClassification (mô hình Qwen3ASRConfig)
- Lớp cấu hình Qwen3Config: Qwen3ForTokenClassification (mô hình Qwen3Config)
- Lớp cấu hình Qwen3MoeConfig: Qwen3MoeForTokenClassification (mô hình Qwen3MoeConfig)
- Lớp cấu hình Qwen3NextConfig: Qwen3NextForTokenClassification (mô hình Qwen3NextConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5ForTokenClassification (mô hình Qwen3_5Config)
- RemBertConfig lớp cấu hình: RemBertForTokenClassification (mô hình RemBertConfig)
- RoCBertConfig lớp cấu hình: RoCBertForTokenClassification (mô hình RoCBertConfig)
- RoFormerConfig lớp cấu hình: RoFormerForTokenClassification (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForTokenClassification (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForTokenClassification (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình SeedOssConfig: SeedOssForTokenClassification (mô hình SeedOssConfig)
- Lớp cấu hình SmolLM3Config: SmolLM3ForTokenClassification (mô hình SmolLM3Config)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForTokenClassification (mô hình SqueezeBertConfig)
- Lớp cấu hình StableLmConfig: StableLmForTokenClassification (mô hình StableLmConfig)
- Lớp cấu hình Starcoder2Config: Starcoder2ForTokenClassification (mô hình Starcoder2Config)
- Lớp cấu hình T5Config: T5ForTokenClassification (mô hình T5Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForTokenClassification (mô hình T5Gemma2Config)
- Lớp cấu hình T5GemmaConfig: T5GemmaForTokenClassification (mô hình T5GemmaConfig)
- Lớp cấu hình UMT5Config: UMT5ForTokenClassification (mô hình UMT5Config)
- Lớp cấu hình UltraVBertConfig: UltraVBertForTokenClassification (mô hình UltraVBertConfig)
- Lớp cấu hình UltrabertConfig: UltrabertForTokenClassification (mô hình UltrabertConfig)
- Lớp cấu hình XLMConfig: XLMForTokenClassification (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForTokenClassification (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForTokenClassification (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetForTokenClassification (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForTokenClassification (mô hình XmodConfig)
- Lớp cấu hình YosoConfig: YosoForTokenClassification (mô hình YosoConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại token) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại token) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForTokenClassification (mô hình AlbertConfig)
- apertus — ApertusForTokenClassification (mô hình ApertusConfig)
- arcee — ArceeForTokenClassification (mô hình ArceeConfig)
- axk1 — AXK1ForTokenClassification (mô hình AXK1Config)
- axk2 — AXK2ForTokenClassification (mô hình AXK2Config)
- bert — BertForTokenClassification (mô hình BertConfig)
- big_bird — BigBirdForTokenClassification (mô hình BigBirdConfig)
- biogpt — BioGptForTokenClassification (mô hình BioGptConfig)
- bloom — BloomForTokenClassification (mô hình BloomConfig)
- bros — BrosForTokenClassification (mô hình BrosConfig)
- camembert — CamembertForTokenClassification (mô hình CamembertConfig)
- canine — CanineForTokenClassification (mô hình CanineConfig)
- convbert — ConvBertForTokenClassification (mô hình ConvBertConfig)
- data2vec-text — Data2VecTextForTokenClassification (mô hình Data2VecTextConfig)
- deberta — DebertaForTokenClassification (mô hình DebertaConfig)
- deberta-v2 — DebertaV2ForTokenClassification (mô hình DebertaV2Config)
- deepseek_v3 — DeepseekV3ForTokenClassification (mô hình DeepseekV3Config)
- diffllama — DiffLlamaForTokenClassification (mô hình DiffLlamaConfig)
- distilbert — DistilBertForTokenClassification (mô hình DistilBertConfig)
- electra — ElectraForTokenClassification (mô hình ElectraConfig)
- ernie — ErnieForTokenClassification (mô hình ErnieConfig)
- esm — EsmForTokenClassification (mô hình EsmConfig)
- esmc — EsmcForTokenClassification (mô hình EsmcConfig)
- eurobert — EuroBertForTokenClassification (mô hình EuroBertConfig)
- exaone4 — Exaone4ForTokenClassification (mô hình Exaone4Config)
- falcon — FalconForTokenClassification (mô hình FalconConfig)
- flaubert — FlaubertForTokenClassification (mô hình FlaubertConfig)
- fnet — FNetForTokenClassification (mô hình FNetConfig)
- funnel — FunnelForTokenClassification (mô hình FunnelConfig)
- gemma — GemmaForTokenClassification (mô hình GemmaConfig)
- gemma2 — Gemma2ForTokenClassification (mô hình Gemma2Config)
- glm — GlmForTokenClassification (mô hình GlmConfig)
- glm4 — Glm4ForTokenClassification (mô hình Glm4Config)
- gpt-sw3 — GPT2ForTokenClassification (mô hình GPT2Config)
- gpt2 — GPT2ForTokenClassification (mô hình GPT2Config)
- gpt_bigcode — GPTBigCodeForTokenClassification (mô hình GPTBigCodeConfig)
- gpt_neo — GPTNeoForTokenClassification (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXForTokenClassification (mô hình GPTNeoXConfig)
- gpt_oss — GptOssForTokenClassification (mô hình GptOssConfig)
- gte — GteForTokenClassification (mô hình GteConfig)
- helium — HeliumForTokenClassification (mô hình HeliumConfig)
- ibert — IBertForTokenClassification (mô hình IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForTokenClassification (mô hình JinaEmbeddingsV3Config)
- layoutlm — LayoutLMForTokenClassification (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForTokenClassification (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForTokenClassification (mô hình LayoutLMv3Config)
- lilt — LiltForTokenClassification (mô hình LiltConfig)
- llama — LlamaForTokenClassification (mô hình LlamaConfig)
- longformer — LongformerForTokenClassification (mô hình LongformerConfig)
- luke — LukeForTokenClassification (mô hình LukeConfig)
- markuplm — MarkupLMForTokenClassification (mô hình MarkupLMConfig)
- megatron-bert — MegatronBertForTokenClassification (mô hình MegatronBertConfig)
- minimax — MiniMaxForTokenClassification (mô hình MiniMaxConfig)
- ministral — MinistralForTokenClassification (mô hình MinistralConfig)
- ministral3 — Ministral3ForTokenClassification (mô hình Ministral3Config)
- mistral — MistralForTokenClassification (mô hình MistralConfig)
- mistral4 — Mistral4ForTokenClassification (mô hình Mistral4Config)
- mixtral — MixtralForTokenClassification (mô hình MixtralConfig)
- mobilebert — MobileBertForTokenClassification (mô hình MobileBertConfig)
- modernbert — ModernBertForTokenClassification (mô hình ModernBertConfig)
- modernvbert — ModernVBertForTokenClassification (mô hình ModernVBertConfig)
- mpnet — MPNetForTokenClassification (mô hình MPNetConfig)
- mpt — MptForTokenClassification (mô hình MptConfig)
- mra — MraForTokenClassification (mô hình MraConfig)
- mt5 — MT5ForTokenClassification (mô hình MT5Config)
- nemotron — NemotronForTokenClassification (mô hình NemotronConfig)
- nomic_bert — NomicBertForTokenClassification (mô hình NomicBertConfig)
- nystromformer — NystromformerForTokenClassification (mô hình NystromformerConfig)
- openai_privacy_filter — OpenAIPrivacyFilterForTokenClassification (mô hình OpenAIPrivacyFilterConfig)
- persimmon — PersimmonForTokenClassification (mô hình PersimmonConfig)
- phi — PhiForTokenClassification (PhiConfig model)
- phi3 — Phi3ForTokenClassification (Phi3Config model)
- qwen2 — Qwen2ForTokenClassification (mô hình Qwen2Config)
- qwen2_moe — Qwen2MoeForTokenClassification (mô hình Qwen2MoeConfig)
- qwen3 — Qwen3ForTokenClassification (mô hình Qwen3Config)
- qwen3_5 — Qwen3_5ForTokenClassification (mô hình Qwen3_5Config)
- qwen3_asr — Qwen3ASRForTokenClassification (mô hình Qwen3ASRConfig)
- qwen3_moe — Qwen3MoeForTokenClassification (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextForTokenClassification (mô hình Qwen3NextConfig)
- rembert — RemBertForTokenClassification (mô hình RemBertConfig)
- roberta — RobertaForTokenClassification (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForTokenClassification (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForTokenClassification (mô hình RoCBertConfig)
- roformer — RoFormerForTokenClassification (mô hình RoFormerConfig)
- seed_oss — SeedOssForTokenClassification (mô hình SeedOssConfig)
- smollm3 — SmolLM3ForTokenClassification (mô hình SmolLM3Config)
- squeezebert — SqueezeBertForTokenClassification (mô hình SqueezeBertConfig)
- stablelm — StableLmForTokenClassification (mô hình StableLmConfig)
- starcoder2 — Starcoder2ForTokenClassification (mô hình Starcoder2Config)
- t5 — T5ForTokenClassification (mô hình T5Config)
- t5gemma — T5GemmaForTokenClassification (mô hình T5GemmaConfig)
- t5gemma2 — T5Gemma2ForTokenClassification (mô hình T5Gemma2Config)
- ultrabert — UltrabertForTokenClassification (mô hình UltrabertConfig)
- ultravbert — UltraVBertForTokenClassification (mô hình UltraVBertConfig)
- umt5 — UMT5ForTokenClassification (mô hình UMT5Config)
- xlm — XLMForTokenClassification (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForTokenClassification (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForTokenClassification (mô hình XLMRobertaXLConfig)
- xlnet — XLNetForTokenClassification (mô hình XLNetConfig)
- xmod — XmodForTokenClassification (mô hình XmodConfig)
- yoso — YosoForTokenClassification (mô hình YosoConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTokenClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForQuestionAnswering
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu câu trả lời câu hỏi) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AlbertConfig: AlbertForQuestionAnswering (mô hình AlbertConfig)
- Lớp cấu hình ArceeConfig: ArceeForQuestionAnswering (mô hình ArceeConfig)
- Lớp cấu hình BartConfig: BartForQuestionAnswering (mô hình BartConfig)
- Lớp cấu hình BertConfig: BertForQuestionAnswering (mô hình BertConfig)
- Lớp cấu hình BigBirdConfig: BigBirdForQuestionAnswering (mô hình BigBirdConfig)
- Lớp cấu hình BigBirdPegasusConfig: BigBirdPegasusForQuestionAnswering (mô hình BigBirdPegasusConfig)
- Lớp cấu hình BloomConfig: BloomForQuestionAnswering (mô hình BloomConfig)
- Lớp cấu hình CamembertConfig: CamembertForQuestionAnswering (mô hình CamembertConfig)
- Lớp cấu hình CanineConfig: CanineForQuestionAnswering (mô hình CanineConfig)
- Lớp cấu hình ConvBertConfig: ConvBertForQuestionAnswering (mô hình ConvBertConfig)
- Lớp cấu hình Data2VecTextConfig: Data2VecTextForQuestionAnswering (mô hình Data2VecTextConfig)
- Lớp cấu hình DebertaConfig: DebertaForQuestionAnswering (mô hình DebertaConfig)
- Lớp cấu hình DebertaV2Config: DebertaV2ForQuestionAnswering (mô hình DebertaV2Config)
- Lớp cấu hình DiffLlamaConfig: DiffLlamaForQuestionAnswering (mô hình DiffLlamaConfig)
- Lớp cấu hình DistilBertConfig: DistilBertForQuestionAnswering (mô hình DistilBertConfig)
- Lớp cấu hình ElectraConfig: ElectraForQuestionAnswering (mô hình ElectraConfig)
- Lớp cấu hình ErnieConfig: ErnieForQuestionAnswering (mô hình ErnieConfig)
- Lớp cấu hình Exaone4Config: Exaone4ForQuestionAnswering (mô hình Exaone4Config)
- Lớp cấu hình FNetConfig: FNetForQuestionAnswering (mô hình FNetConfig)
- Lớp cấu hình FalconConfig: FalconForQuestionAnswering (mô hình FalconConfig)
- Lớp cấu hình FlaubertConfig: FlaubertForQuestionAnsweringSimple (mô hình FlaubertConfig)
- Lớp cấu hình FunnelConfig: FunnelForQuestionAnswering (mô hình FunnelConfig)
- lớp cấu hình GPT2Config: GPT2ForQuestionAnswering (mô hình GPT2Config)
- Lớp cấu hình GPTJConfig: GPTJForQuestionAnswering (mô hình GPTJConfig)
- Lớp cấu hình GPTNeoConfig: GPTNeoForQuestionAnswering (mô hình GPTNeoConfig)
- Lớp cấu hình GPTNeoXConfig: GPTNeoXForQuestionAnswering (mô hình GPTNeoXConfig)
- Lớp cấu hình IBertConfig: IBertForQuestionAnswering (mô hình IBertConfig)
- Lớp cấu hình JinaEmbeddingsV3Config: JinaEmbeddingsV3ForQuestionAnswering (mô hình JinaEmbeddingsV3Config)
- Lớp cấu hình LEDConfig: LEDForQuestionAnswering (mô hình LEDConfig)
- Lớp cấu hình LayoutLMv2Config: LayoutLMv2ForQuestionAnswering (mô hình LayoutLMv2Config)
- Lớp cấu hình LayoutLMv3Config: LayoutLMv3ForQuestionAnswering (mô hình LayoutLMv3Config)
- Lớp cấu hình LiltConfig: LiltForQuestionAnswering (mô hình LiltConfig)
- Lớp cấu hình LlamaConfig: LlamaForQuestionAnswering (mô hình LlamaConfig)
- Lớp cấu hình LongformerConfig: LongformerForQuestionAnswering (mô hình LongformerConfig)
- Lớp cấu hình LukeConfig: LukeForQuestionAnswering (mô hình LukeConfig)
- Lớp cấu hình LxmertConfig: LxmertForQuestionAnswering (mô hình LxmertConfig)
- Lớp cấu hình MBartConfig: MBartForQuestionAnswering (mô hình MBartConfig)
- Lớp cấu hình MPNetConfig: MPNetForQuestionAnswering (mô hình MPNetConfig)
- Lớp cấu hình MT5Config: MT5ForQuestionAnswering (mô hình MT5Config)
- Lớp cấu hình MarkupLMConfig: MarkupLMForQuestionAnswering (mô hình MarkupLMConfig)
- Lớp cấu hình MegatronBertConfig: MegatronBertForQuestionAnswering (mô hình MegatronBertConfig)
- Lớp cấu hình MiniMaxConfig: MiniMaxForQuestionAnswering (mô hình MiniMaxConfig)
- Lớp cấu hình Ministral3Config: Ministral3ForQuestionAnswering (mô hình Ministral3Config)
- Lớp cấu hình MinistralConfig: MinistralForQuestionAnswering (mô hình MinistralConfig)
- Lớp cấu hình MistralConfig: MistralForQuestionAnswering (mô hình MistralConfig)
- Lớp cấu hình MixtralConfig: MixtralForQuestionAnswering (mô hình MixtralConfig)
- Lớp cấu hình MobileBertConfig: MobileBertForQuestionAnswering (mô hình MobileBertConfig)
- Lớp cấu hình ModernBertConfig: ModernBertForQuestionAnswering (mô hình ModernBertConfig)
- Lớp cấu hình MptConfig: MptForQuestionAnswering (mô hình MptConfig)
- Lớp cấu hình MraConfig: MraForQuestionAnswering (mô hình MraConfig)
- Lớp cấu hình MvpConfig: MvpForQuestionAnswering (mô hình MvpConfig)
- Lớp cấu hình NemotronConfig: NemotronForQuestionAnswering (mô hình NemotronConfig)
- Lớp cấu hình NystromformerConfig: NystromformerForQuestionAnswering (mô hình NystromformerConfig)
- Lớp cấu hình OPTConfig: OPTForQuestionAnswering (mô hình OPTConfig)
- Lớp cấu hình Qwen2Config: Qwen2ForQuestionAnswering (mô hình Qwen2Config)
- Lớp cấu hình Qwen2MoeConfig: Qwen2MoeForQuestionAnswering (mô hình Qwen2MoeConfig)
- Lớp cấu hình Qwen3Config: Qwen3ForQuestionAnswering (mô hình Qwen3Config)
- Lớp cấu hình Qwen3MoeConfig: Qwen3MoeForQuestionAnswering (mô hình Qwen3MoeConfig)
- Lớp cấu hình Qwen3NextConfig: Qwen3NextForQuestionAnswering (mô hình Qwen3NextConfig)
- Lớp cấu hình ReformerConfig: ReformerForQuestionAnswering (mô hình ReformerConfig)
- Lớp cấu hình RemBertConfig: RemBertForQuestionAnswering (mô hình RemBertConfig)
- Lớp cấu hình RoCBertConfig: RoCBertForQuestionAnswering (mô hình RoCBertConfig)
- Lớp cấu hình RoFormerConfig: RoFormerForQuestionAnswering (mô hình RoFormerConfig)
- Lớp cấu hình RobertaConfig: RobertaForQuestionAnswering (mô hình RobertaConfig)
- Lớp cấu hình RobertaPreLayerNormConfig: RobertaPreLayerNormForQuestionAnswering (mô hình RobertaPreLayerNormConfig)
- Lớp cấu hình SeedOssConfig: SeedOssForQuestionAnswering (mô hình SeedOssConfig)
- Lớp cấu hình SmolLM3Config: SmolLM3ForQuestionAnswering (mô hình SmolLM3Config)
- Lớp cấu hình SplinterConfig: SplinterForQuestionAnswering (mô hình SplinterConfig)
- Lớp cấu hình SqueezeBertConfig: SqueezeBertForQuestionAnswering (mô hình SqueezeBertConfig)
- Lớp cấu hình T5Config: T5ForQuestionAnswering (mô hình T5Config)
- Lớp cấu hình UMT5Config: UMT5ForQuestionAnswering (mô hình UMT5Config)
- Lớp cấu hình UltrabertConfig: UltrabertForQuestionAnswering (mô hình UltrabertConfig)
- Lớp cấu hình XLMConfig: XLMForQuestionAnsweringSimple (mô hình XLMConfig)
- Lớp cấu hình XLMRobertaConfig: XLMRobertaForQuestionAnswering (mô hình XLMRobertaConfig)
- Lớp cấu hình XLMRobertaXLConfig: XLMRobertaXLForQuestionAnswering (mô hình XLMRobertaXLConfig)
- Lớp cấu hình XLNetConfig: XLNetForQuestionAnsweringSimple (mô hình XLNetConfig)
- Lớp cấu hình XmodConfig: XmodForQuestionAnswering (mô hình XmodConfig)
- Lớp cấu hình YosoConfig: YosoForQuestionAnswering (mô hình YosoConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu câu trả lời câu hỏi) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu câu trả lời câu hỏi) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- albert — AlbertForQuestionAnswering (mô hình AlbertConfig)
- arcee — ArceeForQuestionAnswering (mô hình ArceeConfig)
- bart — BartForQuestionAnswering (mô hình BartConfig)
- bert — BertForQuestionAnswering (mô hình BertConfig)
- big_bird — BigBirdForQuestionAnswering (mô hình BigBirdConfig)
- bigbird_pegasus — BigBirdPegasusForQuestionAnswering (mô hình BigBirdPegasusConfig)
- bloom — BloomForQuestionAnswering (mô hình BloomConfig)
- camembert — CamembertForQuestionAnswering (mô hình CamembertConfig)
- canine — CanineForQuestionAnswering (mô hình CanineConfig)
- convbert — ConvBertForQuestionAnswering (mô hình ConvBertConfig)
- data2vec-text — Data2VecTextForQuestionAnswering (mô hình Data2VecTextConfig)
- deberta — DebertaForQuestionAnswering (mô hình DebertaConfig)
- deberta-v2 — DebertaV2ForQuestionAnswering (mô hình DebertaV2Config)
- diffllama — DiffLlamaForQuestionAnswering (mô hình DiffLlamaConfig)
- distilbert — DistilBertForQuestionAnswering (mô hình DistilBertConfig)
- electra — ElectraForQuestionAnswering (mô hình ElectraConfig)
- ernie — ErnieForQuestionAnswering (mô hình ErnieConfig)
- exaone4 — Exaone4ForQuestionAnswering (mô hình Exaone4Config)
- falcon — FalconForQuestionAnswering (mô hình FalconConfig)
- flaubert — FlaubertForQuestionAnsweringSimple (mô hình FlaubertConfig)
- fnet — FNetForQuestionAnswering (mô hình FNetConfig)
- funnel — FunnelForQuestionAnswering (mô hình FunnelConfig)
- gpt2 — GPT2ForQuestionAnswering (mô hình GPT2Config)
- gpt_neo — GPTNeoForQuestionAnswering (mô hình GPTNeoConfig)
- gpt_neox — GPTNeoXForQuestionAnswering (mô hình GPTNeoXConfig)
- gptj — GPTJForQuestionAnswering (mô hình GPTJConfig)
- ibert — IBertForQuestionAnswering (mô hình IBertConfig)
- jina_embeddings_v3 — JinaEmbeddingsV3ForQuestionAnswering (mô hình JinaEmbeddingsV3Config)
- layoutlmv2 — LayoutLMv2ForQuestionAnswering (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForQuestionAnswering (mô hình LayoutLMv3Config)
- led — LEDForQuestionAnswering (mô hình LEDConfig)
- lilt — LiltForQuestionAnswering (mô hình LiltConfig)
- llama — LlamaForQuestionAnswering (mô hình LlamaConfig)
- longformer — LongformerForQuestionAnswering (mô hình LongformerConfig)
- luke — LukeForQuestionAnswering (mô hình LukeConfig)
- lxmert — LxmertForQuestionAnswering (mô hình LxmertConfig)
- markuplm — MarkupLMForQuestionAnswering (mô hình MarkupLMConfig)
- mbart — MBartForQuestionAnswering (mô hình MBartConfig)
- megatron-bert — MegatronBertForQuestionAnswering (mô hình MegatronBertConfig)
- minimax — MiniMaxForQuestionAnswering (mô hình MiniMaxConfig)
- ministral — MinistralForQuestionAnswering (mô hình MinistralConfig)
- ministral3 — Ministral3ForQuestionAnswering (mô hình Ministral3Config)
- mistral — MistralForQuestionAnswering (mô hình MistralConfig)
- mixtral — MixtralForQuestionAnswering (mô hình MixtralConfig)
- mobilebert — MobileBertForQuestionAnswering (mô hình MobileBertConfig)
- modernbert — ModernBertForQuestionAnswering (mô hình ModernBertConfig)
- mpnet — MPNetForQuestionAnswering (mô hình MPNetConfig)
- mpt — MptForQuestionAnswering (mô hình MptConfig)
- mra — MraForQuestionAnswering (mô hình MraConfig)
- mt5 — MT5ForQuestionAnswering (mô hình MT5Config)
- mvp — MvpForQuestionAnswering (mô hình MvpConfig)
- nemotron — NemotronForQuestionAnswering (mô hình NemotronConfig)
- nystromformer — NystromformerForQuestionAnswering (mô hình NystromformerConfig)
- opt — OPTForQuestionAnswering (mô hình OPTConfig)
- qwen2 — Qwen2ForQuestionAnswering (mô hình Qwen2Config)
- qwen2_moe — Qwen2MoeForQuestionAnswering (mô hình Qwen2MoeConfig)
- qwen3 — Qwen3ForQuestionAnswering (mô hình Qwen3Config)
- qwen3_moe — Qwen3MoeForQuestionAnswering (mô hình Qwen3MoeConfig)
- qwen3_next — Qwen3NextForQuestionAnswering (mô hình Qwen3NextConfig)
- reformer — ReformerForQuestionAnswering (mô hình ReformerConfig)
- rembert — RemBertForQuestionAnswering (mô hình RemBertConfig)
- roberta — RobertaForQuestionAnswering (mô hình RobertaConfig)
- roberta-prelayernorm — RobertaPreLayerNormForQuestionAnswering (mô hình RobertaPreLayerNormConfig)
- roc_bert — RoCBertForQuestionAnswering (mô hình RoCBertConfig)
- roformer — RoFormerForQuestionAnswering (mô hình RoFormerConfig)
- seed_oss — SeedOssForQuestionAnswering (mô hình SeedOssConfig)
- smollm3 — SmolLM3ForQuestionAnswering (mô hình SmolLM3Config)
- splinter — SplinterForQuestionAnswering (mô hình SplinterConfig)
- squeezebert — SqueezeBertForQuestionAnswering (mô hình SqueezeBertConfig)
- t5 — T5ForQuestionAnswering (mô hình T5Config)
- ultrabert — UltrabertForQuestionAnswering (mô hình UltrabertConfig)
- umt5 — UMT5ForQuestionAnswering (mô hình UMT5Config)
- xlm — XLMForQuestionAnsweringSimple (mô hình XLMConfig)
- xlm-roberta — XLMRobertaForQuestionAnswering (mô hình XLMRobertaConfig)
- xlm-roberta-xl — XLMRobertaXLForQuestionAnswering (mô hình XLMRobertaXLConfig)
- xlnet — XLNetForQuestionAnsweringSimple (mô hình XLNetConfig)
- xmod — XmodForQuestionAnswering (mô hình XmodConfig)
- yoso — YosoForQuestionAnswering (mô hình YosoConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextEncoding
Thị giác máy tính
Các lớp tự động sau đây có sẵn cho các tác vụ thị giác máy tính sau.
AutoModelForDepthEstimation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình CHMv2Config: CHMv2ForDepthEstimation (mô hình CHMv2Config)
- Lớp cấu hình DPTConfig: DPTForDepthEstimation (mô hình DPTConfig)
- Lớp cấu hình DepthAnythingConfig: DepthAnythingForDepthEstimation (mô hình DepthAnythingConfig)
- Lớp cấu hình DepthProConfig: DepthProForDepthEstimation (mô hình DepthProConfig)
- Lớp cấu hình GLPNConfig: GLPNForDepthEstimation (mô hình GLPNConfig)
- Lớp cấu hình PromptDepthAnythingConfig: PromptDepthAnythingForDepthEstimation (mô hình PromptDepthAnythingConfig)
- Lớp cấu hình Tipsv2DptConfig: Tipsv2DptForDepthEstimation (mô hình Tipsv2DptConfig)
- Lớp cấu hình ZoeDepthConfig: ZoeDepthForDepthEstimation (mô hình ZoeDepthConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- chmv2 — CHMv2ForDepthEstimation (mô hình CHMv2Config)
- depth_anything — DepthAnythingForDepthEstimation (mô hình DepthAnythingConfig)
- depth_pro — DepthProForDepthEstimation (mô hình DepthProConfig)
- dpt — DPTForDepthEstimation (mô hình DPTConfig)
- glpn — GLPNForDepthEstimation (mô hình GLPNConfig)
- prompt_depth_anything — PromptDepthAnythingForDepthEstimation (mô hình PromptDepthAnythingConfig)
- tipsv2_dpt — Tipsv2DptForDepthEstimation (mô hình Tipsv2DptConfig)
- zoedepth — ZoeDepthForDepthEstimation (mô hình ZoeDepthConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForDepthEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForNormalEstimation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Sapiens2Config: Sapiens2ForNormalEstimation (mô hình Sapiens2Config)
- Lớp cấu hình Tipsv2DptConfig: Tipsv2DptForNormalEstimation (mô hình Tipsv2DptConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForNormalEstimation (mô hình Sapiens2Config)
- tipsv2_dpt — Tipsv2DptForNormalEstimation (mô hình Tipsv2DptConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForNormalEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForPointmapEstimation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu ước lượng pointmap) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Sapiens2Config: Sapiens2ForPointmapEstimation (mô hình Sapiens2Config)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng điểm đồ) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng pointmap) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForPointmapEstimation (mô hình Sapiens2Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForPointmapEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageMatting
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu matting ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Sapiens2Config: Sapiens2ForImageMatting (mô hình Sapiens2Config)
- Lớp cấu hình VitMatteConfig: VitMatteForImageMatting (mô hình VitMatteConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu matting ảnh) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu matting ảnh) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForImageMatting (mô hình Sapiens2Config)
- vitmatte — VitMatteForImageMatting (mô hình VitMatteConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForImageMatting
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextRecognition
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình PPOCRV5MobileRecConfig: PPOCRV5MobileRecForTextRecognition (mô hình PPOCRV5MobileRecConfig)
- Lớp cấu hình PPOCRV5ServerRecConfig: PPOCRV5ServerRecForTextRecognition (mô hình PPOCRV5ServerRecConfig)
- Lớp cấu hình PPOCRV6SmallRecConfig: PPOCRV6SmallRecForTextRecognition (mô hình PPOCRV6SmallRecConfig)
- Lớp cấu hình PPOCRV6TinyRecConfig: PPOCRV6TinyRecForTextRecognition (mô hình PPOCRV6TinyRecConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- pp_ocrv5_mobile_rec — PPOCRV5MobileRecForTextRecognition (mô hình PPOCRV5MobileRecConfig)
- pp_ocrv5_server_rec — PPOCRV5ServerRecForTextRecognition (mô hình PPOCRV5ServerRecConfig)
- pp_ocrv6_small_rec — PPOCRV6SmallRecForTextRecognition (mô hình PPOCRV6SmallRecConfig)
- pp_ocrv6_tiny_rec — PPOCRV6TinyRecForTextRecognition (mô hình PPOCRV6TinyRecConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTextRecognition
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTableRecognition
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu nhận dạng bảng) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình SLANeXtConfig: SLANeXtForTableRecognition (mô hình SLANeXtConfig)
- Lớp cấu hình SLANetConfig: SLANetForTableRecognition (mô hình SLANetConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận diện bảng) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận diện bảng) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- slanet — SLANetForTableRecognition (mô hình SLANetConfig)
- slanext — SLANeXtForTableRecognition (mô hình SLANeXtConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTableRecognition
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình BeitConfig: BeitForImageClassification (mô hình BeitConfig)
- Lớp cấu hình BitConfig: BitForImageClassification (mô hình BitConfig)
- Lớp cấu hình CLIPConfig: CLIPForImageClassification (mô hình CLIPConfig)
- Lớp cấu hình ConvNextConfig: ConvNextForImageClassification (mô hình ConvNextConfig)
- Lớp cấu hình ConvNextV2Config: ConvNextV2ForImageClassification (mô hình ConvNextV2Config)
- Lớp cấu hình CvtConfig: CvtForImageClassification (mô hình CvtConfig)
- Lớp cấu hình Data2VecVisionConfig: Data2VecVisionForImageClassification (mô hình Data2VecVisionConfig)
- Lớp cấu hình DeiTConfig: DeiTForImageClassification hoặc DeiTForImageClassificationWithTeacher (mô hình DeiTConfig)
- Lớp cấu hình DinatConfig: DinatForImageClassification (mô hình DinatConfig)
- Lớp cấu hình Dinov2Config: Dinov2ForImageClassification (mô hình Dinov2Config)
- Lớp cấu hình Dinov2WithRegistersConfig: Dinov2WithRegistersForImageClassification (mô hình Dinov2WithRegistersConfig)
- Lớp cấu hình DonutSwinConfig: DonutSwinForImageClassification (mô hình DonutSwinConfig)
- Lớp cấu hình EfficientNetConfig: EfficientNetForImageClassification (mô hình EfficientNetConfig)
- Lớp cấu hình FocalNetConfig: FocalNetForImageClassification (mô hình FocalNetConfig)
- Lớp cấu hình HGNetV2Config: HGNetV2ForImageClassification (mô hình HGNetV2Config)
- Lớp cấu hình HieraConfig: HieraForImageClassification (mô hình HieraConfig)
- Lớp cấu hình IJepaConfig: IJepaForImageClassification (mô hình IJepaConfig)
- Lớp cấu hình ImageGPTConfig: ImageGPTForImageClassification (mô hình ImageGPTConfig)
- Lớp cấu hình LevitConfig: LevitForImageClassification hoặc LevitForImageClassificationWithTeacher (mô hình LevitConfig)
- Lớp cấu hình MetaClip2Config: MetaClip2ForImageClassification (mô hình MetaClip2Config)
- Lớp cấu hình MobileNetV1Config: MobileNetV1ForImageClassification (mô hình MobileNetV1Config)
- Lớp cấu hình MobileNetV2Config: MobileNetV2ForImageClassification (mô hình MobileNetV2Config)
- Lớp cấu hình MobileViTConfig: MobileViTForImageClassification (mô hình MobileViTConfig)
- Lớp cấu hình MobileViTV2Config: MobileViTV2ForImageClassification (mô hình MobileViTV2Config)
- Lớp cấu hình PPLCNetConfig: PPLCNetForImageClassification (mô hình PPLCNetConfig)
- Lớp cấu hình PerceiverConfig: PerceiverForImageClassificationLearned hoặc PerceiverForImageClassificationFourier hoặc PerceiverForImageClassificationConvProcessing (mô hình PerceiverConfig)
- Lớp cấu hình PoolFormerConfig: PoolFormerForImageClassification (mô hình PoolFormerConfig)
- Lớp cấu hình PvtConfig: PvtForImageClassification (mô hình PvtConfig)
- Lớp cấu hình PvtV2Config: PvtV2ForImageClassification (mô hình PvtV2Config)
- Lớp cấu hình RegNetConfig: RegNetForImageClassification (mô hình RegNetConfig)
- Lớp cấu hình ResNetConfig: ResNetForImageClassification (mô hình ResNetConfig)
- Lớp cấu hình SegformerConfig: SegformerForImageClassification (mô hình SegformerConfig)
- Lớp cấu hình ShieldGemma2Config: ShieldGemma2ForImageClassification (mô hình ShieldGemma2Config)
- Lớp cấu hình Siglip2Config: Siglip2ForImageClassification (mô hình Siglip2Config)
- Lớp cấu hình SiglipConfig: SiglipForImageClassification (mô hình SiglipConfig)
- Lớp cấu hình SwiftFormerConfig: SwiftFormerForImageClassification (mô hình SwiftFormerConfig)
- Lớp cấu hình SwinConfig: SwinForImageClassification (mô hình SwinConfig)
- Lớp cấu hình Swinv2Config: Swinv2ForImageClassification (mô hình Swinv2Config)
- Lớp cấu hình TextNetConfig: TextNetForImageClassification (mô hình TextNetConfig)
- Lớp cấu hình TimmWrapperConfig: TimmWrapperForImageClassification (mô hình TimmWrapperConfig)
- Lớp cấu hình ViTConfig: ViTForImageClassification (mô hình ViTConfig)
- Lớp cấu hình ViTMSNConfig: ViTMSNForImageClassification (mô hình ViTMSNConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại ảnh) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- beit — BeitForImageClassification (mô hình BeitConfig)
- bit — BitForImageClassification (mô hình BitConfig)
- clip — CLIPForImageClassification (mô hình CLIPConfig)
- convnext — ConvNextForImageClassification (mô hình ConvNextConfig)
- convnextv2 — ConvNextV2ForImageClassification (mô hình ConvNextV2Config)
- cvt — CvtForImageClassification (mô hình CvtConfig)
- data2vec-vision — Data2VecVisionForImageClassification (mô hình Data2VecVisionConfig)
- deit — DeiTForImageClassification hoặc DeiTForImageClassificationWithTeacher (mô hình DeiTConfig)
- dinat — DinatForImageClassification (mô hình DinatConfig)
- dinov2 — Dinov2ForImageClassification (mô hình Dinov2Config)
- dinov2_with_registers — Dinov2WithRegistersForImageClassification (mô hình Dinov2WithRegistersConfig)
- donut-swin — DonutSwinForImageClassification (mô hình DonutSwinConfig)
- efficientnet — EfficientNetForImageClassification (mô hình EfficientNetConfig)
- focalnet — FocalNetForImageClassification (mô hình FocalNetConfig)
- hgnet_v2 — HGNetV2ForImageClassification (mô hình HGNetV2Config)
- hiera — HieraForImageClassification (mô hình HieraConfig)
- ijepa — IJepaForImageClassification (mô hình IJepaConfig)
- imagegpt — ImageGPTForImageClassification (mô hình ImageGPTConfig)
- levit — LevitForImageClassification hoặc LevitForImageClassificationWithTeacher (mô hình LevitConfig)
- metaclip_2 — MetaClip2ForImageClassification (mô hình MetaClip2Config)
- mobilenet_v1 — MobileNetV1ForImageClassification (mô hình MobileNetV1Config)
- mobilenet_v2 — MobileNetV2ForImageClassification (mô hình MobileNetV2Config)
- mobilevit — MobileViTForImageClassification (mô hình MobileViTConfig)
- mobilevitv2 — MobileViTV2ForImageClassification (mô hình MobileViTV2Config)
- perceiver — PerceiverForImageClassificationLearned hoặc PerceiverForImageClassificationFourier hoặc PerceiverForImageClassificationConvProcessing (mô hình PerceiverConfig)
- poolformer — PoolFormerForImageClassification (mô hình PoolFormerConfig)
- pp_lcnet — PPLCNetForImageClassification (mô hình PPLCNetConfig)
- pvt — PvtForImageClassification (mô hình PvtConfig)
- pvt_v2 — PvtV2ForImageClassification (mô hình PvtV2Config)
- regnet — RegNetForImageClassification (mô hình RegNetConfig)
- resnet — ResNetForImageClassification (mô hình ResNetConfig)
- segformer — SegformerForImageClassification (mô hình SegformerConfig)
- shieldgemma2 — ShieldGemma2ForImageClassification (mô hình ShieldGemma2Config)
- siglip — SiglipForImageClassification (mô hình SiglipConfig)
- siglip2 — Siglip2ForImageClassification (mô hình Siglip2Config)
- swiftformer — SwiftFormerForImageClassification (mô hình SwiftFormerConfig)
- swin — SwinForImageClassification (mô hình SwinConfig)
- swinv2 — Swinv2ForImageClassification (mô hình Swinv2Config)
- textnet — TextNetForImageClassification (mô hình TextNetConfig)
- timm_wrapper — TimmWrapperForImageClassification (mô hình TimmWrapperConfig)
- vit — ViTForImageClassification (mô hình ViTConfig)
- vit_msn — ViTMSNForImageClassification (mô hình ViTMSNConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForImageClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForVideoClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại video) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình TimesformerConfig: TimesformerForVideoClassification (mô hình TimesformerConfig)
- Lớp cấu hình VJEPA2Config: VJEPA2ForVideoClassification (mô hình VJEPA2Config)
- Lớp cấu hình VideoMAEConfig: VideoMAEForVideoClassification (mô hình VideoMAEConfig)
- Lớp cấu hình VideoPrismVisionConfig: VideoPrismForVideoClassification (mô hình VideoPrismVisionConfig)
- Lớp cấu hình VivitConfig: VivitForVideoClassification (mô hình VivitConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại video) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại video) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- timesformer — TimesformerForVideoClassification (mô hình TimesformerConfig)
- videomae — VideoMAEForVideoClassification (mô hình VideoMAEConfig)
- videoprism_vision_model — VideoPrismForVideoClassification (mô hình VideoPrismVisionConfig)
- vivit — VivitForVideoClassification (mô hình VivitConfig)
- vjepa2 — VJEPA2ForVideoClassification (mô hình VJEPA2Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForVideoClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForPoseEstimation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Sapiens2Config: Sapiens2ForPoseEstimation (mô hình Sapiens2Config)
- Lớp cấu hình VitPoseConfig: VitPoseForPoseEstimation (mô hình VitPoseConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- sapiens2 — Sapiens2ForPoseEstimation (mô hình Sapiens2Config)
- vitpose — VitPoseForPoseEstimation (mô hình VitPoseConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForPoseEstimation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForKeypointDetection
AutoModelForKeypointMatching
AutoModelForMaskedImageModeling
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu vào mô hình hóa ảnh có mặt nạ) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình DeiTConfig: DeiTForMaskedImageModeling (mô hình DeiTConfig)
- Lớp cấu hình FocalNetConfig: FocalNetForMaskedImageModeling (mô hình FocalNetConfig)
- Lớp cấu hình SwinConfig: SwinForMaskedImageModeling (mô hình SwinConfig)
- Lớp cấu hình Swinv2Config: Swinv2ForMaskedImageModeling (mô hình Swinv2Config)
- Lớp cấu hình ViTConfig: ViTForMaskedImageModeling (mô hình ViTConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu vào mô hình hóa ảnh có mặt nạ) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu vào mô hình hóa ảnh bị che) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- deit — DeiTForMaskedImageModeling (mô hình DeiTConfig)
- focalnet — FocalNetForMaskedImageModeling (mô hình FocalNetConfig)
- swin — SwinForMaskedImageModeling (mô hình SwinConfig)
- swinv2 — Swinv2ForMaskedImageModeling (mô hình Swinv2Config)
- vit — ViTForMaskedImageModeling (mô hình ViTConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForMaskedImageModeling
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForObjectDetection
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu object detection) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình ConditionalDetrConfig: ConditionalDetrForObjectDetection (mô hình ConditionalDetrConfig)
- Lớp cấu hình DFineConfig: DFineForObjectDetection (mô hình DFineConfig)
- Lớp cấu hình DabDetrConfig: DabDetrForObjectDetection (mô hình DabDetrConfig)
- Lớp cấu hình DeformableDetrConfig: DeformableDetrForObjectDetection (mô hình DeformableDetrConfig)
- Lớp cấu hình Deimv2Config: Deimv2ForObjectDetection (mô hình Deimv2Config)
- Lớp cấu hình DetrConfig: DetrForObjectDetection (mô hình DetrConfig)
- Lớp cấu hình LwDetrConfig: LwDetrForObjectDetection (mô hình LwDetrConfig)
- Lớp cấu hình PPDocLayoutV2Config: PPDocLayoutV2ForObjectDetection (mô hình PPDocLayoutV2Config)
- Lớp cấu hình PPDocLayoutV3Config: PPDocLayoutV3ForObjectDetection (mô hình PPDocLayoutV3Config)
- Lớp cấu hình PPDocLayoutV4Config: PPDocLayoutV4ForObjectDetection (mô hình PPDocLayoutV4Config)
- Lớp cấu hình PPOCRV5MobileDetConfig: PPOCRV5MobileDetForObjectDetection (mô hình PPOCRV5MobileDetConfig)
- Lớp cấu hình PPOCRV5ServerDetConfig: PPOCRV5ServerDetForObjectDetection (mô hình PPOCRV5ServerDetConfig)
- Lớp cấu hình PPOCRV6MediumDetConfig: PPOCRV6MediumDetForObjectDetection (mô hình PPOCRV6MediumDetConfig)
- Lớp cấu hình PPOCRV6SmallDetConfig: PPOCRV6SmallDetForObjectDetection (mô hình PPOCRV6SmallDetConfig)
- Lớp cấu hình RTDetrConfig: RTDetrForObjectDetection (mô hình RTDetrConfig)
- Lớp cấu hình RTDetrV2Config: RTDetrV2ForObjectDetection (mô hình RTDetrV2Config)
- Lớp cấu hình RfDetrConfig: RfDetrForObjectDetection (mô hình RfDetrConfig)
- Lớp cấu hình TableTransformerConfig: TableTransformerForObjectDetection (mô hình TableTransformerConfig)
- Lớp cấu hình YolosConfig: YolosForObjectDetection (mô hình YolosConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phát hiện đối tượng) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phát hiện đối tượng) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- conditional_detr — ConditionalDetrForObjectDetection (mô hình ConditionalDetrConfig)
- d_fine — DFineForObjectDetection (mô hình DFineConfig)
- dab-detr — DabDetrForObjectDetection (mô hình DabDetrConfig)
- deformable_detr — DeformableDetrForObjectDetection (mô hình DeformableDetrConfig)
- deimv2 — Deimv2ForObjectDetection (mô hình Deimv2Config)
- detr — DetrForObjectDetection (mô hình DetrConfig)
- lw_detr — LwDetrForObjectDetection (mô hình LwDetrConfig)
- pp_doclayout_v2 — PPDocLayoutV2ForObjectDetection (mô hình PPDocLayoutV2Config)
- pp_doclayout_v3 — PPDocLayoutV3ForObjectDetection (mô hình PPDocLayoutV3Config)
- pp_doclayout_v4 — PPDocLayoutV4ForObjectDetection (mô hình PPDocLayoutV4Config)
- pp_ocrv5_mobile_det — PPOCRV5MobileDetForObjectDetection (mô hình PPOCRV5MobileDetConfig)
- pp_ocrv5_server_det — PPOCRV5ServerDetForObjectDetection (mô hình PPOCRV5ServerDetConfig)
- pp_ocrv6_medium_det — PPOCRV6MediumDetForObjectDetection (mô hình PPOCRV6MediumDetConfig)
- pp_ocrv6_small_det — PPOCRV6SmallDetForObjectDetection (mô hình PPOCRV6SmallDetConfig)
- rf_detr — RfDetrForObjectDetection (mô hình RfDetrConfig)
- rt_detr — RTDetrForObjectDetection (mô hình RTDetrConfig)
- rt_detr_v2 — RTDetrV2ForObjectDetection (mô hình RTDetrV2Config)
- table-transformer — TableTransformerForObjectDetection (mô hình TableTransformerConfig)
- yolos — YolosForObjectDetection (mô hình YolosConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForObjectDetection
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageSegmentation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình DetrConfig: DetrForSegmentation (mô hình DetrConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn ảnh) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- detr — DetrForSegmentation (mô hình DetrConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForImageSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageToImage
AutoModelForSemanticSegmentation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu semantic segmentation) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình BeitConfig: BeitForSemanticSegmentation (mô hình BeitConfig)
- Lớp cấu hình DPTConfig: DPTForSemanticSegmentation (mô hình DPTConfig)
- Lớp cấu hình Data2VecVisionConfig: Data2VecVisionForSemanticSegmentation (mô hình Data2VecVisionConfig)
- Lớp cấu hình MobileNetV2Config: MobileNetV2ForSemanticSegmentation (mô hình MobileNetV2Config)
- Lớp cấu hình MobileViTConfig: MobileViTForSemanticSegmentation (mô hình MobileViTConfig)
- Lớp cấu hình MobileViTV2Config: MobileViTV2ForSemanticSegmentation (mô hình MobileViTV2Config)
- Lớp cấu hình Sapiens2Config: Sapiens2ForSemanticSegmentation (mô hình Sapiens2Config)
- Lớp cấu hình SegformerConfig: SegformerForSemanticSegmentation (mô hình SegformerConfig)
- Lớp cấu hình Tipsv2DptConfig: Tipsv2DptForSemanticSegmentation (mô hình Tipsv2DptConfig)
- Lớp cấu hình UperNetConfig: UperNetForSemanticSegmentation (mô hình UperNetConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn ngữ nghĩa) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu semantic segmentation) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- beit — BeitForSemanticSegmentation (mô hình BeitConfig)
- data2vec-vision — Data2VecVisionForSemanticSegmentation (mô hình Data2VecVisionConfig)
- dpt — DPTForSemanticSegmentation (mô hình DPTConfig)
- mobilenet_v2 — MobileNetV2ForSemanticSegmentation (mô hình MobileNetV2Config)
- mobilevit — MobileViTForSemanticSegmentation (mô hình MobileViTConfig)
- mobilevitv2 — MobileViTV2ForSemanticSegmentation (mô hình MobileViTV2Config)
- sapiens2 — Sapiens2ForSemanticSegmentation (mô hình Sapiens2Config)
- segformer — SegformerForSemanticSegmentation (mô hình SegformerConfig)
- tipsv2_dpt — Tipsv2DptForSemanticSegmentation (mô hình Tipsv2DptConfig)
- upernet — UperNetForSemanticSegmentation (mô hình UperNetConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForSemanticSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForInstanceSegmentation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình MaskFormerConfig: MaskFormerForInstanceSegmentation (mô hình MaskFormerConfig)
- Lớp cấu hình RfDetrConfig: RfDetrForInstanceSegmentation (mô hình RfDetrConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- maskformer — MaskFormerForInstanceSegmentation (mô hình MaskFormerConfig)
- rf_detr — RfDetrForInstanceSegmentation (mô hình RfDetrConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForInstanceSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForUniversalSegmentation
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình DetrConfig: DetrForSegmentation (mô hình DetrConfig)
- Lớp cấu hình EomtConfig: EomtForUniversalSegmentation (mô hình EomtConfig)
- Lớp cấu hình EomtDinov3Config: EomtDinov3ForUniversalSegmentation (mô hình EomtDinov3Config)
- Lớp cấu hình Mask2FormerConfig: Mask2FormerForUniversalSegmentation (mô hình Mask2FormerConfig)
- Lớp cấu hình MaskFormerConfig: MaskFormerForInstanceSegmentation (mô hình MaskFormerConfig)
- Lớp cấu hình OneFormerConfig: OneFormerForUniversalSegmentation (mô hình OneFormerConfig)
- Lớp cấu hình VideomtConfig: VideomtForUniversalSegmentation (mô hình VideomtConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- detr — DetrForSegmentation (mô hình DetrConfig)
- eomt — EomtForUniversalSegmentation (mô hình EomtConfig)
- eomt_dinov3 — EomtDinov3ForUniversalSegmentation (mô hình EomtDinov3Config)
- mask2former — Mask2FormerForUniversalSegmentation (mô hình Mask2FormerConfig)
- maskformer — MaskFormerForInstanceSegmentation (mô hình MaskFormerConfig)
- oneformer — OneFormerForUniversalSegmentation (mô hình OneFormerConfig)
- videomt — VideomtForUniversalSegmentation (mô hình VideomtConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForUniversalSegmentation
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForZeroShotImageClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh zero-shot) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AlignConfig: AlignModel (mô hình AlignConfig)
- Lớp cấu hình AltCLIPConfig: AltCLIPModel (mô hình AltCLIPConfig)
- Lớp cấu hình Blip2Config: Blip2ForImageTextRetrieval (mô hình Blip2Config)
- Lớp cấu hình BlipConfig: BlipModel (mô hình BlipConfig)
- Lớp cấu hình CLIPConfig: CLIPModel (mô hình CLIPConfig)
- Lớp cấu hình CLIPSegConfig: CLIPSegModel (mô hình CLIPSegConfig)
- Lớp cấu hình ChineseCLIPConfig: ChineseCLIPModel (mô hình ChineseCLIPConfig)
- MetaClip2Config lớp cấu hình: MetaClip2Model (mô hình MetaClip2Config)
- Lớp cấu hình Siglip2Config: Siglip2Model (mô hình Siglip2Config)
- Lớp cấu hình SiglipConfig: SiglipModel (mô hình SiglipConfig)
- Lớp cấu hình Tipsv2Config: Tipsv2Model (mô hình Tipsv2Config)
- Lớp cấu hình VideoPrismConfig: VideoPrismClipModel (mô hình VideoPrismConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại ảnh zero-shot) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại ảnh zero-shot) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- align — AlignModel (mô hình AlignConfig)
- altclip — AltCLIPModel (mô hình AltCLIPConfig)
- blip — BlipModel (mô hình BlipConfig)
- blip-2 — Blip2ForImageTextRetrieval (mô hình Blip2Config)
- chinese_clip — ChineseCLIPModel (mô hình ChineseCLIPConfig)
- clip — CLIPModel (mô hình CLIPConfig)
- clipseg — CLIPSegModel (mô hình CLIPSegConfig)
- metaclip_2 — MetaClip2Model (mô hình MetaClip2Config)
- siglip — SiglipModel (mô hình SiglipConfig)
- siglip2 — Siglip2Model (mô hình Siglip2Config)
- tipsv2 — Tipsv2Model (mô hình Tipsv2Config)
- videoprism — VideoPrismClipModel (mô hình VideoPrismConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForZeroShotImageClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForZeroShotObjectDetection
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình GroundingDinoConfig: GroundingDinoForObjectDetection (mô hình GroundingDinoConfig)
- Lớp cấu hình MMGroundingDinoConfig: MMGroundingDinoForObjectDetection (mô hình MMGroundingDinoConfig)
- Lớp cấu hình OmDetTurboConfig: OmDetTurboForObjectDetection (mô hình OmDetTurboConfig)
- Lớp cấu hình OwlViTConfig: OwlViTForObjectDetection (mô hình OwlViTConfig)
- Lớp cấu hình Owlv2Config: Owlv2ForObjectDetection (mô hình Owlv2Config)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- grounding-dino — GroundingDinoForObjectDetection (mô hình GroundingDinoConfig)
- mm-grounding-dino — MMGroundingDinoForObjectDetection (mô hình MMGroundingDinoConfig)
- omdet-turbo — OmDetTurboForObjectDetection (mô hình OmDetTurboConfig)
- owlv2 — Owlv2ForObjectDetection (mô hình Owlv2Config)
- owlvit — OwlViTForObjectDetection (mô hình OwlViTConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForZeroShotObjectDetection
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueÂm thanh
Các lớp tự động sau đây có sẵn cho các tác vụ âm thanh sau.
AutoModelForAudioClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại âm thanh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình ASTConfig: ASTForAudioClassification (mô hình ASTConfig)
- Lớp cấu hình Data2VecAudioConfig: Data2VecAudioForSequenceClassification (mô hình Data2VecAudioConfig)
- Lớp cấu hình HubertConfig: HubertForSequenceClassification (mô hình HubertConfig)
- Lớp cấu hình SEWConfig: SEWForSequenceClassification (mô hình SEWConfig)
- Lớp cấu hình SEWDConfig: SEWDForSequenceClassification (mô hình SEWDConfig)
- Lớp cấu hình UniSpeechConfig: UniSpeechForSequenceClassification (mô hình UniSpeechConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatForSequenceClassification (mô hình UniSpeechSatConfig)
- Lớp cấu hình Wav2Vec2BertConfig: Wav2Vec2BertForSequenceClassification (mô hình Wav2Vec2BertConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2ForSequenceClassification (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerForSequenceClassification (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình WavLMConfig: WavLMForSequenceClassification (mô hình WavLMConfig)
- Lớp cấu hình WhisperConfig: WhisperForAudioClassification (mô hình WhisperConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại âm thanh) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại âm thanh) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- audio-spectrogram-transformer — ASTForAudioClassification (mô hình ASTConfig)
- data2vec-audio — Data2VecAudioForSequenceClassification (mô hình Data2VecAudioConfig)
- hubert — HubertForSequenceClassification (mô hình HubertConfig)
- sew — SEWForSequenceClassification (mô hình SEWConfig)
- sew-d — SEWDForSequenceClassification (mô hình SEWDConfig)
- unispeech — UniSpeechForSequenceClassification (mô hình UniSpeechConfig)
- unispeech-sat — UniSpeechSatForSequenceClassification (mô hình UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForSequenceClassification (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForSequenceClassification (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForSequenceClassification (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMForSequenceClassification (mô hình WavLMConfig)
- whisper — WhisperForAudioClassification (mô hình WhisperConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForAudioClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForAudioFrameClassification
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại khung âm thanh (token)) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Data2VecAudioConfig: Data2VecAudioForAudioFrameClassification (mô hình Data2VecAudioConfig)
- Lớp cấu hình Nemotron3DiarizationConfig: Nemotron3DiarizationForAudioFrameClassification (mô hình Nemotron3DiarizationConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatForAudioFrameClassification (mô hình UniSpeechSatConfig)
- Lớp cấu hình Wav2Vec2BertConfig: Wav2Vec2BertForAudioFrameClassification (mô hình Wav2Vec2BertConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2ForAudioFrameClassification (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerForAudioFrameClassification (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình WavLMConfig: WavLMForAudioFrameClassification (mô hình WavLMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại khung âm thanh (token)) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại khung âm thanh (token)) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForAudioFrameClassification (mô hình Data2VecAudioConfig)
- nemotron3_diarization — Nemotron3DiarizationForAudioFrameClassification (mô hình Nemotron3DiarizationConfig)
- unispeech-sat — UniSpeechSatForAudioFrameClassification (mô hình UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForAudioFrameClassification (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForAudioFrameClassification (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForAudioFrameClassification (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMForAudioFrameClassification (mô hình WavLMConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForAudioFrameClassification
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForCTC
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại thời gian kết nối) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Data2VecAudioConfig: Data2VecAudioForCTC (mô hình Data2VecAudioConfig)
- Lớp cấu hình GraniteSpeech5CTCConfig: GraniteSpeech5ForCTC (mô hình GraniteSpeech5CTCConfig)
- Lớp cấu hình HubertConfig: HubertForCTC (mô hình HubertConfig)
- Lớp cấu hình LasrCTCConfig: LasrForCTC (mô hình LasrCTCConfig)
- Lớp cấu hình ParakeetCTCConfig: ParakeetForCTC (mô hình ParakeetCTCConfig)
- Lớp cấu hình SEWConfig: SEWForCTC (mô hình SEWConfig)
- Lớp cấu hình SEWDConfig: SEWDForCTC (mô hình SEWDConfig)
- Lớp cấu hình UniSpeechConfig: UniSpeechForCTC (mô hình UniSpeechConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatForCTC (mô hình UniSpeechSatConfig)
- Lớp cấu hình Wav2Vec2BertConfig: Wav2Vec2BertForCTC (mô hình Wav2Vec2BertConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2ForCTC (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerForCTC (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình WavLMConfig: WavLMForCTC (mô hình WavLMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại thời gian kết nối) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại thời gian kết nối) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForCTC (mô hình Data2VecAudioConfig)
- granite_speech5_ctc — GraniteSpeech5ForCTC (mô hình GraniteSpeech5CTCConfig)
- hubert — HubertForCTC (mô hình HubertConfig)
- lasr_ctc — LasrForCTC (mô hình LasrCTCConfig)
- parakeet_ctc — ParakeetForCTC (mô hình ParakeetCTCConfig)
- sew — SEWForCTC (mô hình SEWConfig)
- sew-d — SEWDForCTC (mô hình SEWDConfig)
- unispeech — UniSpeechForCTC (mô hình UniSpeechConfig)
- unispeech-sat — UniSpeechSatForCTC (mô hình UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForCTC (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForCTC (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForCTC (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMForCTC (mô hình WavLMConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForCTC
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTDT
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu transducer token-and-duration) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình ParakeetTDTConfig: ParakeetForTDT (mô hình ParakeetTDTConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu transducer token-and-duration) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu transducer token-and-duration) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- parakeet_tdt — ParakeetForTDT (mô hình ParakeetTDTConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTDT
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForRNNT
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu RNN transducer) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Nemotron3_5AsrConfig: Nemotron3_5AsrForRNNT (mô hình Nemotron3_5AsrConfig)
- Lớp cấu hình NemotronAsrStreamingConfig: NemotronAsrStreamingForRNNT (mô hình NemotronAsrStreamingConfig)
- Lớp cấu hình ParakeetRNNTConfig: ParakeetForRNNT (mô hình ParakeetRNNTConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu RNN transducer) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu RNN transducer) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- nemotron3_5_asr — Nemotron3_5AsrForRNNT (mô hình Nemotron3_5AsrConfig)
- nemotron_asr_streaming — NemotronAsrStreamingForRNNT (mô hình NemotronAsrStreamingConfig)
- parakeet_rnnt — ParakeetForRNNT (mô hình ParakeetRNNTConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForRNNT
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForSpeechSeq2Seq
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình chuyển đổi giọng nói thành văn bản theo kiểu chuỗi-sang-sequel) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình CanaryConfig: CanaryForConditionalGeneration (mô hình CanaryConfig)
- Lớp cấu hình CohereAsrConfig: CohereAsrForConditionalGeneration (mô hình CohereAsrConfig)
- Lớp cấu hình DiaConfig: DiaForConditionalGeneration (mô hình DiaConfig)
- Lớp cấu hình FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- Lớp cấu hình GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- Lớp cấu hình GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- Lớp cấu hình KyutaiSpeechToTextConfig: KyutaiSpeechToTextForConditionalGeneration (mô hình KyutaiSpeechToTextConfig)
- Lớp cấu hình MoonshineConfig: MoonshineForConditionalGeneration (mô hình MoonshineConfig)
- Lớp cấu hình MoonshineStreamingConfig: MoonshineStreamingForConditionalGeneration (mô hình MoonshineStreamingConfig)
- Lớp cấu hình Pop2PianoConfig: Pop2PianoForConditionalGeneration (mô hình Pop2PianoConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- Lớp cấu hình SeamlessM4TConfig: SeamlessM4TForSpeechToText (mô hình SeamlessM4TConfig)
- Lớp cấu hình SeamlessM4Tv2Config: SeamlessM4Tv2ForSpeechToText (mô hình SeamlessM4Tv2Config)
- Lớp cấu hình Speech2TextConfig: Speech2TextForConditionalGeneration (mô hình Speech2TextConfig)
- Lớp cấu hình SpeechEncoderDecoderConfig: SpeechEncoderDecoderModel (mô hình SpeechEncoderDecoderConfig)
- Lớp cấu hình SpeechT5Config: SpeechT5ForSpeechToText (mô hình SpeechT5Config)
- Lớp cấu hình VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- Lớp cấu hình VibeVoiceConfig: VibeVoiceForConditionalGeneration (mô hình VibeVoiceConfig)
- Lớp cấu hình VoxtralConfig: VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- Lớp cấu hình VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- Lớp cấu hình WhisperConfig: WhisperForConditionalGeneration (mô hình WhisperConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình chuyển đổi giọng nói thành văn bản theo kiểu chuỗi-sang-sequel) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa speech-to-text dạng sequence-to-sequence) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- canary — CanaryForConditionalGeneration (mô hình CanaryConfig)
- cohere_asr — CohereAsrForConditionalGeneration (mô hình CohereAsrConfig)
- dia — DiaForConditionalGeneration (mô hình DiaConfig)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- kyutai_speech_to_text — KyutaiSpeechToTextForConditionalGeneration (mô hình KyutaiSpeechToTextConfig)
- moonshine — MoonshineForConditionalGeneration (mô hình MoonshineConfig)
- moonshine_streaming — MoonshineStreamingForConditionalGeneration (mô hình MoonshineStreamingConfig)
- pop2piano — Pop2PianoForConditionalGeneration (mô hình Pop2PianoConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- seamless_m4t — SeamlessM4TForSpeechToText (mô hình SeamlessM4TConfig)
- seamless_m4t_v2 — SeamlessM4Tv2ForSpeechToText (mô hình SeamlessM4Tv2Config)
- speech-encoder-decoder — SpeechEncoderDecoderModel (mô hình SpeechEncoderDecoderConfig)
- speech_to_text — Speech2TextForConditionalGeneration (mô hình Speech2TextConfig)
- speecht5 — SpeechT5ForSpeechToText (mô hình SpeechT5Config)
- vibevoice — VibeVoiceForConditionalGeneration (mô hình VibeVoiceConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- voxtral — VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- whisper — WhisperForConditionalGeneration (mô hình WhisperConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForSpeechSeq2Seq
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForAudioXVector
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với khả năng truy xuất âm thanh qua đầu x-vector) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Data2VecAudioConfig: Data2VecAudioForXVector (mô hình Data2VecAudioConfig)
- Lớp cấu hình UniSpeechSatConfig: UniSpeechSatForXVector (mô hình UniSpeechSatConfig)
- Lớp cấu hình Wav2Vec2BertConfig: Wav2Vec2BertForXVector (mô hình Wav2Vec2BertConfig)
- Lớp cấu hình Wav2Vec2Config: Wav2Vec2ForXVector (mô hình Wav2Vec2Config)
- Lớp cấu hình Wav2Vec2ConformerConfig: Wav2Vec2ConformerForXVector (mô hình Wav2Vec2ConformerConfig)
- Lớp cấu hình WavLMConfig: WavLMForXVector (mô hình WavLMConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu x-vector để truy xuất âm thanh) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu x-vector để truy xuất âm thanh) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- data2vec-audio — Data2VecAudioForXVector (mô hình Data2VecAudioConfig)
- unispeech-sat — UniSpeechSatForXVector (mô hình UniSpeechSatConfig)
- wav2vec2 — Wav2Vec2ForXVector (mô hình Wav2Vec2Config)
- wav2vec2-bert — Wav2Vec2BertForXVector (mô hình Wav2Vec2BertConfig)
- wav2vec2-conformer — Wav2Vec2ConformerForXVector (mô hình Wav2Vec2ConformerConfig)
- wavlm — WavLMForXVector (mô hình WavLMConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForAudioXVector
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTextToSpectrogram
AutoModelForTextToWaveform
AutoModelForAudioTokenization
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mã hóa âm thanh thông qua các codebook) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình DacConfig: DacModel (mô hình DacConfig)
- Lớp cấu hình HiggsAudioV2TokenizerConfig: HiggsAudioV2TokenizerModel (mô hình HiggsAudioV2TokenizerConfig)
- Lớp cấu hình NeuCodecConfig: NeuCodecModel (mô hình NeuCodecConfig)
- Lớp cấu hình PocketTTSAudioTokenizerConfig: PocketTTSAudioTokenizerModel (mô hình PocketTTSAudioTokenizerConfig)
- Lớp cấu hình VibeVoiceAcousticTokenizerConfig: VibeVoiceAcousticTokenizerModel (mô hình VibeVoiceAcousticTokenizerConfig)
- Lớp cấu hình Xcodec2Config: Xcodec2Model (mô hình Xcodec2Config)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với mã hóa âm thanh thông qua đầu codebooks) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với mã hóa âm thanh thông qua đầu codebooks) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- dac — DacModel (mô hình DacConfig)
- higgs_audio_v2_tokenizer — HiggsAudioV2TokenizerModel (mô hình HiggsAudioV2TokenizerConfig)
- neucodec — NeuCodecModel (mô hình NeuCodecConfig)
- pocket_tts_audio_tokenizer — PocketTTSAudioTokenizerModel (mô hình PocketTTSAudioTokenizerConfig)
- vibevoice_acoustic_tokenizer — VibeVoiceAcousticTokenizerModel (mô hình VibeVoiceAcousticTokenizerConfig)
- xcodec2 — Xcodec2Model (mô hình Xcodec2Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForAudioTokenization
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueĐa phương thức
Các lớp tự động sau đây có sẵn cho các tác vụ đa phương thức sau.
AutoModelForMultimodalLM
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu sinh đa phương thức) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AriaConfig: AriaForConditionalGeneration (mô hình AriaConfig)
- Lớp cấu hình AyaVisionConfig: AyaVisionForConditionalGeneration (mô hình AyaVisionConfig)
- Lớp cấu hình Blip2Config: Blip2ForConditionalGeneration (mô hình Blip2Config)
- Lớp cấu hình BlipConfig: BlipForConditionalGeneration (mô hình BlipConfig)
- Lớp cấu hình ChameleonConfig: ChameleonForConditionalGeneration (mô hình ChameleonConfig)
- Lớp cấu hình Cohere2VisionConfig: Cohere2VisionForConditionalGeneration (mô hình Cohere2VisionConfig)
- Lớp cấu hình CohereCompassConfig: CohereCompassForConditionalGeneration (mô hình CohereCompassConfig)
- Lớp cấu hình Cosmos3EdgeConfig: Cosmos3EdgeForConditionalGeneration (mô hình Cosmos3EdgeConfig)
- Lớp cấu hình Cosmos3OmniConfig: Cosmos3OmniForConditionalGeneration (mô hình Cosmos3OmniConfig)
- Lớp cấu hình DeepseekOcr2Config: DeepseekOcr2ForConditionalGeneration (mô hình DeepseekOcr2Config)
- Lớp cấu hình DeepseekVLConfig: DeepseekVLForConditionalGeneration (mô hình DeepseekVLConfig)
- Lớp cấu hình DeepseekVLHybridConfig: DeepseekVLHybridForConditionalGeneration (mô hình DeepseekVLHybridConfig)
- Lớp cấu hình DiffusionGemmaConfig: DiffusionGemmaForBlockDiffusion (mô hình DiffusionGemmaConfig)
- Lớp cấu hình Dots3NoteConfig: Dots3NoteForConditionalGeneration (mô hình Dots3NoteConfig)
- Lớp cấu hình Emu3Config: Emu3ForConditionalGeneration (mô hình Emu3Config)
- Lớp cấu hình Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeForConditionalGeneration (mô hình Ernie4_5_VLMoeConfig)
- Lớp cấu hình EvollaConfig: EvollaForProteinText2Text (mô hình EvollaConfig)
- Lớp cấu hình Exaone4_5_Config: Exaone4_5_ForConditionalGeneration (mô hình Exaone4_5_Config)
- Lớp cấu hình FastVlmConfig: FastVlmForConditionalGeneration (mô hình FastVlmConfig)
- Lớp cấu hình Florence2Config: Florence2ForConditionalGeneration (mô hình Florence2Config)
- Lớp cấu hình FunAsrNanoConfig: FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- Lớp cấu hình FuyuConfig: FuyuForCausalLM (mô hình FuyuConfig)
- Lớp cấu hình Gemma3Config: Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- Lớp cấu hình Gemma3nConfig: Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- Lớp cấu hình Gemma4Config: Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- Lớp cấu hình Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- Lớp cấu hình GitConfig: GitForCausalLM (mô hình GitConfig)
- Lớp cấu hình Glm46VConfig: Glm46VForConditionalGeneration (mô hình Glm46VConfig)
- Lớp cấu hình Glm4vConfig: Glm4vForConditionalGeneration (mô hình Glm4vConfig)
- Lớp cấu hình Glm4vMoeConfig: Glm4vMoeForConditionalGeneration (mô hình Glm4vMoeConfig)
- Lớp cấu hình Glm5NextConfig: Glm5NextForConditionalGeneration (mô hình Glm5NextConfig)
- Lớp cấu hình GlmAsrConfig: GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- Lớp cấu hình GlmOcrConfig: GlmOcrForConditionalGeneration (mô hình GlmOcrConfig)
- Lớp cấu hình GlmgaConfig: Glm46VForConditionalGeneration (mô hình GlmgaConfig)
- Lớp cấu hình GotOcr2Config: GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- Lớp cấu hình Granite4VisionConfig: Granite4VisionForConditionalGeneration (mô hình Granite4VisionConfig)
- Lớp cấu hình GraniteDoclingConfig: GraniteDoclingForConditionalGeneration (mô hình GraniteDoclingConfig)
- Lớp cấu hình GraniteSpeechConfig: GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- Lớp cấu hình GraniteSpeechPlusConfig: GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- Lớp cấu hình HunYuanVLConfig: HunYuanVLForConditionalGeneration (mô hình HunYuanVLConfig)
- Lớp cấu hình HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2ForConditionalGeneration (mô hình HyperCLOVAXVisionV2Config)
- Lớp cấu hình Idefics2Config: Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- Lớp cấu hình Idefics3Config: Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- Lớp cấu hình IdeficsConfig: IdeficsForVisionText2Text (mô hình IdeficsConfig)
- Lớp cấu hình Inkling2Config: Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- Lớp cấu hình InklingConfig: InklingForConditionalGeneration (mô hình InklingConfig)
- Lớp cấu hình InstructBlipConfig: InstructBlipForConditionalGeneration (mô hình InstructBlipConfig)
- Lớp cấu hình InstructBlipVideoConfig: InstructBlipVideoForConditionalGeneration (mô hình InstructBlipVideoConfig)
- Lớp cấu hình InternVLConfig: InternVLForConditionalGeneration (mô hình InternVLConfig)
- Lớp cấu hình JanusConfig: JanusForConditionalGeneration (mô hình JanusConfig)
- Lớp cấu hình Kimi_K25Config: Kimi_K25ForConditionalGeneration (mô hình Kimi_K25Config)
- Lớp cấu hình Kosmos2Config: Kosmos2ForConditionalGeneration (mô hình Kosmos2Config)
- Lớp cấu hình Kosmos2_5Config: Kosmos2_5ForConditionalGeneration (mô hình Kosmos2_5Config)
- Lớp cấu hình KyutaiSpeechToTextConfig: KyutaiSpeechToTextForConditionalGeneration (mô hình KyutaiSpeechToTextConfig)
- Lớp cấu hình Lfm2VlConfig: Lfm2VlForConditionalGeneration (mô hình Lfm2VlConfig)
- Lớp cấu hình Lfm3VlConfig: Lfm3VlForConditionalGeneration (mô hình Lfm3VlConfig)
- Lớp cấu hình LightOnOcrConfig: LightOnOcrForConditionalGeneration (mô hình LightOnOcrConfig)
- Lớp cấu hình Llama4Config: Llama4ForConditionalGeneration (mô hình Llama4Config)
- Lớp cấu hình LlavaConfig: LlavaForConditionalGeneration (mô hình LlavaConfig)
- Lớp cấu hình LlavaNextConfig: LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- Lớp cấu hình LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- Lớp cấu hình LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- Lớp cấu hình MiniCPMOcrConfig: MiniCPMOcrForConditionalGeneration (mô hình MiniCPMOcrConfig)
- Lớp cấu hình MiniCPMV4_6Config: MiniCPMV4_6ForConditionalGeneration (mô hình MiniCPMV4_6Config)
- Lớp cấu hình MiniCPMV4_7Config: MiniCPMV4_7ForConditionalGeneration (mô hình MiniCPMV4_7Config)
- Lớp cấu hình MiniMaxM3VLConfig: MiniMaxM3SparseForConditionalGeneration (mô hình MiniMaxM3VLConfig)
- Lớp cấu hình Mistral3Config: Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- Lớp cấu hình Mistral4Config: Mistral4ForCausalLM (mô hình Mistral4Config)
- Lớp cấu hình MistralLarge4Config: MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- Lớp cấu hình MllamaConfig: MllamaForConditionalGeneration (mô hình MllamaConfig)
- Lớp cấu hình Molmo2Config: Molmo2ForConditionalGeneration (mô hình Molmo2Config)
- Lớp cấu hình MossTranscribeDiarizeConfig: MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- Lớp cấu hình MuseGlimmerConfig: MuseGlimmerForConditionalGeneration (mô hình MuseGlimmerConfig)
- Lớp cấu hình MuseSparkConfig: MuseSparkForConditionalGeneration (mô hình MuseSparkConfig)
- Lớp cấu hình Nemotron3_5TranscribeConfig: Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- Lớp cấu hình NemotronH_Omni_Reasoning_V3_Config: NemotronH_Omni_Reasoning_V3 (mô hình NemotronH_Omni_Reasoning_V3_Config)
- Lớp cấu hình Ovis2Config: Ovis2ForConditionalGeneration (mô hình Ovis2Config)
- Lớp cấu hình PI0Config: PI0ForConditionalGeneration (mô hình PI0Config)
- Lớp cấu hình PPChart2TableConfig: GotOcr2ForConditionalGeneration (mô hình PPChart2TableConfig)
- Lớp cấu hình PPFormulaNetConfig: PPFormulaNetForConditionalGeneration (mô hình PPFormulaNetConfig)
- Lớp cấu hình PaddleOCRVLConfig: PaddleOCRVLForConditionalGeneration (mô hình PaddleOCRVLConfig)
- Lớp cấu hình PaliGemmaConfig: PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- Lớp cấu hình PerceptionLMConfig: PerceptionLMForConditionalGeneration (mô hình PerceptionLMConfig)
- Lớp cấu hình Phi4MultimodalConfig: Phi4MultimodalForCausalLM (mô hình Phi4MultimodalConfig)
- Lớp cấu hình Pix2StructConfig: Pix2StructForConditionalGeneration (mô hình Pix2StructConfig)
- Lớp cấu hình QianfanOCRConfig: QianfanOCRForConditionalGeneration (mô hình QianfanOCRConfig)
- Lớp cấu hình Qwen2AudioConfig: Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- Lớp cấu hình Qwen2VLConfig: Qwen2VLForConditionalGeneration (mô hình Qwen2VLConfig)
- Lớp cấu hình Qwen2_5OmniConfig: Qwen2_5OmniForConditionalGeneration (mô hình Qwen2_5OmniConfig)
- Lớp cấu hình Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerForConditionalGeneration (mô hình Qwen2_5OmniThinkerConfig)
- Lớp cấu hình Qwen2_5_VLConfig: Qwen2_5_VLForConditionalGeneration (mô hình Qwen2_5_VLConfig)
- Lớp cấu hình Qwen3ASRConfig: Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- Lớp cấu hình Qwen3OmniMoeConfig: Qwen3OmniMoeForConditionalGeneration (mô hình Qwen3OmniMoeConfig)
- Lớp cấu hình Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerForConditionalGeneration (mô hình Qwen3OmniMoeThinkerConfig)
- Lớp cấu hình Qwen3VLConfig: Qwen3VLForConditionalGeneration (mô hình Qwen3VLConfig)
- Lớp cấu hình Qwen3VLMoeConfig: Qwen3VLMoeForConditionalGeneration (mô hình Qwen3VLMoeConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5ForConditionalGeneration (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5MoeConfig: Qwen3_5MoeForConditionalGeneration (mô hình Qwen3_5MoeConfig)
- Lớp cấu hình Qwen4ExpConfig: Qwen4ExpForConditionalGeneration (mô hình Qwen4ExpConfig)
- Lớp cấu hình ShieldGemma2Config: Gemma3ForConditionalGeneration (mô hình ShieldGemma2Config)
- Lớp cấu hình SmolVLMConfig: SmolVLMForConditionalGeneration (mô hình SmolVLMConfig)
- Lớp cấu hình Step3p7Config: Step3p7ForConditionalGeneration (mô hình Step3p7Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- Lớp cấu hình UdopConfig: UdopForConditionalGeneration (mô hình UdopConfig)
- Lớp cấu hình UnlimitedOcrConfig: UnlimitedOcrForConditionalGeneration (mô hình UnlimitedOcrConfig)
- Lớp cấu hình VibeVoiceAsrConfig: VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- Lớp cấu hình VideoLlama3Config: VideoLlama3ForConditionalGeneration (mô hình VideoLlama3Config)
- Lớp cấu hình VideoLlavaConfig: VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- Lớp cấu hình VipLlavaConfig: VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- Lớp cấu hình VisionEncoderDecoderConfig: VisionEncoderDecoderModel (mô hình VisionEncoderDecoderConfig)
- Lớp cấu hình VoxtralConfig: VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- Lớp cấu hình VoxtralRealtimeConfig: VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu sinh đa phương thức) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu sinh đa phương thức) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- aria — AriaForConditionalGeneration (mô hình AriaConfig)
- aya_vision — AyaVisionForConditionalGeneration (mô hình AyaVisionConfig)
- blip — BlipForConditionalGeneration (mô hình BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (mô hình Blip2Config)
- chameleon — ChameleonForConditionalGeneration (mô hình ChameleonConfig)
- cohere2_vision — Cohere2VisionForConditionalGeneration (mô hình Cohere2VisionConfig)
- cohere_compass — CohereCompassForConditionalGeneration (mô hình CohereCompassConfig)
- cosmos3_edge — Cosmos3EdgeForConditionalGeneration (mô hình Cosmos3EdgeConfig)
- cosmos3_omni — Cosmos3OmniForConditionalGeneration (mô hình Cosmos3OmniConfig)
- deepseek_ocr2 — DeepseekOcr2ForConditionalGeneration (mô hình DeepseekOcr2Config)
- deepseek_vl — DeepseekVLForConditionalGeneration (mô hình DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridForConditionalGeneration (mô hình DeepseekVLHybridConfig)
- diffusion_gemma — DiffusionGemmaForBlockDiffusion (mô hình DiffusionGemmaConfig)
- dots3_note — Dots3NoteForConditionalGeneration (mô hình Dots3NoteConfig)
- emu3 — Emu3ForConditionalGeneration (mô hình Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeForConditionalGeneration (mô hình Ernie4_5_VLMoeConfig)
- evolla — EvollaForProteinText2Text (mô hình EvollaConfig)
- exaone4_5 — Exaone4_5_ForConditionalGeneration (mô hình Exaone4_5_Config)
- fast_vlm — FastVlmForConditionalGeneration (mô hình FastVlmConfig)
- florence2 — Florence2ForConditionalGeneration (mô hình Florence2Config)
- fun_asr_nano — FunAsrNanoForConditionalGeneration (mô hình FunAsrNanoConfig)
- fuyu — FuyuForCausalLM (mô hình FuyuConfig)
- gemma3 — Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- gemma3n — Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- gemma4 — Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- git — GitForCausalLM (mô hình GitConfig)
- glm46v — Glm46VForConditionalGeneration (mô hình Glm46VConfig)
- glm4v — Glm4vForConditionalGeneration (mô hình Glm4vConfig)
- glm4v_moe — Glm4vMoeForConditionalGeneration (mô hình Glm4vMoeConfig)
- glm5_next — Glm5NextForConditionalGeneration (mô hình Glm5NextConfig)
- glm_ocr — GlmOcrForConditionalGeneration (mô hình GlmOcrConfig)
- glmasr — GlmAsrForConditionalGeneration (mô hình GlmAsrConfig)
- glmga — Glm46VForConditionalGeneration (mô hình GlmgaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- granite4_vision — Granite4VisionForConditionalGeneration (mô hình Granite4VisionConfig)
- granite_docling — GraniteDoclingForConditionalGeneration (mô hình GraniteDoclingConfig)
- granite_speech — GraniteSpeechForConditionalGeneration (mô hình GraniteSpeechConfig)
- granite_speech_plus — GraniteSpeechPlusForConditionalGeneration (mô hình GraniteSpeechPlusConfig)
- hunyuan_vl — HunYuanVLForConditionalGeneration (mô hình HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2ForConditionalGeneration (mô hình HyperCLOVAXVisionV2Config)
- idefics — IdeficsForVisionText2Text (mô hình IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- inkling2 — Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- inkling_mm_model — InklingForConditionalGeneration (mô hình InklingConfig)
- instructblip — InstructBlipForConditionalGeneration (mô hình InstructBlipConfig)
- instructblipvideo — InstructBlipVideoForConditionalGeneration (mô hình InstructBlipVideoConfig)
- internvl — InternVLForConditionalGeneration (mô hình InternVLConfig)
- janus — JanusForConditionalGeneration (mô hình JanusConfig)
- kimi_k25 — Kimi_K25ForConditionalGeneration (mô hình Kimi_K25Config)
- kosmos-2 — Kosmos2ForConditionalGeneration (mô hình Kosmos2Config)
- kosmos-2.5 — Kosmos2_5ForConditionalGeneration (mô hình Kosmos2_5Config)
- kyutai_speech_to_text — KyutaiSpeechToTextForConditionalGeneration (mô hình KyutaiSpeechToTextConfig)
- lfm2_vl — Lfm2VlForConditionalGeneration (mô hình Lfm2VlConfig)
- lfm3_vl — Lfm3VlForConditionalGeneration (mô hình Lfm3VlConfig)
- lighton_ocr — LightOnOcrForConditionalGeneration (mô hình LightOnOcrConfig)
- llama4 — Llama4ForConditionalGeneration (mô hình Llama4Config)
- llava — LlavaForConditionalGeneration (mô hình LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- minicpm_ocr — MiniCPMOcrForConditionalGeneration (mô hình MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6ForConditionalGeneration (mô hình MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7ForConditionalGeneration (mô hình MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3SparseForConditionalGeneration (mô hình MiniMaxM3VLConfig)
- mistral3 — Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- mistral4 — Mistral4ForCausalLM (mô hình Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (mô hình MllamaConfig)
- molmo2 — Molmo2ForConditionalGeneration (mô hình Molmo2Config)
- moss_transcribe_diarize — MossTranscribeDiarizeForConditionalGeneration (mô hình MossTranscribeDiarizeConfig)
- muse_glimmer — MuseGlimmerForConditionalGeneration (mô hình MuseGlimmerConfig)
- muse_spark — MuseSparkForConditionalGeneration (mô hình MuseSparkConfig)
- nemo_speechlm — Nemotron3_5TranscribeForConditionalGeneration (mô hình Nemotron3_5TranscribeConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3 (mô hình NemotronH_Omni_Reasoning_V3_Config)
- ovis2 — Ovis2ForConditionalGeneration (mô hình Ovis2Config)
- paddleocr_vl — PaddleOCRVLForConditionalGeneration (mô hình PaddleOCRVLConfig)
- paligemma — PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- perception_lm — PerceptionLMForConditionalGeneration (mô hình PerceptionLMConfig)
- phi4_multimodal — Phi4MultimodalForCausalLM (mô hình Phi4MultimodalConfig)
- pi0 — PI0ForConditionalGeneration (mô hình PI0Config)
- pix2struct — Pix2StructForConditionalGeneration (mô hình Pix2StructConfig)
- pp_chart2table — GotOcr2ForConditionalGeneration (mô hình PPChart2TableConfig)
- pp_formulanet — PPFormulaNetForConditionalGeneration (mô hình PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRForConditionalGeneration (mô hình QianfanOCRConfig)
- qwen2_5_omni — Qwen2_5OmniForConditionalGeneration (mô hình Qwen2_5OmniConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerForConditionalGeneration (mô hình Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLForConditionalGeneration (mô hình Qwen2_5_VLConfig)
- qwen2_audio — Qwen2AudioForConditionalGeneration (mô hình Qwen2AudioConfig)
- qwen2_vl — Qwen2VLForConditionalGeneration (mô hình Qwen2VLConfig)
- qwen3_5 — Qwen3_5ForConditionalGeneration (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForConditionalGeneration (mô hình Qwen3_5MoeConfig)
- qwen3_asr — Qwen3ASRForConditionalGeneration (mô hình Qwen3ASRConfig)
- qwen3_omni_moe — Qwen3OmniMoeForConditionalGeneration (mô hình Qwen3OmniMoeConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerForConditionalGeneration (mô hình Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLForConditionalGeneration (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeForConditionalGeneration (mô hình Qwen3VLMoeConfig)
- qwen4_exp — Qwen4ExpForConditionalGeneration (mô hình Qwen4ExpConfig)
- shieldgemma2 — Gemma3ForConditionalGeneration (mô hình ShieldGemma2Config)
- smolvlm — SmolVLMForConditionalGeneration (mô hình SmolVLMConfig)
- step3p7 — Step3p7ForConditionalGeneration (mô hình Step3p7Config)
- t5gemma2 — T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- udop — UdopForConditionalGeneration (mô hình UdopConfig)
- unlimited_ocr — UnlimitedOcrForConditionalGeneration (mô hình UnlimitedOcrConfig)
- vibevoice_asr — VibeVoiceAsrForConditionalGeneration (mô hình VibeVoiceAsrConfig)
- video_llama_3 — VideoLlama3ForConditionalGeneration (mô hình VideoLlama3Config)
- video_llava — VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- vipllava — VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderModel (mô hình VisionEncoderDecoderConfig)
- voxtral — VoxtralForConditionalGeneration (mô hình VoxtralConfig)
- voxtral_realtime — VoxtralRealtimeForConditionalGeneration (mô hình VoxtralRealtimeConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForMultimodalLM
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForTableQuestionAnswering
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu câu trả lời câu hỏi bảng) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình TapasConfig: TapasForQuestionAnswering (mô hình TapasConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu bảng câu hỏi trả lời) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu bảng câu hỏi trả lời) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- tapas — TapasForQuestionAnswering (mô hình TapasConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTableQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq")
>>> # Update configuration during loading
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForDocumentQuestionAnswering
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu câu hỏi trả lời tài liệu) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình LayoutLMConfig: LayoutLMForQuestionAnswering (mô hình LayoutLMConfig)
- Lớp cấu hình LayoutLMv2Config: LayoutLMv2ForQuestionAnswering (mô hình LayoutLMv2Config)
- Lớp cấu hình LayoutLMv3Config: LayoutLMv3ForQuestionAnswering (mô hình LayoutLMv3Config)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu câu hỏi trả lời tài liệu) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering
>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")
>>> model = AutoModelForDocumentQuestionAnswering.from_config(config)from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu câu hỏi trả lời tài liệu) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- layoutlm — LayoutLMForQuestionAnswering (mô hình LayoutLMConfig)
- layoutlmv2 — LayoutLMv2ForQuestionAnswering (mô hình LayoutLMv2Config)
- layoutlmv3 — LayoutLMv3ForQuestionAnswering (mô hình LayoutLMv3Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")
>>> # Update configuration during loading
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForVisualQuestionAnswering
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu hỏi đáp thị giác) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Blip2Config: Blip2ForConditionalGeneration (mô hình Blip2Config)
- Lớp cấu hình BlipConfig: BlipForQuestionAnswering (mô hình BlipConfig)
- Lớp cấu hình ViltConfig: ViltForQuestionAnswering (mô hình ViltConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu hỏi đáp thị giác) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra cho câu hỏi trả lời trực quan) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- blip — BlipForQuestionAnswering (mô hình BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (mô hình Blip2Config)
- vilt — ViltForQuestionAnswering (mô hình ViltConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForVisualQuestionAnswering
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa")
>>> # Update configuration during loading
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForImageTextToText
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình AriaConfig: AriaForConditionalGeneration (mô hình AriaConfig)
- Lớp cấu hình AyaVisionConfig: AyaVisionForConditionalGeneration (mô hình AyaVisionConfig)
- Lớp cấu hình Blip2Config: Blip2ForConditionalGeneration (mô hình Blip2Config)
- Lớp cấu hình BlipConfig: BlipForConditionalGeneration (mô hình BlipConfig)
- Lớp cấu hình ChameleonConfig: ChameleonForConditionalGeneration (mô hình ChameleonConfig)
- Lớp cấu hình Cohere2VisionConfig: Cohere2VisionForConditionalGeneration (mô hình Cohere2VisionConfig)
- Lớp cấu hình CohereCompassConfig: CohereCompassForConditionalGeneration (mô hình CohereCompassConfig)
- Lớp cấu hình Cosmos3EdgeConfig: Cosmos3EdgeForConditionalGeneration (mô hình Cosmos3EdgeConfig)
- Lớp cấu hình Cosmos3OmniConfig: Cosmos3OmniForConditionalGeneration (mô hình Cosmos3OmniConfig)
- Lớp cấu hình DeepseekOcr2Config: DeepseekOcr2ForConditionalGeneration (mô hình DeepseekOcr2Config)
- Lớp cấu hình DeepseekVLConfig: DeepseekVLForConditionalGeneration (mô hình DeepseekVLConfig)
- Lớp cấu hình DeepseekVLHybridConfig: DeepseekVLHybridForConditionalGeneration (mô hình DeepseekVLHybridConfig)
- Lớp cấu hình DiffusionGemmaConfig: DiffusionGemmaForBlockDiffusion (mô hình DiffusionGemmaConfig)
- Lớp cấu hình Dots3NoteConfig: Dots3NoteForConditionalGeneration (mô hình Dots3NoteConfig)
- Lớp cấu hình Emu3Config: Emu3ForConditionalGeneration (mô hình Emu3Config)
- Lớp cấu hình Ernie4_5_VLMoeConfig: Ernie4_5_VLMoeForConditionalGeneration (mô hình Ernie4_5_VLMoeConfig)
- Lớp cấu hình EvollaConfig: EvollaForProteinText2Text (mô hình EvollaConfig)
- Lớp cấu hình Exaone4_5_Config: Exaone4_5_ForConditionalGeneration (mô hình Exaone4_5_Config)
- Lớp cấu hình FastVlmConfig: FastVlmForConditionalGeneration (mô hình FastVlmConfig)
- Lớp cấu hình Florence2Config: Florence2ForConditionalGeneration (mô hình Florence2Config)
- Lớp cấu hình FuyuConfig: FuyuForCausalLM (mô hình FuyuConfig)
- Lớp cấu hình Gemma3Config: Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- Lớp cấu hình Gemma3nConfig: Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- Lớp cấu hình Gemma4Config: Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- Lớp cấu hình Gemma4UnifiedConfig: Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- Lớp cấu hình GitConfig: GitForCausalLM (mô hình GitConfig)
- Lớp cấu hình Glm46VConfig: Glm46VForConditionalGeneration (mô hình Glm46VConfig)
- Lớp cấu hình Glm4vConfig: Glm4vForConditionalGeneration (mô hình Glm4vConfig)
- Lớp cấu hình Glm4vMoeConfig: Glm4vMoeForConditionalGeneration (mô hình Glm4vMoeConfig)
- Lớp cấu hình Glm5NextConfig: Glm5NextForConditionalGeneration (mô hình Glm5NextConfig)
- Lớp cấu hình GlmOcrConfig: GlmOcrForConditionalGeneration (mô hình GlmOcrConfig)
- Lớp cấu hình GlmgaConfig: Glm46VForConditionalGeneration (mô hình GlmgaConfig)
- Lớp cấu hình GotOcr2Config: GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- Lớp cấu hình Granite4VisionConfig: Granite4VisionForConditionalGeneration (mô hình Granite4VisionConfig)
- Lớp cấu hình GraniteDoclingConfig: GraniteDoclingForConditionalGeneration (mô hình GraniteDoclingConfig)
- Lớp cấu hình HunYuanVLConfig: HunYuanVLForConditionalGeneration (mô hình HunYuanVLConfig)
- Lớp cấu hình HyperCLOVAXVisionV2Config: HyperCLOVAXVisionV2ForConditionalGeneration (mô hình HyperCLOVAXVisionV2Config)
- Lớp cấu hình Idefics2Config: Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- Lớp cấu hình Idefics3Config: Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- Lớp cấu hình IdeficsConfig: IdeficsForVisionText2Text (mô hình IdeficsConfig)
- Lớp cấu hình Inkling2Config: Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- Lớp cấu hình InklingConfig: InklingForConditionalGeneration (mô hình InklingConfig)
- Lớp cấu hình InstructBlipConfig: InstructBlipForConditionalGeneration (mô hình InstructBlipConfig)
- Lớp cấu hình InstructBlipVideoConfig: InstructBlipVideoForConditionalGeneration (mô hình InstructBlipVideoConfig)
- Lớp cấu hình InternVLConfig: InternVLForConditionalGeneration (mô hình InternVLConfig)
- Lớp cấu hình JanusConfig: JanusForConditionalGeneration (mô hình JanusConfig)
- Lớp cấu hình Kimi_K25Config: Kimi_K25ForConditionalGeneration (mô hình Kimi_K25Config)
- Lớp cấu hình Kosmos2Config: Kosmos2ForConditionalGeneration (mô hình Kosmos2Config)
- Lớp cấu hình Kosmos2_5Config: Kosmos2_5ForConditionalGeneration (mô hình Kosmos2_5Config)
- Lớp cấu hình Lfm2VlConfig: Lfm2VlForConditionalGeneration (mô hình Lfm2VlConfig)
- Lớp cấu hình Lfm3VlConfig: Lfm3VlForConditionalGeneration (mô hình Lfm3VlConfig)
- Lớp cấu hình LightOnOcrConfig: LightOnOcrForConditionalGeneration (mô hình LightOnOcrConfig)
- Lớp cấu hình Llama4Config: Llama4ForConditionalGeneration (mô hình Llama4Config)
- Lớp cấu hình LlavaConfig: LlavaForConditionalGeneration (mô hình LlavaConfig)
- Lớp cấu hình LlavaNextConfig: LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- Lớp cấu hình LlavaNextVideoConfig: LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- Lớp cấu hình LlavaOnevisionConfig: LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- Lớp cấu hình MiniCPMOcrConfig: MiniCPMOcrForConditionalGeneration (mô hình MiniCPMOcrConfig)
- Lớp cấu hình MiniCPMV4_6Config: MiniCPMV4_6ForConditionalGeneration (mô hình MiniCPMV4_6Config)
- Lớp cấu hình MiniCPMV4_7Config: MiniCPMV4_7ForConditionalGeneration (mô hình MiniCPMV4_7Config)
- Lớp cấu hình MiniMaxM3VLConfig: MiniMaxM3SparseForConditionalGeneration (mô hình MiniMaxM3VLConfig)
- Lớp cấu hình Mistral3Config: Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- Lớp cấu hình Mistral4Config: Mistral4ForCausalLM (mô hình Mistral4Config)
- Lớp cấu hình MistralLarge4Config: MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- Lớp cấu hình MllamaConfig: MllamaForConditionalGeneration (mô hình MllamaConfig)
- Lớp cấu hình Molmo2Config: Molmo2ForConditionalGeneration (mô hình Molmo2Config)
- Lớp cấu hình MuseGlimmerConfig: MuseGlimmerForConditionalGeneration (mô hình MuseGlimmerConfig)
- Lớp cấu hình MuseSparkConfig: MuseSparkForConditionalGeneration (mô hình MuseSparkConfig)
- Lớp cấu hình NemotronH_Omni_Reasoning_V3_Config: NemotronH_Omni_Reasoning_V3 (mô hình NemotronH_Omni_Reasoning_V3_Config)
- Lớp cấu hình Ovis2Config: Ovis2ForConditionalGeneration (mô hình Ovis2Config)
- Lớp cấu hình PI0Config: PI0ForConditionalGeneration (mô hình PI0Config)
- Lớp cấu hình PPChart2TableConfig: GotOcr2ForConditionalGeneration (mô hình PPChart2TableConfig)
- Lớp cấu hình PPFormulaNetConfig: PPFormulaNetForConditionalGeneration (mô hình PPFormulaNetConfig)
- Lớp cấu hình PaddleOCRVLConfig: PaddleOCRVLForConditionalGeneration (mô hình PaddleOCRVLConfig)
- Lớp cấu hình PaliGemmaConfig: PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- Lớp cấu hình PerceptionLMConfig: PerceptionLMForConditionalGeneration (mô hình PerceptionLMConfig)
- Lớp cấu hình Pix2StructConfig: Pix2StructForConditionalGeneration (mô hình Pix2StructConfig)
- Lớp cấu hình QianfanOCRConfig: QianfanOCRForConditionalGeneration (mô hình QianfanOCRConfig)
- Lớp cấu hình Qwen2VLConfig: Qwen2VLForConditionalGeneration (mô hình Qwen2VLConfig)
- Lớp cấu hình Qwen2_5OmniThinkerConfig: Qwen2_5OmniThinkerForConditionalGeneration (mô hình Qwen2_5OmniThinkerConfig)
- Lớp cấu hình Qwen2_5_VLConfig: Qwen2_5_VLForConditionalGeneration (mô hình Qwen2_5_VLConfig)
- Lớp cấu hình Qwen3OmniMoeThinkerConfig: Qwen3OmniMoeThinkerForConditionalGeneration (mô hình Qwen3OmniMoeThinkerConfig)
- Lớp cấu hình Qwen3VLConfig: Qwen3VLForConditionalGeneration (mô hình Qwen3VLConfig)
- Lớp cấu hình Qwen3VLMoeConfig: Qwen3VLMoeForConditionalGeneration (mô hình Qwen3VLMoeConfig)
- Lớp cấu hình Qwen3_5Config: Qwen3_5ForConditionalGeneration (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5MoeConfig: Qwen3_5MoeForConditionalGeneration (mô hình Qwen3_5MoeConfig)
- Lớp cấu hình Qwen4ExpConfig: Qwen4ExpForConditionalGeneration (mô hình Qwen4ExpConfig)
- Lớp cấu hình ShieldGemma2Config: Gemma3ForConditionalGeneration (mô hình ShieldGemma2Config)
- Lớp cấu hình SmolVLMConfig: SmolVLMForConditionalGeneration (mô hình SmolVLMConfig)
- Lớp cấu hình Step3p7Config: Step3p7ForConditionalGeneration (mô hình Step3p7Config)
- Lớp cấu hình T5Gemma2Config: T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- Lớp cấu hình UdopConfig: UdopForConditionalGeneration (mô hình UdopConfig)
- Lớp cấu hình UnlimitedOcrConfig: UnlimitedOcrForConditionalGeneration (mô hình UnlimitedOcrConfig)
- Lớp cấu hình VideoLlama3Config: VideoLlama3ForConditionalGeneration (mô hình VideoLlama3Config)
- Lớp cấu hình VideoLlavaConfig: VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- Lớp cấu hình VipLlavaConfig: VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- Lớp cấu hình VisionEncoderDecoderConfig: VisionEncoderDecoderModel (mô hình VisionEncoderDecoderConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- aria — AriaForConditionalGeneration (mô hình AriaConfig)
- aya_vision — AyaVisionForConditionalGeneration (mô hình AyaVisionConfig)
- blip — BlipForConditionalGeneration (mô hình BlipConfig)
- blip-2 — Blip2ForConditionalGeneration (mô hình Blip2Config)
- chameleon — ChameleonForConditionalGeneration (mô hình ChameleonConfig)
- cohere2_vision — Cohere2VisionForConditionalGeneration (mô hình Cohere2VisionConfig)
- cohere_compass — CohereCompassForConditionalGeneration (mô hình CohereCompassConfig)
- cosmos3_edge — Cosmos3EdgeForConditionalGeneration (mô hình Cosmos3EdgeConfig)
- cosmos3_omni — Cosmos3OmniForConditionalGeneration (mô hình Cosmos3OmniConfig)
- deepseek_ocr2 — DeepseekOcr2ForConditionalGeneration (mô hình DeepseekOcr2Config)
- deepseek_vl — DeepseekVLForConditionalGeneration (mô hình DeepseekVLConfig)
- deepseek_vl_hybrid — DeepseekVLHybridForConditionalGeneration (mô hình DeepseekVLHybridConfig)
- diffusion_gemma — DiffusionGemmaForBlockDiffusion (mô hình DiffusionGemmaConfig)
- dots3_note — Dots3NoteForConditionalGeneration (mô hình Dots3NoteConfig)
- emu3 — Emu3ForConditionalGeneration (mô hình Emu3Config)
- ernie4_5_vl_moe — Ernie4_5_VLMoeForConditionalGeneration (mô hình Ernie4_5_VLMoeConfig)
- evolla — EvollaForProteinText2Text (mô hình EvollaConfig)
- exaone4_5 — Exaone4_5_ForConditionalGeneration (mô hình Exaone4_5_Config)
- fast_vlm — FastVlmForConditionalGeneration (mô hình FastVlmConfig)
- florence2 — Florence2ForConditionalGeneration (mô hình Florence2Config)
- fuyu — FuyuForCausalLM (mô hình FuyuConfig)
- gemma3 — Gemma3ForConditionalGeneration (mô hình Gemma3Config)
- gemma3n — Gemma3nForConditionalGeneration (mô hình Gemma3nConfig)
- gemma4 — Gemma4ForConditionalGeneration (mô hình Gemma4Config)
- gemma4_unified — Gemma4UnifiedForConditionalGeneration (mô hình Gemma4UnifiedConfig)
- git — GitForCausalLM (mô hình GitConfig)
- glm46v — Glm46VForConditionalGeneration (mô hình Glm46VConfig)
- glm4v — Glm4vForConditionalGeneration (mô hình Glm4vConfig)
- glm4v_moe — Glm4vMoeForConditionalGeneration (mô hình Glm4vMoeConfig)
- glm5_next — Glm5NextForConditionalGeneration (mô hình Glm5NextConfig)
- glm_ocr — GlmOcrForConditionalGeneration (mô hình GlmOcrConfig)
- glmga — Glm46VForConditionalGeneration (mô hình GlmgaConfig)
- got_ocr2 — GotOcr2ForConditionalGeneration (mô hình GotOcr2Config)
- granite4_vision — Granite4VisionForConditionalGeneration (mô hình Granite4VisionConfig)
- granite_docling — GraniteDoclingForConditionalGeneration (mô hình GraniteDoclingConfig)
- hunyuan_vl — HunYuanVLForConditionalGeneration (mô hình HunYuanVLConfig)
- hyperclovax_vision_v2 — HyperCLOVAXVisionV2ForConditionalGeneration (mô hình HyperCLOVAXVisionV2Config)
- idefics — IdeficsForVisionText2Text (mô hình IdeficsConfig)
- idefics2 — Idefics2ForConditionalGeneration (mô hình Idefics2Config)
- idefics3 — Idefics3ForConditionalGeneration (mô hình Idefics3Config)
- inkling2 — Inkling2ForConditionalGeneration (mô hình Inkling2Config)
- inkling_mm_model — InklingForConditionalGeneration (mô hình InklingConfig)
- instructblip — InstructBlipForConditionalGeneration (mô hình InstructBlipConfig)
- instructblipvideo — InstructBlipVideoForConditionalGeneration (mô hình InstructBlipVideoConfig)
- internvl — InternVLForConditionalGeneration (mô hình InternVLConfig)
- janus — JanusForConditionalGeneration (mô hình JanusConfig)
- kimi_k25 — Kimi_K25ForConditionalGeneration (mô hình Kimi_K25Config)
- kosmos-2 — Kosmos2ForConditionalGeneration (mô hình Kosmos2Config)
- kosmos-2.5 — Kosmos2_5ForConditionalGeneration (mô hình Kosmos2_5Config)
- lfm2_vl — Lfm2VlForConditionalGeneration (mô hình Lfm2VlConfig)
- lfm3_vl — Lfm3VlForConditionalGeneration (mô hình Lfm3VlConfig)
- lighton_ocr — LightOnOcrForConditionalGeneration (mô hình LightOnOcrConfig)
- llama4 — Llama4ForConditionalGeneration (mô hình Llama4Config)
- llava — LlavaForConditionalGeneration (mô hình LlavaConfig)
- llava_next — LlavaNextForConditionalGeneration (mô hình LlavaNextConfig)
- llava_next_video — LlavaNextVideoForConditionalGeneration (mô hình LlavaNextVideoConfig)
- llava_onevision — LlavaOnevisionForConditionalGeneration (mô hình LlavaOnevisionConfig)
- minicpm_ocr — MiniCPMOcrForConditionalGeneration (mô hình MiniCPMOcrConfig)
- minicpmv4_6 — MiniCPMV4_6ForConditionalGeneration (mô hình MiniCPMV4_6Config)
- minicpmv4_7 — MiniCPMV4_7ForConditionalGeneration (mô hình MiniCPMV4_7Config)
- minimax_m3_vl — MiniMaxM3SparseForConditionalGeneration (mô hình MiniMaxM3VLConfig)
- mistral3 — Mistral3ForConditionalGeneration (mô hình Mistral3Config)
- mistral4 — Mistral4ForCausalLM (mô hình Mistral4Config)
- mistral_large4 — MistralLarge4ForConditionalGeneration (mô hình MistralLarge4Config)
- mllama — MllamaForConditionalGeneration (mô hình MllamaConfig)
- molmo2 — Molmo2ForConditionalGeneration (mô hình Molmo2Config)
- muse_glimmer — MuseGlimmerForConditionalGeneration (mô hình MuseGlimmerConfig)
- muse_spark — MuseSparkForConditionalGeneration (mô hình MuseSparkConfig)
- nemotron_h_omni — NemotronH_Omni_Reasoning_V3 (mô hình NemotronH_Omni_Reasoning_V3_Config)
- ovis2 — Ovis2ForConditionalGeneration (mô hình Ovis2Config)
- paddleocr_vl — PaddleOCRVLForConditionalGeneration (mô hình PaddleOCRVLConfig)
- paligemma — PaliGemmaForConditionalGeneration (mô hình PaliGemmaConfig)
- perception_lm — PerceptionLMForConditionalGeneration (mô hình PerceptionLMConfig)
- pi0 — PI0ForConditionalGeneration (mô hình PI0Config)
- pix2struct — Pix2StructForConditionalGeneration (mô hình Pix2StructConfig)
- pp_chart2table — GotOcr2ForConditionalGeneration (mô hình PPChart2TableConfig)
- pp_formulanet — PPFormulaNetForConditionalGeneration (mô hình PPFormulaNetConfig)
- qianfan_ocr — QianfanOCRForConditionalGeneration (mô hình QianfanOCRConfig)
- qwen2_5_omni_thinker — Qwen2_5OmniThinkerForConditionalGeneration (mô hình Qwen2_5OmniThinkerConfig)
- qwen2_5_vl — Qwen2_5_VLForConditionalGeneration (mô hình Qwen2_5_VLConfig)
- qwen2_vl — Qwen2VLForConditionalGeneration (mô hình Qwen2VLConfig)
- qwen3_5 — Qwen3_5ForConditionalGeneration (mô hình Qwen3_5Config)
- qwen3_5_moe — Qwen3_5MoeForConditionalGeneration (mô hình Qwen3_5MoeConfig)
- qwen3_omni_moe_thinker — Qwen3OmniMoeThinkerForConditionalGeneration (mô hình Qwen3OmniMoeThinkerConfig)
- qwen3_vl — Qwen3VLForConditionalGeneration (mô hình Qwen3VLConfig)
- qwen3_vl_moe — Qwen3VLMoeForConditionalGeneration (mô hình Qwen3VLMoeConfig)
- qwen4_exp — Qwen4ExpForConditionalGeneration (mô hình Qwen4ExpConfig)
- shieldgemma2 — Gemma3ForConditionalGeneration (mô hình ShieldGemma2Config)
- smolvlm — SmolVLMForConditionalGeneration (mô hình SmolVLMConfig)
- step3p7 — Step3p7ForConditionalGeneration (mô hình Step3p7Config)
- t5gemma2 — T5Gemma2ForConditionalGeneration (mô hình T5Gemma2Config)
- udop — UdopForConditionalGeneration (mô hình UdopConfig)
- unlimited_ocr — UnlimitedOcrForConditionalGeneration (mô hình UnlimitedOcrConfig)
- video_llama_3 — VideoLlama3ForConditionalGeneration (mô hình VideoLlama3Config)
- video_llava — VideoLlavaForConditionalGeneration (mô hình VideoLlavaConfig)
- vipllava — VipLlavaForConditionalGeneration (mô hình VipLlavaConfig)
- vision-encoder-decoder — VisionEncoderDecoderModel (mô hình VisionEncoderDecoderConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForImageTextToText
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueAutoModelForDecision
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ra quyết định) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp mô hình cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình Gemma4Config: JevForDecision (mô hình Gemma4Config)
- Lớp cấu hình JevConfig: JevForDecision (mô hình JevConfig)
- Lớp cấu hình Qwen2Config: JevForDecision (mô hình Qwen2Config)
- Lớp cấu hình Qwen3_5Config: JevForDecision (mô hình Qwen3_5Config)
- Lớp cấu hình Qwen3_5MoeConfig: JevForDecision (mô hình Qwen3_5MoeConfig)
- Lớp cấu hình Qwen3_5TextConfig: JevForDecision (mô hình Qwen3_5TextConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra quyết định) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra quyết định) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- gemma4 — JevForDecision (mô hình Gemma4Config)
- jev — JevForDecision (mô hình JevConfig)
- qwen2 — JevForDecision (mô hình Qwen2Config)
- qwen3_5 — JevForDecision (mô hình Qwen3_5Config)
- qwen3_5_moe — JevForDecision (mô hình Qwen3_5MoeConfig)
- qwen3_5_text — JevForDecision (mô hình Qwen3_5TextConfig)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForDecision
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDecision.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForDecision.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
TrueDãy thời gian
AutoModelForTimeSeriesPrediction
Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dự báo chuỗi thời gian) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().
Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).
from_config
< source >( **kwargs )
Tham số
- config (PreTrainedConfig) —
Lớp model cần khởi tạo được chọn dựa trên lớp cấu hình:
- Lớp cấu hình TimesFm2_5Config: TimesFm2_5ModelForPrediction (mô hình TimesFm2_5Config)
- Lớp cấu hình TimesFmConfig: TimesFmModelForPrediction (mô hình TimesFmConfig)
- attn_implementation (
str, tuỳ chọn) — Cài đặt attention sẽ được sử dụng trong mô hình (nếu liên quan). Có thể là một trong các lựa chọn"eager"(thực hiện thủ công của attention)"sdpa"(sử dụngF.scaled_dot_product_attention)"flash_attention_2"(sử dụng Dao-AILab/flash-attention)"flash_attention_3"(sử dụng Dao-AILab/flash-attention/hopper)"flash_attention_4"(sử dụng Dao-AILab/flash-attention/flash_attn/cute). Mặc định, nếu khả dụng, SDPA sẽ được sử dụng cho torch>=2.1.1. Nếu không, mặc định sẽ là triển khai"eager"thủ công.
Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự báo chuỗi thời gian) từ một cấu hình.
Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.
from_pretrained
< source >( *model_args**kwargs )
Tham số
- pretrained_model_name_or_path (
strhoặcos.PathLike) — Có thể là:- Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
- Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng
save_pretrained(), ví dụ:
./my_model_directory/.
- model_args (các đối số vị trí bổ sung, tùy chọn) —
Sẽ được truyền đến phương thức
__init__()của model bên dưới. - config (PreTrainedConfig, tùy chọn) —
Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
- Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
- Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
- Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng
pretrained_model_name_or_pathvà một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
- state_dict (dict[str, torch.Tensor], tùy chọn) —
Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.
- cache_dir (
strhoặcos.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn. - force_download (
bool, tùy chọn, mặc định làFalse) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không. - proxies (
dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ:{'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu. - output_loading_info(
bool, optional, mặc định làFalse) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không. - local_files_only(
bool, tuỳ chọn, mặc định làFalse) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình). - revision (
str, tùy chọn, mặc định là"main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - trust_remote_code (
bool, tùy chọn, mặc định làFalse) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thànhTruecho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn. - code_revision (
str, tùy chọn, mặc định là"main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đórevisioncó thể là bất kỳ định danh nào được git cho phép. - kwargs (các tham số từ khóa bổ sung, tùy chọn) —
Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ:
output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấpconfighay không hoặc được tải tự động:- Nếu một cấu hình được cung cấp thông qua
config,**kwargssẽ được truyền trực tiếp đến phương thức__init__của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện) - Nếu không cung cấp cấu hình,
kwargssẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa củakwargstương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trịkwargsđược cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm__init__của mô hình cơ sở.
- Nếu một cấu hình được cung cấp thông qua
Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự báo chuỗi thời gian) từ một mô hình được huấn luyện trước.
Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:
- timesfm — TimesFmModelForPrediction (mô hình TimesFmConfig)
- timesfm2_5 — TimesFm2_5ModelForPrediction (mô hình TimesFm2_5Config)
Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()
Ví dụ:
>>> from transformers import AutoConfig, AutoModelForTimeSeriesPrediction
>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased")
>>> # Update configuration during loading
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True