timm documentation

MambaOut

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MambaOut

카테고리: CNN · 코드: timm/models/mambaout.py · 아키텍처: 11 · 프리트레인드 가중치: 12 (ImageNet-1k 결과가 포함된 11개)

MambaOut은 상태 공간 모델(SSM) 토크 믹서가 없는 Mamba 블록과 Gated CNN 블록을 적층하여, 이미지 분류에 SSM이 필요한지 여부를 테스트합니다.

논문

사용

사전 학습된 가중치 로드, 이미지 전처리 및 파인튜닝에 대해서는 Quickstart를, 모델을 백본으로 사용하는 방법에 대해서는 Feature Extraction을 참고하세요.

>>> import timm
>>> model = timm.create_model('mambaout_tiny.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

모델 API 지원

기능MambaOut
features_only=True feature map✓ (strides 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
입력 크기 무관, 변경 불필요✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
레이어별 LR 감쇠(group_matcher())✓
reset_classifier()✓

✓ 지원됨, ✓ (square) 정사각형 크기만 지원됨, ✗ 미지원, – 필요 없음(모델이 이미 모든 입력 크기를 허용함). 무작위로 초기화된 모델(MambaOut을 mambaout_femto 224로)에서 각 기능을 실행하여 확인했습니다. 같은 클래스의 다른 아키텍처도 동일한 동작을 하는 것으로 예상됩니다. 자세한 내용은 Model API 페이지를 참조하세요.

아키텍처

아키텍처매개변수 (M)GMAC입력 크기사전 학습된 가중치
mambaout_base84.8115.832241
mambaout_base_plus_rw101.6619.192243
mambaout_base_short_rw88.8316.312241
mambaout_base_tall_rw86.4816.152241
mambaout_base_wide_rw94.4517.782241
mambaout_femto7.301.162241
mambaout_kobe9.141.522241
mambaout_small48.498.962241
mambaout_small_rw48.508.962241
mambaout_tiny26.554.492241
test_mambaout0.450.031600

GMACs와 매개변수 수는 각 아키텍처의 기본 입력 크기 및 분류기에 대한 값이며, 벤치마크 결과에서 가져왔습니다.

사전 학습된 가중치

Top-1은 results-imagenet.csv에 나열된 평가 크기에서 측정된 ImageNet-1k 검증 정확도입니다. - 가중치에 ImageNet-1k 결과가 없는 경우(예: 사전 학습 또는 이미지-텍스트 가중치)에는 표시하지 않습니다. Classes는 사전 학습된 분류기의 크기를 나타내며, 분류기가 없는 가중치의 경우 none입니다.

가중치입력 크기Top-1(%)평가 크기클래스라이선스Hub
mambaout_base.in1k224 (테스트 288)84.7302881000apache-2.0timm
mambaout_base_plus_rw.sw_e150_in12k224 (테스트 288)--11821apache-2.0timm
mambaout_base_plus_rw.sw_e150_in12k_ft_in1k224 (테스트 288)86.9162881000apache-2.0timm
mambaout_base_plus_rw.sw_e150_r384_in12k_ft_in1k38487.5083841000apache-2.0timm
mambaout_base_short_rw.sw_e500_in1k224 (테스트 288)84.8422881000apache-2.0timm
mambaout_base_tall_rw.sw_e500_in1k224 (테스트 288)84.9882881000apache-2.0timm
mambaout_base_wide_rw.sw_e500_in1k224 (테스트 288)84.9662881000apache-2.0timm
mambaout_femto.in1k224 (테스트 288)79.9122881000apache-2.0timm
mambaout_kobe.in1k224 (테스트 288)81.0642881000apache-2.0timm
mambaout_small.in1k224 (테스트 288)84.5122881000apache-2.0timm
mambaout_small_rw.sw_e450_in1k224 (테스트 288)84.6042881000apache-2.0timm
mambaout_tiny.in1k224 (테스트 288)83.4522881000apache-2.0timm
Update on GitHub