timm documentation

EfficientViT (MSRA)

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

EfficientViT (MSRA)

Categoría: Efficient/Mobile · Código: timm/models/efficientvit_msra.py · Arquitecturas: 6 · Pesos preentrenados: 6 (6 con resultados en ImageNet-1k)

EfficientViT de Microsoft Research, un transformer de visión eficiente en memoria con atención de grupos en cascada, que alimenta cada cabeza de atención con una división diferente de las características.

Papers

Uso

Consulte la Introducción rápida para cargar pesos preentrenados, preprocesar imágenes y realizar el ajuste fino, y Extracción de características para usar los modelos como columnas verticales.

>>> import timm
>>> model = timm.create_model('efficientvit_m5.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Soporte de la API de modelos

CaracterísticaEfficientVitMsra
mapas de características de features_only=True✓ (pasos 16, 32, 64)
forward_intermediates()✓
prune_intermediate_layers()✓
Cualquier tamaño de entrada, no se necesitan cambios✓
set_input_size()✓
dynamic_img_size=True–
set_grad_checkpointing()✓
Decaimiento del LR por capa (group_matcher())✓
reset_classifier()✓

✓ compatible, ✓ (cuadrado) funciona solo con tamaños cuadrados, ✗ no compatible, – no necesario (el modelo ya acepta cualquier tamaño de entrada). Verificado ejecutando cada función en un modelo inicializado aleatoriamente (EfficientVitMsra con efficientvit_m0 en 224); se espera que otras arquitecturas de la misma clase se comporten de la misma manera. Consulte la página Model API para más detalles.

Arquitecturas

ArquitecturaParámetros (M)GMACsTamaño de entradaPesos preentrenados
efficientvit_m02.330.082241
efficientvit_m12.960.172241
efficientvit_m24.170.202241
efficientvit_m36.880.262241
efficientvit_m48.780.302241
efficientvit_m512.440.522241

Los GMAC y el número de parámetros corresponden al tamaño de entrada y al clasificador predeterminados de cada arquitectura, según los resultados de las pruebas de rendimiento.

Pesos preentrenados

Top-1 es la precisión de validación en ImageNet-1k desde results-imagenet.csv en el tamaño de evaluación indicado, - si el peso no tiene un resultado de ImageNet-1k (p. ej. pesos de preentrenamiento o de imagen-texto). Classes es el tamaño del clasificador preentrenado, ninguno para pesos sin uno.

PesoTamaño de entradaTop-1 (%)Tamaño de evaluaciónClasesLicenciaHub
efficientvit_m0.r224_in1k22463.3042241000mittimm
efficientvit_m1.r224_in1k22468.3402241000mittimm
efficientvit_m2.r224_in1k22470.7962241000mittimm
efficientvit_m3.r224_in1k22473.3942241000mittimm
efficientvit_m4.r224_in1k22474.3442241000mittimm
efficientvit_m5.r224_in1k22477.0922241000mittimm
Update on GitHub