TinyViT

Categoría: Híbrido · Código: timm/models/tiny_vit.py · Arquitecturas: 5 · Pesos preentrenados: 11 (8 con resultados en ImageNet-1k)

TinyViT es una familia de pequeños transformers jerárquicos de visión (una primera etapa convolucional, seguida de atención en ventanas locales), preentrenados mediante destilación rápida desde modelos maestros de gran tamaño.

Papers

• TinyViT: Destilación de preentrenamiento rápido para pequeños Vision Transformers

Uso

Consulte la Introducción rápida para cargar pesos preentrenados, preprocesar imágenes y realizar el ajuste fino, y Extracción de características para usar los modelos como columnas verticales.

>>> import timm
>>> model = timm.create_model('tiny_vit_21m_512.dist_in22k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Soporte de la API de modelos

✓ compatible, ✓ (cuadrado) funciona solo con tamaños cuadrados, ✗ no compatible, – no necesario (el modelo ya acepta cualquier tamaño de entrada). Verificado ejecutando cada función en un modelo inicializado aleatoriamente (TinyVit con tiny_vit_5m_224 en 224); se espera que otras arquitecturas de la misma clase se comporten de la misma manera. Consulte la página Model API para más detalles.

Arquitecturas

Los GMAC y el número de parámetros corresponden al tamaño de entrada y al clasificador predeterminados de cada arquitectura, según los resultados de las pruebas de rendimiento.

Pesos preentrenados

Top-1 es la precisión de validación en ImageNet-1k desde results-imagenet.csv en el tamaño de evaluación indicado, - si el peso no tiene un resultado de ImageNet-1k (p. ej. pesos de preentrenamiento o de imagen-texto). Classes es el tamaño del clasificador preentrenado, ninguno para pesos sin uno.