timm documentation

iFormer

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

iFormer

Catégorie : Efficient/Mobile · Code : timm/models/iformer.py · Architectures : 9 · Poids pré-entraînés : 8 (0 avec des résultats ImageNet-1k)

iFormer intègre un réseau convolutif rapide avec une attention de modulation à tête unique (SHMA) dans les dernières étapes, pour les applications mobiles.

Articles

Utilisation

Consultez le Démarrage rapide pour le chargement des poids pré-entraînés, le prétraitement des images et l’ajustement fin, ainsi que Extraction de caractéristiques pour utiliser les modèles comme squelettes.

>>> import timm
>>> model = timm.create_model('iformer_h.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Prise en charge de l'API des modèles

FonctionnalitéIFormer
cartes de caractéristiques features_only=True✓ (pas 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Toute taille d'entrée, aucune modification nécessaire✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Décroissance du taux d'apprentissage par couche (group_matcher())✓
reset_classifier()✓

✓ pris en charge, ✓ (carré) fonctionne uniquement pour les tailles carrées, ✗ non pris en charge, – non nécessaire (le modèle accepte déjà n'importe quelle taille d'entrée). Vérifié en exécutant chaque fonctionnalité sur un modèle initialisé aléatoirement (IFormer avec iformer_t à 224), les autres architectures de la même classe sont censées se comporter de la même manière. Consultez la page API du modèle pour plus de détails.

Architectures

ArchitectureParamètres (M)GMACsTaille d'entréePoids pré-entraînés
iformer_h99.60-2241
iformer_l14.78-2241
iformer_l224.52-2240
iformer_l2_distilled25.03-2241
iformer_l_distilled15.17-2241
iformer_m8.91-2241
iformer_m_distilled9.29-2241
iformer_s6.56-2241
iformer_t2.89-2241

Les GMACs et le nombre de paramètres correspondent à la taille d’entrée par défaut et au classifieur de chaque architecture, d’après les résultats des benchmarks.

Poids pré-entraînés

Top-1 est la précision de validation sur ImageNet-1k issue de results-imagenet.csv à la taille d'évaluation indiquée, - si le poids n'a pas de résultat ImageNet-1k (par exemple, poids de pré-entraînement ou poids image-texte). Classes est la taille du classifieur pré-entraîné, aucune pour les poids sans classifieur.

PoidsTaille d'entréeTop-1 (%)Taille d'évaluationClassesLicenceHub
iformer_h.in1k224--1000mittimm
iformer_l.in1k224--1000mittimm
iformer_l2_distilled.in1k224--1000mittimm
iformer_l_distilled.in1k224--1000mittimm
iformer_m.in1k224--1000mittimm
iformer_m_distilled.in1k224--1000mittimm
iformer_s.in1k224--1000mittimm
iformer_t.in1k224--1000mittimm

Citation

@inproceedings{zheng2025iformer,
  title={iformer: Integrating convnet and transformer for mobile application},
  author={Zheng, Chuanyang},
  booktitle={International Conference on Learning Representations},
  volume={2025},
  pages={22947--22961},
  year={2025}
}
Update on GitHub