LeViT

Kategori: Hibrit · Kod: timm/models/levit.py · Mimariler: 20 · Önceden eğitilmiş ağırlıklar: 10 (10 tanesi ImageNet-1k sonuçlarıyla)

LeViT, hızlı çıkarım için tasarlanmış hibrit bir ağdır; konvolüsyonlu bir gövde, ardından dikkat tabanlı indirgeme ile çözünürlüğü küçülten ve konum için dikkat önyargıları kullanan dikkat aşamaları gelir.

Makaleler

• LeViT: Daha Hızlı Çıkarım İçin ConvNet Kıyafetli Bir Görüntü Dönüşüm Ağı

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('levit_256.fb_dist_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (Levit 224 boyutunda levit_256d ile, LevitDistilled 224 boyutunda levit_128s ile), aynı sınıftaki diğer mimarilerin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

Atıf

@article{graham2021levit,
  title={LeViT: a Vision Transformer in ConvNet's Clothing for Faster Inference},
  author={Benjamin Graham and Alaaeldin El-Nouby and Hugo Touvron and Pierre Stock and Armand Joulin and Herv'e J'egou and Matthijs Douze},
  journal={arXiv preprint arXiv:2104.01136},
  year={2021}
}