timm documentation
DaViT
DaViT
Kategori: ViT · Kod: timm/models/davit.py · Mimariler: 8 · Önceden eğitilmiş ağırlıklar: 5 (3'ü ImageNet-1k sonuçlarıyla)
Dual Attention Vision Transformers (DaViT), hiyerarşik bir tasarımda, token sayısına lineer olan uzamsal pencere dikkati ve kanal grubu dikkatini birleştirir.
Makaleler
- DaViT: Çift Dikkat Görüntü Dönüştürücüler
- Florence-2: Çeşitli Görsel Görevler İçin Birleşik Bir Temsili İleri Taşıma
Kullanım
Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.
>>> import timm
>>> model = timm.create_model('davit_tiny.msft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)Model API desteği
✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (DaVit için davit_tiny 224 boyutunda); aynı sınıftaki diğer mimarilerin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.
Mimariler
| Mimari | Parametreler (M) | GMAC'lar | Girdi boyutu | Önceden eğitilmiş ağırlıklar |
|---|---|---|---|---|
davit_base | 87.95 | 15.51 | 224 | 1 |
davit_base_fl | 90.37 | 190.32 | 768 | 1 |
davit_giant | 1406.47 | 192.92 | 224 | 0 |
davit_huge | 348.92 | 61.23 | 224 | 0 |
davit_huge_fl | 360.64 | 744.84 | 768 | 1 |
davit_large | 196.81 | 34.60 | 224 | 0 |
davit_small | 49.75 | 8.80 | 224 | 1 |
davit_tiny | 28.36 | 4.54 | 224 | 1 |
GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.
Önceden eğitilmiş ağırlıklar
Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.
Ağırlıklar kaynağa göre gruplandırılır: önceden eğitilmiş yapılandırmada belirtilen makale veya köken, aksi halde timm dışında bir Hub kuruluşu, aksi halde önceden eğitilmiş etiketin ilk kısmı (architecture.tag). Tek bir ağırlığı olan kaynaklar
other altında listelenir.
msft etiketleri
| Ağırlık | Girdi boyutu | En iyi 1 (%) | Değerlendirme boyutu | Sınıflar | Lisans | Hub |
|---|---|---|---|---|---|---|
davit_base.msft_in1k | 224 | 84.652 | 224 | 1000 | apache-2.0 | timm |
davit_small.msft_in1k | 224 | 84.252 | 224 | 1000 | apache-2.0 | timm |
davit_tiny.msft_in1k | 224 | 82.694 | 224 | 1000 | apache-2.0 | timm |
microsoft
Hugging Face Hub'da microsoft tarafından barındırılır.
| Ağırlık | Girdi boyutu | En iyi 1 (%) | Değerlendirme boyutu | Sınıflar | Lisans | Hub |
|---|---|---|---|---|---|---|
davit_base_fl.msft_florence2 | 768 | - | - | none | apache-2.0 | microsoft/Florence-2-base |
davit_huge_fl.msft_florence2 | 768 | - | - | none | apache-2.0 | microsoft/Florence-2-large |