DeiT

Kategori: ViT · Kod: timm/models/deit.py · Mimariler: 16 · Önceden eğitilmiş ağırlıklar: 24 (24'ü ImageNet-1k sonuçlarıyla)

Veri verimli Görüntü Dönüşümcüleri (DeiT), yalnızca ImageNet-1k üzerinde eğitilen, isteğe bağlı olarak bir CNN öğretmeninden öğrenen bir damıtma jetonu içeren Görüntü Dönüşümcüleridir. DeiT III modelleri, geliştirilmiş bir tarif ile eğitilir.

Makaleler

• Dikkat yoluyla eğitim verisi verimli görüntü dönüştürücüler ve damıtma
• DeiT III: ViT'in İntikamı

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('deit_small_distilled_patch16_224.fb_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (VisionTransformer 224 için deit_tiny_patch16_224, VisionTransformerDistilled 224 için deit_tiny_distilled_patch16_224), aynı sınıftaki diğer mimarilerin aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.