NFNet

Kategori: CNN · Kod: timm/models/nfnet.py · Mimariler: 36 · Önceden eğitilmiş ağırlıklar: 14 (14'ü ImageNet-1k sonuçlarıyla)

Batch normalization kullanılmadan, ölçeklendirilmiş ağırlık standartlaştırması ile eğitilen Normalization-Free ağlar: NFNet (uyarlanabilir gradyan kırpma ile), NF-RegNet ve pre-activation NF-ResNet modelleri.

Makaleler

Normalizasyonsuz ResNet'lerde performans farkını kapatmak için sinyal yayılımının karakterize edilmesi
Normalizasyon Olmadan Yüksek Performanslı Büyük Ölçekli Görüntü Tanıma

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('nf_resnet50.ra2_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

Özellik	`NormFreeNet`
`features_only=True` özellik haritaları	✓ (adım 2, 4, 8, 16, 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
Herhangi bir giriş boyutu, değişiklik gerekmez	✓
`set_input_size()`	–
`dynamic_img_size=True`	–
`set_grad_checkpointing()`	✓
Katman bazlı LR azaltma (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (NormFreeNet, 192 boyutunda nf_regnet_b0), aynı sınıfın diğer mimarilerinin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

Mimari	Parametreler (M)	GMAC'lar	Girdi boyutu	Önceden eğitilmiş ağırlıklar
`dm_nfnet_f0`	71.49	7.21	192	1
`dm_nfnet_f1`	132.63	17.87	224	1
`dm_nfnet_f2`	193.78	33.76	256	1
`dm_nfnet_f3`	254.92	68.77	320	1
`dm_nfnet_f4`	316.07	122.14	384	1
`dm_nfnet_f5`	377.21	170.71	416	1
`dm_nfnet_f6`	438.36	229.70	448	1
`eca_nfnet_l0`	24.14	4.35	224	1
`eca_nfnet_l1`	41.41	9.62	256	1
`eca_nfnet_l2`	56.72	20.95	320	1
`eca_nfnet_l3`	72.04	32.57	352	0
`nf_ecaresnet26`	16.00	2.41	224	0
`nf_ecaresnet50`	25.56	4.21	224	0
`nf_ecaresnet101`	44.55	8.01	224	0
`nf_regnet_b0`	8.76	0.37	192	0
`nf_regnet_b1`	10.22	0.82	256	1
`nf_regnet_b2`	14.31	0.97	240	0
`nf_regnet_b3`	18.59	1.67	288	0
`nf_regnet_b4`	30.21	3.29	320	0
`nf_regnet_b5`	49.74	7.95	384	0
`nf_resnet26`	16.00	2.41	224	0
`nf_resnet50`	25.56	5.46	256	1
`nf_resnet101`	44.55	8.01	224	0
`nf_seresnet26`	17.40	2.41	224	0
`nf_seresnet50`	28.09	4.21	224	0
`nf_seresnet101`	49.33	8.02	224	0
`nfnet_f0`	71.49	7.21	192	0
`nfnet_f1`	132.63	17.87	224	0
`nfnet_f2`	193.78	33.76	256	0
`nfnet_f3`	254.92	68.77	320	0
`nfnet_f4`	316.07	122.14	384	0
`nfnet_f5`	377.21	170.71	416	0
`nfnet_f6`	438.36	229.70	448	0
`nfnet_f7`	499.50	300.08	480	0
`nfnet_l0`	35.07	4.36	224	1
`test_nfnet`	0.38	0.29	160	1

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

Ağırlıklar kaynağa göre gruplandırılır: önceden eğitilmiş yapılandırmada belirtilen makale veya köken, aksi halde timm dışında bir Hub kuruluşu, aksi halde önceden eğitilmiş etiketin ilk kısmı (architecture.tag). Tek bir ağırlığı olan kaynaklar other altında listelenir.

dm etiketleri

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`dm_nfnet_f0.dm_in1k`	192 (test 256)	83.468	256	1000	apache-2.0	timm
`dm_nfnet_f1.dm_in1k`	224 (test 320)	84.700	320	1000	apache-2.0	timm
`dm_nfnet_f2.dm_in1k`	256 (test 352)	85.184	352	1000	apache-2.0	timm
`dm_nfnet_f3.dm_in1k`	320 (test 416)	85.676	416	1000	apache-2.0	timm
`dm_nfnet_f4.dm_in1k`	384 (test 512)	85.838	512	1000	apache-2.0	timm
`dm_nfnet_f5.dm_in1k`	416 (test 544)	86.102	544	1000	apache-2.0	timm
`dm_nfnet_f6.dm_in1k`	448 (test 576)	86.364	576	1000	apache-2.0	timm

ra2 etiketleri

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`eca_nfnet_l0.ra2_in1k`	224 (test 288)	82.590	288	1000	apache-2.0	timm
`eca_nfnet_l1.ra2_in1k`	256 (test 320)	84.062	320	1000	apache-2.0	timm
`nf_regnet_b1.ra2_in1k`	256 (test 288)	79.368	288	1000	apache-2.0	timm
`nf_resnet50.ra2_in1k`	256 (test 288)	80.658	288	1000	apache-2.0	timm
`nfnet_l0.ra2_in1k`	224 (test 288)	82.766	288	1000	apache-2.0	timm

Diğer

Ağırlık	Girdi boyutu	En iyi 1 (%)	Değerlendirme boyutu	Sınıflar	Lisans	Hub
`eca_nfnet_l2.ra3_in1k`	320 (test 384)	84.710	384	1000	apache-2.0	timm
`test_nfnet.r160_in1k`	160	47.634	160	1000	apache-2.0	timm

Update on GitHub