timm documentation
Swin Transformer V2
Swin Transformer V2
Kategori: ViT · Kode: timm/models/swin_transformer_v2.py · Arsitektur: 12 · Bobot pralatih: 12 (10 dengan hasil ImageNet-1k)
Swin Transformer V2 memperluas Swin dengan residual post-norm, scaled cosine attention, dan bias posisi relatif kontinu log-spaced yang dapat dipindahkan antar ukuran jendela.
Makalah
Penggunaan
Lihat Quickstart untuk memuat bobot terlatih, prapemrosesan gambar, dan penyesuaian halus, serta Ekstraksi Fitur untuk menggunakan model sebagai tulang punggung.
>>> import timm
>>> model = timm.create_model('swinv2_tiny_window16_256.ms_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)Dukungan API Model
✓ didukung, ✓ (persegi) hanya berfungsi untuk ukuran persegi, ✗ tidak didukung, – tidak diperlukan (model sudah menerima ukuran input apa pun). Diperiksa dengan menjalankan setiap fitur pada model yang diinisialisasi secara acak (SwinTransformerV2 dengan swinv2_tiny_window16_256 pada 256), arsitektur lain dari kelas yang sama diharapkan berperilaku sama. Lihat halaman Model API untuk detailnya.
Arsitektur
| Arsitektur | Parameter (M) | GMACs | Ukuran input | Bobot terlatih |
|---|---|---|---|---|
swinv2_base_window8_256 | 87.92 | 20.37 | 256 | 1 |
swinv2_base_window12_192 | 109.28 | 11.90 | 192 | 1 |
swinv2_base_window12to16_192to256 | 87.92 | 22.02 | 256 | 1 |
swinv2_base_window12to24_192to384 | 87.92 | 55.25 | 384 | 1 |
swinv2_base_window16_256 | 87.92 | 22.02 | 256 | 1 |
swinv2_large_window12_192 | 228.77 | 26.17 | 192 | 1 |
swinv2_large_window12to16_192to256 | 196.74 | 47.81 | 256 | 1 |
swinv2_large_window12to24_192to384 | 196.74 | 116.15 | 384 | 1 |
swinv2_small_window8_256 | 49.73 | 11.58 | 256 | 1 |
swinv2_small_window16_256 | 49.73 | 12.82 | 256 | 1 |
swinv2_tiny_window8_256 | 28.35 | 5.96 | 256 | 1 |
swinv2_tiny_window16_256 | 28.35 | 6.68 | 256 | 1 |
GMACs dan jumlah parameter adalah untuk ukuran input dan klasifer default dari setiap arsitektur, dari hasil benchmark.
Bobot terlatih
Top-1 adalah akurasi validasi ImageNet-1k dari results-imagenet.csv pada ukuran eval yang tercantum, - jika bobot tidak memiliki hasil ImageNet-1k (misalnya bobot pretraining atau image-text). Classes adalah ukuran dari classifier pretrained, none untuk bobot yang tidak memilikinya.
| Bobot | Ukuran input | Top-1 (%) | Ukuran evaluasi | Kelas | Lisensi | Hub |
|---|---|---|---|---|---|---|
swinv2_base_window8_256.ms_in1k | 256 | 84.246 | 256 | 1000 | mit | timm |
swinv2_base_window12_192.ms_in22k | 192 | - | - | 21841 | mit | timm |
swinv2_base_window12to16_192to256.ms_in22k_ft_in1k | 256 | 86.270 | 256 | 1000 | mit | timm |
swinv2_base_window12to24_192to384.ms_in22k_ft_in1k | 384 | 87.142 | 384 | 1000 | mit | timm |
swinv2_base_window16_256.ms_in1k | 256 | 84.608 | 256 | 1000 | mit | timm |
swinv2_large_window12_192.ms_in22k | 192 | - | - | 21841 | mit | timm |
swinv2_large_window12to16_192to256.ms_in22k_ft_in1k | 256 | 86.934 | 256 | 1000 | mit | timm |
swinv2_large_window12to24_192to384.ms_in22k_ft_in1k | 384 | 87.474 | 384 | 1000 | mit | timm |
swinv2_small_window8_256.ms_in1k | 256 | 83.844 | 256 | 1000 | mit | timm |
swinv2_small_window16_256.ms_in1k | 256 | 84.216 | 256 | 1000 | mit | timm |
swinv2_tiny_window8_256.ms_in1k | 256 | 81.824 | 256 | 1000 | mit | timm |
swinv2_tiny_window16_256.ms_in1k | 256 | 82.828 | 256 | 1000 | mit | timm |