timm documentation

ResNetV2 (BiT)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

ResNetV2 (BiT)

Категория: CNN · Код: timm/models/resnetv2.py · Архитектуры: 20 · Предобученные веса: 24 (18 с результатами на ImageNet-1k)

Pre-activation ResNet (v2) с Group Normalization и Weight Standardization, как используется в Big Transfer (BiT), с исходными весами BiT. Также поддерживает вариант без pre-activation, используемый в качестве гибридного ядра Vision Transformer.

Статьи

Использование

См. раздел Быстрый старт для загрузки предобученных весов, предобработки изображений и дообучения, а также раздел Извлечение признаков для использования моделей в качестве базовых архитектур.

>>> import timm
>>> model = timm.create_model('resnetv2_50.a1h_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Поддержка Model API

ВозможностьResNetV2
карты признаков features_only=True✓ (шаги 2, 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
Любой размер входных данных, изменения не требуются✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
Послойное затухание LR (group_matcher())✓
reset_classifier()✓

✓ поддерживается, ✓ (квадрат) работает только для квадратных размеров, ✗ не поддерживается, – не требуется (модель уже принимает входные данные любого размера). Проверено путём запуска каждой функции на случайно инициализированной модели (ResNetV2 с resnetv2_18 при размере 224); ожидается, что другие архитектуры того же класса будут вести себя аналогично. Подробности см. на странице Model API.

Архитектуры

АрхитектураПараметры (млн)GMACsРазмер входных данныхПредобученные веса
resnetv2_1811.691.822241
resnetv2_18d11.712.062241
resnetv2_3421.803.672241
resnetv2_34d21.823.912242
resnetv2_5025.554.112241
resnetv2_50d25.574.352240
resnetv2_50d_evos25.594.332241
resnetv2_50d_frn25.594.332240
resnetv2_50d_gn25.574.382241
resnetv2_50t25.574.322240
resnetv2_50x1_bit25.554.232243
resnetv2_50x3_bit217.32145.704482
resnetv2_10144.547.832241
resnetv2_101d44.568.072240
resnetv2_101x1_bit44.5431.654482
resnetv2_101x3_bit387.93280.334482
resnetv2_15260.1911.552240
resnetv2_152d60.2011.802240
resnetv2_152x2_bit236.3446.952244
resnetv2_152x4_bit936.53844.844802

GMACs и количество параметров указаны для размера входных данных и классификатора по умолчанию для каждой архитектуры, согласно результатам бенчмарков.

Предобученные веса

Top-1 — это точность на валидационном наборе ImageNet-1k из results-imagenet.csv для указанного размера оценки, - если для весов нет результата ImageNet-1k (например, веса для предобучения или изображения-текст). Classes — размер предобученного классификатора, none для весов без классификатора.

Веса группируются по источнику: статья или происхождение, указанные в конфигурации предобученной модели, иначе организация на Hugging Face, отличная от timm, иначе первая часть тега предобученной модели (architecture.tag). Источники с одним весом перечислены в разделе other.

goog tags

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
resnetv2_50x1_bit.goog_distilled_in1k22482.8202241000apache-2.0timm
resnetv2_50x1_bit.goog_in21k224--21843apache-2.0timm
resnetv2_50x1_bit.goog_in21k_ft_in1k44880.3864481000apache-2.0timm
resnetv2_50x3_bit.goog_in21k224--21843apache-2.0timm
resnetv2_50x3_bit.goog_in21k_ft_in1k44883.9824481000apache-2.0timm
resnetv2_101x1_bit.goog_in21k224--21843apache-2.0timm
resnetv2_101x1_bit.goog_in21k_ft_in1k44882.3324481000apache-2.0timm
resnetv2_101x3_bit.goog_in21k224--21843apache-2.0timm
resnetv2_101x3_bit.goog_in21k_ft_in1k44884.4304481000apache-2.0timm
resnetv2_152x2_bit.goog_in21k224--21843apache-2.0timm
resnetv2_152x2_bit.goog_in21k_ft_in1k44884.4684481000apache-2.0timm
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k22482.9182241000apache-2.0timm
resnetv2_152x2_bit.goog_teacher_in21k_ft_in1k_38438483.8583841000apache-2.0timm
resnetv2_152x4_bit.goog_in21k224--21843apache-2.0timm
resnetv2_152x4_bit.goog_in21k_ft_in1k48084.9364801000apache-2.0timm

теги ra4

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
resnetv2_18.ra4_e3600_r224_in1k224 (тест 288)75.3642881000apache-2.0timm
resnetv2_18d.ra4_e3600_r224_in1k224 (тест 288)76.0582881000apache-2.0timm
resnetv2_34.ra4_e3600_r224_in1k224 (тест 288)79.0702881000apache-2.0timm
resnetv2_34d.ra4_e3600_r224_in1k224 (тест 288)79.6142881000apache-2.0timm
resnetv2_34d.ra4_e3600_r384_in1k384 (тест 448)80.4304481000apache-2.0timm

a1h теги

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
resnetv2_50.a1h_in1k224 (тест 288)81.4062881000apache-2.0timm
resnetv2_101.a1h_in1k224 (тест 288)83.0022881000apache-2.0timm

ah tags

ВесРазмер входных данныхTop-1 (%)Размер выборки для оценкиКлассыЛицензияHub
resnetv2_50d_evos.ah_in1k224 (тест 288)82.0242881000apache-2.0timm
resnetv2_50d_gn.ah_in1k224 (тест 288)81.9602881000apache-2.0timm
Update on GitHub