Hiera

Категория: ViT · Код: timm/models/hiera.py · Архитектуры: 8 · Предобученные веса: 16 (8 с результатами на ImageNet-1k)

Hiera — это иерархический визуальный трансформер без специализированных модулей (свёрток, сдвинутых окон, относительных смещений позиций), который опирается на предварительное обучение с помощью маскированного автоэнкодера (MAE) для изучения пространственных смещений.

Статьи

• Hiera: иерархический Vision Transformer без лишних украшений
• Окно внимания содержит ошибку: как не интерполировать позиционные эмбеддинги

Использование

См. раздел Быстрый старт для загрузки предобученных весов, предобработки изображений и дообучения, а также раздел Извлечение признаков для использования моделей в качестве базовых архитектур.

>>> import timm
>>> model = timm.create_model('hiera_tiny_224.mae_in1k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Поддержка Model API

✓ поддерживается, ✓ (квадрат) работает только для квадратных размеров, ✗ не поддерживается, – не требуется (модель уже принимает входные данные любого размера). Проверено путём запуска каждой функции на случайно инициализированной модели (Hiera с hiera_tiny_224 при размере 224); ожидается, что другие архитектуры того же класса будут вести себя аналогично. Подробности см. на странице Model API.

Архитектуры

GMACs и количество параметров указаны для размера входных данных и классификатора по умолчанию для каждой архитектуры, согласно результатам бенчмарков.

Предобученные веса

Top-1 — это точность на валидационном наборе ImageNet-1k из results-imagenet.csv для указанного размера оценки, - если для весов нет результата ImageNet-1k (например, веса для предобучения или изображения-текст). Classes — размер предобученного классификатора, none для весов без классификатора.

Веса группируются по источнику: статья или происхождение, указанные в конфигурации предобученной модели, иначе организация на Hugging Face, отличная от timm, иначе первая часть тега предобученной модели (architecture.tag). Источники с одним весом перечислены в разделе other.

теги mae

теги sbb2