timm documentation

NaFlex ViT

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

NaFlex ViT

类别: ViT · 代码: timm/models/naflexvit.py · 架构: 14 · 预训练权重: 11(其中 3 个包含 ImageNet-1k 结果)

一个视觉 Transformer,将 patch 嵌入和位置编码整合在一个模块中,支持具有可变宽高比和分辨率的预分块输入(NaFlex)、FlexiViT 可变 patch 大小以及 NaViT 分解位置嵌入。

论文

由预训练权重引用:

用法

请参阅快速入门了解如何加载预训练权重、进行图像预处理和微调,以及查阅特征提取了解如何将模型用作骨干网络。

>>> import timm
>>> model = timm.create_model('naflexvit_base_patch16_parfac_gap.e300_s576_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

模型 API 支持

功能NaFlexVit
features_only=True 特征图✓(strides 16, 16, 16)
forward_intermediates()✓
prune_intermediate_layers()✓
任意输入尺寸,无需更改✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
逐层学习率衰减(group_matcher())✓
reset_classifier()✓

✓ 支持,✓ (square) 仅支持方形尺寸,✗ 不支持,– 无需支持(模型本身已接受任意输入尺寸)。通过在每个功能上运行随机初始化的模型(NaFlexVit 使用 naflexvit_base_patch16_parfac_gap,尺寸为 384)进行验证,预期同一类的其他架构表现相同。详情请参阅 模型 API 页面。

架构

架构参数(M)GMAC输入大小预训练权重
naflexvit_base_patch16_gap86.6355.863841
naflexvit_base_patch16_map93.7256.233840
naflexvit_base_patch16_par_gap86.6355.863841
naflexvit_base_patch16_parfac_gap86.4655.863841
naflexvit_base_patch16_radio_v398.25-5121
naflexvit_base_patch16_siglip92.9356.123841
naflexvit_giant_patch16_radio_v31159.62-5121
naflexvit_huge_patch16_radio_v3651.64-5121
naflexvit_huge_patch16_radio_v4651.65-5121
naflexvit_large_patch16_radio_v3319.93-5121
naflexvit_so150m2_patch16_reg1_gap136.0689.533840
naflexvit_so150m2_patch16_reg1_map142.4690.333840
naflexvit_so400m_patch16_radio_v4431.24-5121
naflexvit_so400m_patch16_siglip427.89259.653841

GMACs 和参数量对应于每种架构的默认输入大小和分类器,数据来自基准测试结果。

预训练权重

Top-1 是 results-imagenet.csv 中在所列评估规模下的 ImageNet-1k 验证准确率,- 表示该权重没有 ImageNet-1k 结果(例如预训练权重或图文权重)。Classes 是预训练分类器的大小,对于没有分类器的权重则为 none。

权重按来源分组:预训练配置中给出的论文或来源,否则为 timm 以外的 Hub 组织,否则为预训练标签的第一部分(architecture.tag)。仅包含单个权重的来源列在 other 下。

arXiv:2412.07679

预训练配置引用了 arXiv:2412.07679。

权重输入大小Top-1(%)评估大小类许可证Hub
naflexvit_base_patch16_radio_v3.c_radio512--nonenvidia-open-model-licensetimm
naflexvit_giant_patch16_radio_v3.c_radio512--nonenvidia-open-model-licensetimm
naflexvit_huge_patch16_radio_v3.c_radio512--nonenvidia-open-model-licensetimm
naflexvit_large_patch16_radio_v3.c_radio512--nonenvidia-open-model-licensetimm

v2 标签

权重输入大小Top-1(%)评估大小类许可证Hub
naflexvit_base_patch16_siglip.v2_webli384--noneapache-2.0timm
naflexvit_so400m_patch16_siglip.v2_webli384--noneapache-2.0timm

arXiv:2601.17237

预训练配置引用了 arXiv:2601.17237。

权重输入大小Top-1(%)评估大小类许可证Hub
naflexvit_huge_patch16_radio_v4.c_radio512--nonenvidia-open-model-licensetimm
naflexvit_so400m_patch16_radio_v4.c_radio512--nonenvidia-open-model-licensetimm

其他

权重输入大小Top-1(%)评估大小类许可证Hub
naflexvit_base_patch16_gap.e300_s576_in1k38483.3403841000apache-2.0timm
naflexvit_base_patch16_par_gap.e300_s576_in1k38483.5083841000apache-2.0timm
naflexvit_base_patch16_parfac_gap.e300_s576_in1k38483.4683841000apache-2.0timm
Update on GitHub