timm documentation

Next-ViT

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Next-ViT

类别: 混合 · 代码: timm/models/nextvit.py · 架构: 3 · 预训练权重: 12(12 个具有 ImageNet-1k 结果)

Next-ViT 是一种用于高效部署的 CNN / transformer 混合模型,它堆叠了 Next 卷积块(NCB)和 Next Transformer 块(NTB)。

论文

用法

请参阅快速入门了解如何加载预训练权重、进行图像预处理和微调,以及查阅特征提取了解如何将模型用作骨干网络。

>>> import timm
>>> model = timm.create_model('nextvit_small.bd_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

模型 API 支持

功能NextViT
features_only=True 特征图✓(步长 4、8、16、32)
forward_intermediates()✓
prune_intermediate_layers()✓
任意输入尺寸,无需更改✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
逐层学习率衰减(group_matcher())✓
reset_classifier()✓

✓ 支持,✓ (square) 仅支持方形尺寸,✗ 不支持,– 无需支持(模型本身已接受任意输入尺寸)。通过在每个功能上运行随机初始化的模型(NextViT 使用 nextvit_small,尺寸为 224)进行验证,预期同一类的其他架构表现相同。详情请参阅 Model API 页面。

架构

架构参数(M)GMAC输入大小预训练权重
nextvit_base44.798.292244
nextvit_large57.8310.772244
nextvit_small31.745.802244

GMACs 和参数量对应于每种架构的默认输入大小和分类器,数据来自基准测试结果。

预训练权重

Top-1 是 results-imagenet.csv 中在所列评估规模下的 ImageNet-1k 验证准确率,- 表示该权重没有 ImageNet-1k 结果(例如预训练权重或图文权重)。Classes 是预训练分类器的大小,对于没有分类器的权重则为 none。

权重输入大小Top-1(%)评估大小类许可证Hub
nextvit_base.bd_in1k22483.4982241000apache-2.0timm
nextvit_base.bd_in1k_38438484.7063841000apache-2.0timm
nextvit_base.bd_ssld_6m_in1k22485.1862241000apache-2.0timm
nextvit_base.bd_ssld_6m_in1k_38438486.3723841000apache-2.0timm
nextvit_large.bd_in1k22483.6542241000apache-2.0timm
nextvit_large.bd_in1k_38438484.9303841000apache-2.0timm
nextvit_large.bd_ssld_6m_in1k22485.5142241000apache-2.0timm
nextvit_large.bd_ssld_6m_in1k_38438486.5443841000apache-2.0timm
nextvit_small.bd_in1k22482.6262241000apache-2.0timm
nextvit_small.bd_in1k_38438484.0363841000apache-2.0timm
nextvit_small.bd_ssld_6m_in1k22484.8722241000apache-2.0timm
nextvit_small.bd_ssld_6m_in1k_38438485.9663841000apache-2.0timm
Update on GitHub