timm documentation

NFNet

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

NFNet

类别: CNN · 代码: timm/models/nfnet.py · 架构: 36 · 预训练权重: 14(14 个具有 ImageNet-1k 结果)

无归一化网络,在不使用批归一化的情况下,通过缩放权重标准化进行训练:NFNet(带有自适应梯度裁剪)、NF-RegNet 和预激活 NF-ResNet 模型。

论文

用法

请参阅快速入门了解如何加载预训练权重、进行图像预处理和微调,以及查阅特征提取了解如何将模型用作骨干网络。

>>> import timm
>>> model = timm.create_model('nf_resnet50.ra2_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

模型 API 支持

功能NormFreeNet
features_only=True 特征图✓(步长 2、4、8、16、32)
forward_intermediates()✓
prune_intermediate_layers()✓
任意输入尺寸,无需更改✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
逐层学习率衰减(group_matcher())✓
reset_classifier()✓

✓ 支持,✓ (square) 仅支持方形尺寸,✗ 不支持,– 无需支持(模型本身已接受任意输入尺寸)。通过在每个功能上运行随机初始化的模型(NormFreeNet 使用 nf_regnet_b0,尺寸为 192)进行验证,同一类的其他架构预计表现相同。详情请参阅 Model API 页面。

架构

架构参数(M)GMAC输入大小预训练权重
dm_nfnet_f071.497.211921
dm_nfnet_f1132.6317.872241
dm_nfnet_f2193.7833.762561
dm_nfnet_f3254.9268.773201
dm_nfnet_f4316.07122.143841
dm_nfnet_f5377.21170.714161
dm_nfnet_f6438.36229.704481
eca_nfnet_l024.144.352241
eca_nfnet_l141.419.622561
eca_nfnet_l256.7220.953201
eca_nfnet_l372.0432.573520
nf_ecaresnet2616.002.412240
nf_ecaresnet5025.564.212240
nf_ecaresnet10144.558.012240
nf_regnet_b08.760.371920
nf_regnet_b110.220.822561
nf_regnet_b214.310.972400
nf_regnet_b318.591.672880
nf_regnet_b430.213.293200
nf_regnet_b549.747.953840
nf_resnet2616.002.412240
nf_resnet5025.565.462561
nf_resnet10144.558.012240
nf_seresnet2617.402.412240
nf_seresnet5028.094.212240
nf_seresnet10149.338.022240
nfnet_f071.497.211920
nfnet_f1132.6317.872240
nfnet_f2193.7833.762560
nfnet_f3254.9268.773200
nfnet_f4316.07122.143840
nfnet_f5377.21170.714160
nfnet_f6438.36229.704480
nfnet_f7499.50300.084800
nfnet_l035.074.362241
test_nfnet0.380.291601

GMACs 和参数量对应于每种架构的默认输入大小和分类器,数据来自基准测试结果。

预训练权重

Top-1 是 results-imagenet.csv 中在所列评估规模下的 ImageNet-1k 验证准确率,- 表示该权重没有 ImageNet-1k 结果(例如预训练权重或图文权重)。Classes 是预训练分类器的大小,对于没有分类器的权重则为 none。

权重按来源分组:预训练配置中给出的论文或来源,否则为 timm 以外的 Hub 组织,否则为预训练标签的第一部分(architecture.tag)。仅包含单个权重的来源列在 other 下。

dm 标签

权重输入大小Top-1(%)评估大小类许可证Hub
dm_nfnet_f0.dm_in1k192(测试 256)83.4682561000apache-2.0timm
dm_nfnet_f1.dm_in1k224(测试 320)84.7003201000apache-2.0timm
dm_nfnet_f2.dm_in1k256(测试 352)85.1843521000apache-2.0timm
dm_nfnet_f3.dm_in1k320(测试 416)85.6764161000apache-2.0timm
dm_nfnet_f4.dm_in1k384(测试 512)85.8385121000apache-2.0timm
dm_nfnet_f5.dm_in1k416(测试 544)86.1025441000apache-2.0timm
dm_nfnet_f6.dm_in1k448(测试 576)86.3645761000apache-2.0timm

ra2 标签

权重输入大小Top-1(%)评估大小类许可证Hub
eca_nfnet_l0.ra2_in1k224(测试 288)82.5902881000apache-2.0timm
eca_nfnet_l1.ra2_in1k256(测试 320)84.0623201000apache-2.0timm
nf_regnet_b1.ra2_in1k256(测试 288)79.3682881000apache-2.0timm
nf_resnet50.ra2_in1k256(测试 288)80.6582881000apache-2.0timm
nfnet_l0.ra2_in1k224(测试 288)82.7662881000apache-2.0timm

其他

权重输入大小Top-1(%)评估大小类许可证Hub
eca_nfnet_l2.ra3_in1k320(测试 384)84.7103841000apache-2.0timm
test_nfnet.r160_in1k16047.6341601000apache-2.0timm
Update on GitHub