timm documentation

HieraDet(SAM 2)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

HieraDet(SAM 2)

类别: ViT · 代码: timm/models/hieradet_sam2.py · 架构: 5 · 预训练权重: 8(0 个具有 ImageNet-1k 结果)

HieraDet 是 Segment Anything 2 (SAM 2) 中基于 Hiera 的图像编码器,采用窗口注意力机制和窗口位置嵌入。

论文

用法

请参阅快速入门了解如何加载预训练权重、进行图像预处理和微调,以及查阅特征提取了解如何将模型用作骨干网络。

>>> import timm
>>> model = timm.create_model('sam2_hiera_base_plus.fb_r896', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

模型 API 支持

功能HieraDet
features_only=True 特征图✓(步长 4、8、16、32)
forward_intermediates()✓
prune_intermediate_layers()✓
任意输入尺寸,无需更改✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
逐层学习率衰减(group_matcher())✓
reset_classifier()✓

✓ 支持,✓ (square) 仅支持方形尺寸,✗ 不支持,– 无需支持(模型本身已接受任意输入尺寸)。通过在每个功能上运行随机初始化的模型(HieraDet 使用 sam2_hiera_tiny,尺寸为 256)进行验证,预期同一类的其他架构表现相同。详情请参阅 Model API 页面。

架构

架构参数(M)GMAC输入大小预训练权重
hieradet_small34.738.512560
sam2_hiera_base_plus68.68227.488962
sam2_hiera_large212.15907.4810242
sam2_hiera_small33.95123.998962
sam2_hiera_tiny26.8599.868962

GMACs 和参数量对应于每种架构的默认输入大小和分类器,数据来自基准测试结果。

预训练权重

Top-1 是 results-imagenet.csv 中在所列评估规模下的 ImageNet-1k 验证准确率,- 表示该权重没有 ImageNet-1k 结果(例如预训练权重或图文权重)。Classes 是预训练分类器的大小,对于没有分类器的权重则为 none。

权重输入大小Top-1(%)评估大小类许可证Hub
sam2_hiera_base_plus.fb_r896896--noneapache-2.0timm
sam2_hiera_base_plus.fb_r896_2pt1896--noneapache-2.0timm
sam2_hiera_large.fb_r10241024--noneapache-2.0timm
sam2_hiera_large.fb_r1024_2pt11024--noneapache-2.0timm
sam2_hiera_small.fb_r896896--noneapache-2.0timm
sam2_hiera_small.fb_r896_2pt1896--noneapache-2.0timm
sam2_hiera_tiny.fb_r896896--noneapache-2.0timm
sam2_hiera_tiny.fb_r896_2pt1896--noneapache-2.0timm
Update on GitHub