timm documentation

HieraDet(SAM 2)

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

HieraDet(SAM 2)

类别: ViT · 代码: timm/models/hieradet_sam2.py · 架构: 5 · 预训练权重: 8(0 个具有 ImageNet-1k 结果)

HieraDet 是 Segment Anything 2 (SAM 2) 中基于 Hiera 的图像编码器,采用窗口注意力机制和窗口位置嵌入。

论文

用法

请参阅快速入门了解如何加载预训练权重、进行图像预处理和微调,以及查阅特征提取了解如何将模型用作骨干网络。

>>> import timm
>>> model = timm.create_model('sam2_hiera_base_plus.fb_r896', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

模型 API 支持

功能HieraDet
features_only=True 特征图✓(步长 4、8、16、32)
forward_intermediates()✓
prune_intermediate_layers()✓
任意输入尺寸,无需更改✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
逐层学习率衰减(group_matcher())✓
reset_classifier()✓

✓ 支持,✓ (square) 仅支持方形尺寸,✗ 不支持,– 无需支持(模型本身已接受任意输入尺寸)。通过在每个功能上运行随机初始化的模型(HieraDet 使用 sam2_hiera_tiny,尺寸为 256)进行验证,预期同一类的其他架构表现相同。详情请参阅 Model API 页面。

架构

架构参数(M)GMAC输入大小预训练权重
hieradet_small34.738.512560
sam2_hiera_base_plus68.68227.488962
sam2_hiera_large212.15907.4810242
sam2_hiera_small33.95123.998962
sam2_hiera_tiny26.8599.868962

GMACs 和参数量对应于每种架构的默认输入大小和分类器,数据来自基准测试结果。

预训练权重

Top-1 是 results-imagenet.csv 中在所列评估规模下的 ImageNet-1k 验证准确率,- 表示该权重没有 ImageNet-1k 结果(例如预训练权重或图文权重)。Classes 是预训练分类器的大小,对于没有分类器的权重则为 none。

权重输入大小Top-1(%)评估大小类许可证Hub
sam2_hiera_base_plus.fb_r896896--noneapache-2.0timm
sam2_hiera_base_plus.fb_r896_2pt1896--noneapache-2.0timm
sam2_hiera_large.fb_r10241024--noneapache-2.0timm
sam2_hiera_large.fb_r1024_2pt11024--noneapache-2.0timm
sam2_hiera_small.fb_r896896--noneapache-2.0timm
sam2_hiera_small.fb_r896_2pt1896--noneapache-2.0timm
sam2_hiera_tiny.fb_r896896--noneapache-2.0timm
sam2_hiera_tiny.fb_r896_2pt1896--noneapache-2.0timm
Update on GitHub