timm documentation
MambaOut
はじめに
チュートリアル
timmのモデルAPIモデルの適応とエクスポート事前学習モデルを特徴抽出器として使用ハイパーパラメータ (HParams)公式トレーニングスクリプトの使用🤗 Hugging Face Hub からモデルを共有して読み込む
モデルページ
モデルファミリー結果
畳み込みネットワーク
Aligned XceptionBYOBNet (GENet、RepVGG、MobileOne など)ConvMixerConvNeXtCSPNet(CSPResNet、CSPDarkNet、DarkNet)CSPNeXtDenseNetDLADPNHRNetInception-ResNet-v2Inception-v3Inception-v4InceptionNeXtMambaOutNASNetNFNetPNASNetPP-HGNetRDNetRegNetRes2NetResNeStResNetResNetV2 (BiT)SelecSLSSENet (レガシー)SKNetTResNetVGGVoVNetXception (レガシー)
Vision Transformers
ハイブリッドな畳み込み / 注意機構ネットワーク
効率的なモバイルネットワーク
MLPおよびその他のトークンミキサー
マルチモーダルモデルのビジョンエンコーダー
リファレンス
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v1.0.31).
MambaOut
カテゴリ: CNN · コード: timm/models/mambaout.py · アーキテクチャ: 11 · 事前学習済み重み: 12 (ImageNet-1kの結果を含む11)
MambaOutは、状態空間モデル(SSM)トークンミキサーを備えないMambaブロックとGated CNNブロックをスタックし、画像分類にSSMが必要かどうかを検証します。
論文
使用方法
事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。
>>> import timm
>>> model = timm.create_model('mambaout_tiny.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)モデルAPIのサポート
✓ 対応、✓ (square) 正方形サイズのみ対応、✗ 非対応、– 不要(モデルは任意の入力サイズを既に受け付ける)。各機能をランダム初期化されたモデル(224のMambaOutとmambaout_femto)で実行して確認しています。同じクラスの他のアーキテクチャも同様に動作すると予想されます。詳細はModel APIページを参照してください。
アーキテクチャ
| アーキテクチャ | パラメータ数 (M) | GMACs | 入力サイズ | 事前学習済み重み |
|---|---|---|---|---|
mambaout_base | 84.81 | 15.83 | 224 | 1 |
mambaout_base_plus_rw | 101.66 | 19.19 | 224 | 3 |
mambaout_base_short_rw | 88.83 | 16.31 | 224 | 1 |
mambaout_base_tall_rw | 86.48 | 16.15 | 224 | 1 |
mambaout_base_wide_rw | 94.45 | 17.78 | 224 | 1 |
mambaout_femto | 7.30 | 1.16 | 224 | 1 |
mambaout_kobe | 9.14 | 1.52 | 224 | 1 |
mambaout_small | 48.49 | 8.96 | 224 | 1 |
mambaout_small_rw | 48.50 | 8.96 | 224 | 1 |
mambaout_tiny | 26.55 | 4.49 | 224 | 1 |
test_mambaout | 0.45 | 0.03 | 160 | 0 |
GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。
事前学習済み重み
Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み(例: プリトレーニング用または画像-テキスト用重み)を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。
| 重み | 入力サイズ | Top-1 (%) | 評価サイズ | クラス | ライセンス | Hub |
|---|---|---|---|---|---|---|
mambaout_base.in1k | 224(テスト 288) | 84.730 | 288 | 1000 | apache-2.0 | timm |
mambaout_base_plus_rw.sw_e150_in12k | 224(テスト 288) | - | - | 11821 | apache-2.0 | timm |
mambaout_base_plus_rw.sw_e150_in12k_ft_in1k | 224(テスト 288) | 86.916 | 288 | 1000 | apache-2.0 | timm |
mambaout_base_plus_rw.sw_e150_r384_in12k_ft_in1k | 384 | 87.508 | 384 | 1000 | apache-2.0 | timm |
mambaout_base_short_rw.sw_e500_in1k | 224(テスト 288) | 84.842 | 288 | 1000 | apache-2.0 | timm |
mambaout_base_tall_rw.sw_e500_in1k | 224(テスト 288) | 84.988 | 288 | 1000 | apache-2.0 | timm |
mambaout_base_wide_rw.sw_e500_in1k | 224(テスト 288) | 84.966 | 288 | 1000 | apache-2.0 | timm |
mambaout_femto.in1k | 224(テスト 288) | 79.912 | 288 | 1000 | apache-2.0 | timm |
mambaout_kobe.in1k | 224(テスト 288) | 81.064 | 288 | 1000 | apache-2.0 | timm |
mambaout_small.in1k | 224(テスト 288) | 84.512 | 288 | 1000 | apache-2.0 | timm |
mambaout_small_rw.sw_e450_in1k | 224(テスト 288) | 84.604 | 288 | 1000 | apache-2.0 | timm |
mambaout_tiny.in1k | 224(テスト 288) | 83.452 | 288 | 1000 | apache-2.0 | timm |