ハイブリッドビジョントランスフォーマー

カテゴリ: ハイブリッド · コード: timm/models/vision_transformer_hybrid.py · アーキテクチャ: 14 · 事前学習済み重み: 14 (ImageNet-1kの結果付き: 7)

線形パッチ埋め込みではなく、畳み込みバックボーン（ResNet / ResNetV2のステムまたはステージ）からパッチトークンを取得するVision Transformers。この場合、VisionTransformerクラスを使用します。

論文

• 画像1枚は16x16の単語に相当：大規模な画像認識のためのTransformer
• ViTの学習方法: Vision Transformersにおけるデータ、拡張、正則化
• MobileCLIP: マルチモーダル強化学習による高速な画像・テキストモデル
• MobileCLIP2: マルチモーダル強化学習の改善

使用方法

事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。

>>> import timm
>>> model = timm.create_model('vit_small_r26_s32_224.augreg_in21k_ft_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

モデルAPIのサポート

✓ 対応、✓ (square) 正方形サイズのみ動作、✗ 非対応、– 不要（モデルはすでに任意の入力サイズを受け入れる）。各機能をランダムに初期化されたモデル（224のVisionTransformerとvit_tiny_r_s16_p8_224）で実行して確認しました。同じクラスの他のアーキテクチャも同様に動作すると予想されます。詳細はModel APIページを参照してください。

アーキテクチャ

GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。

事前学習済み重み

Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み（例: プリトレーニング用または画像-テキスト用重み）を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。

重みはソースごとにグループ化されます。ソースは、事前学習設定で指定されている論文または出典、それ以外の場合はtimm以外の Hub 組織、さらにそれ以外の場合は事前学習タグの最初の部分（architecture.tag）です。重みが 1 つしかないソースは、other にリストされます。

augreg タグ

元のタグ

apple

Hugging Face Hub上でappleがホストしています。

その他