timm

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.0.31).

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

التوائم

الفئة: ViT · الكود: timm/models/twins.py · الهندسات: 6 · الأوزان المُسبقة التدريب: 6 (6 منها بنتائج على ImageNet-1k)

توينز-بي سي بي في تي (تحويل الرؤية الهرمي مع ترميزات المواقع الشرطية) وتوينز-إس في تي (انتباه ذاتي قابل للفصل مكانيًا، انتباه مجمّع محليًا يتناوب مع انتباه عام مُجزّأ).

الأوراق البحثية

التوأم: إعادة النظر في تصميم الانتباه المكاني في محولات الرؤية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('twins_pcpvt_small.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزة	`Twins`
خرائط الميزات `features_only=True`	✓ (خطوات 4، 8، 16، 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات	✓
`set_input_size()`	–
`dynamic_img_size=True`	–
`set_grad_checkpointing()`	✗
تلاشي معدل التعلم على مستوى الطبقات (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيّأ عشوائياً (Twins مع twins_svt_small عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة Model API للتفاصيل.

البنى

البنية	المعاملات (مليون)	GMACs	حجم الإدخال	الأوزان المُسبقة التدريب
`twins_pcpvt_base`	43.83	6.68	224	1
`twins_pcpvt_large`	60.99	9.84	224	1
`twins_pcpvt_small`	24.11	3.83	224	1
`twins_svt_base`	56.07	8.59	224	1
`twins_svt_large`	99.27	15.15	224	1
`twins_svt_small`	24.06	2.94	224	1

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزن	حجم الإدخال	أعلى 1 (%)	حجم التقييم	فئات	رخصة	المركز
`twins_pcpvt_base.in1k`	224	82.724	224	1000	apache-2.0	timm
`twins_pcpvt_large.in1k`	224	83.158	224	1000	apache-2.0	timm
`twins_pcpvt_small.in1k`	224	81.116	224	1000	apache-2.0	timm
`twins_svt_base.in1k`	224	83.122	224	1000	apache-2.0	timm
`twins_svt_large.in1k`	224	83.718	224	1000	apache-2.0	timm
`twins_svt_small.in1k`	224	81.694	224	1000	apache-2.0	timm

Update on GitHub

←TNT Vision Transformer (الموضع النسبي)→