timm documentation

NesT

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

NesT

الفئة: ViT · الكود: timm/models/nest.py · الهندسات: 6 · الأوزان المُسبقة التدريب: 3 (3 منها بنتائج على ImageNet-1k)

تطبّق نماذج Nested Transformers (NesT) الانتباه الذاتي محليًا داخل كتل الصور غير المتداخلة، وتجمع الكتل المجاورة بين المراحل. تم تحويل الأوزان من إصدار JAX الرسمي.

الأوراق البحثية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('nest_tiny_jx.goog_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزةNest
خرائط الميزات features_only=True✓ (خطوات 4، 8، 16)
forward_intermediates()✓
prune_intermediate_layers()✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات✗
set_input_size()✗
dynamic_img_size=True✗
set_grad_checkpointing()✓
تلاشي معدل التعلم على مستوى الطبقات (group_matcher())✓
reset_classifier()✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (Nest مع nest_tiny عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة Model API للتفاصيل.

البنى

البنيةالمعاملات (مليون)GMACsحجم الإدخالالأوزان المُسبقة التدريب
nest_base67.7217.962240
nest_base_jx67.7217.962241
nest_small38.3510.352240
nest_small_jx38.3510.352241
nest_tiny17.065.832240
nest_tiny_jx17.065.832241

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزنحجم الإدخالأعلى 1 (%)حجم التقييمفئاترخصةالمركز
nest_base_jx.goog_in1k22483.5522241000apache-2.0timm
nest_small_jx.goog_in1k22483.1322241000apache-2.0timm
nest_tiny_jx.goog_in1k22481.4282241000apache-2.0timm
Update on GitHub