LowFormer

الفئة: Efficient/Mobile · الكود: timm/models/lowformer.py · الهندسات: 8 · الأوزان المُسبقة التدريب: 7 (0 منها بنتائج ImageNet-1k)

LowFormer هو هيكل تحويلي تجميعي مصمم لكفاءة الأجهزة (يُقاس من خلال معدل الإنتاجية وزمن الاستجابة بدلاً من عمليات الضرب والإضافة). أما متغيرات GPU الحافة E1 / E2 / E3 فهي من امتداد المجلة.

الأوراق البحثية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('lowformer_b0.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزة	`LowFormer`
خرائط الميزات `features_only=True`	✓ (خطوات 4، 8، 16، 32)
`forward_intermediates()`	✓
`prune_intermediate_layers()`	✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات	✓
`set_input_size()`	–
`dynamic_img_size=True`	–
`set_grad_checkpointing()`	✓
تلاشي معدل التعلم على مستوى الطبقات (`group_matcher()`)	✓
`reset_classifier()`	✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيّأ عشوائياً (LowFormer مع lowformer_b0 عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة واجهة برمجة النموذج للتفاصيل.

البنى

البنية	المعاملات (مليون)	GMACs	حجم الإدخال	الأوزان المُسبقة التدريب
`lowformer_b0`	14.10	-	224	1
`lowformer_b1`	17.94	-	224	1
`lowformer_b2`	44.99	-	224	0
`lowformer_b3`	57.09	-	224	1
`lowformer_b15`	33.98	-	224	1
`lowformer_e1`	18.90	-	224	1
`lowformer_e2`	22.75	-	224	1
`lowformer_e3`	41.32	-	224	1

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزن	حجم الإدخال	أعلى 1 (%)	حجم التقييم	فئات	رخصة	المركز
`lowformer_b0.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b1.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b3.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_b15.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e1.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e2.in1k`	224	-	-	1000	apache-2.0	timm
`lowformer_e3.in1k`	224	-	-	1000	apache-2.0	timm

الاستشهاد

@article{Nottebaum2024LowFormerHE,
  title={LowFormer: Hardware Efficient Design for Convolutional Transformer Backbones},
  author={Moritz Nottebaum and Matteo Dunnhofer and Christian Micheloni},
  journal={2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)},
  year={2024},
  pages={7008-7018},
}

@article{Nottebaum2026BeyondMACs,
  author  = {Nottebaum, Moritz and Dunnhofer, Matteo and Micheloni, Christian},
  title   = {Beyond {MAC}s: Hardware Efficient Architecture Design for Vision Backbones},
  journal = {International Journal of Computer Vision},
  year    = {2026},
  volume  = {134},
  number  = {6},
  pages   = {295},
  doi     = {10.1007/s11263-026-02873-5},
  url     = {https://doi.org/10.1007/s11263-026-02873-5}
}

Update on GitHub