ResNet

Thể loại: CNN · Code: timm/models/resnet.py · Kiến trúc: 81 · Trọng số tiền huấn luyện: 150 (144 có kết quả trên ImageNet-1k)

Mạng lưới dư (ResNet) và các biến thể được xây dựng dựa trên cùng một lớp ResNet: tích chập nhóm ResNeXt, chú ý kênh Squeeze-and-Excitation (SE) và ECA, thân sâu / phân tầng và hạ mẫu bằng pool trung bình (các biến thể “c”, “d”, “s” và “t”), hạ mẫu khử răng cưa, cấu hình Wide ResNet và ResNet-RS.

Bài báo

• Học Dư Lượng Sâu cho Nhận Dạng Ảnh
• Túi mẹo cho phân loại hình ảnh bằng mạng nơ-ron tích chập
• Biến đổi phần dư tổng hợp cho mạng nơ-ron sâu
• Mạng Lưới Dư Thừa Rộng
• Mạng Squeeze-and-Excitation
• ECA-Net: Chú ý kênh hiệu quả cho mạng nơ-ron tích chập sâu
• Đưa mạng tích chập trở lại bất biến dịch chuyển
• Chuẩn hóa nhóm
• Xem xét lại ResNets: Chiến lược huấn luyện và mở rộng quy mô được cải thiện
• ResNet phản công: Quy trình huấn luyện cải tiến trong timm
• Học bán giám sát ở quy mô tỷ cho phân loại ảnh
• Khám phá giới hạn của tiền huấn luyện giám sát yếu
• Loại bỏ túi đồ với Chưng cất bên trong

Được tham chiếu bởi trọng số được huấn luyện trước:

• arXiv:2203.07845

Cách sử dụng

Xem Quickstart để tải trọng số được huấn luyện trước, tiền xử lý ảnh và tinh chỉnh, và Feature Extraction để sử dụng các mô hình làm bộ xương sống.

>>> import timm
>>> model = timm.create_model('resnet50.a1_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Hỗ trợ API mô hình

✓ được hỗ trợ, ✓ (vuông) chỉ hoạt động với kích thước vuông, ✗ không được hỗ trợ, – không cần thiết (mô hình đã chấp nhận bất kỳ kích thước đầu vào nào). Được kiểm tra bằng cách chạy từng tính năng trên một mô hình được khởi tạo ngẫu nhiên (ResNet với resnet10t ở 176), các kiến trúc khác cùng lớp được kỳ vọng sẽ hoạt động tương tự. Xem trang Model API để biết chi tiết.

Kiến trúc

GMACs và số lượng tham số được tính cho kích thước đầu vào và bộ phân loại mặc định của mỗi kiến trúc, từ kết quả benchmark.

Trọng số được huấn luyện trước

Top-1 là độ chính xác kiểm tra trên ImageNet-1k từ results-imagenet.csv ở kích thước eval được liệt kê, - nếu trọng số không có kết quả ImageNet-1k (ví dụ trọng số pretraining hoặc image-text). Classes là kích thước của bộ phân loại được huấn luyện trước, không có đối với các trọng số không có bộ phân loại.

Trọng số được nhóm theo nguồn: bài báo hoặc nguồn gốc được nêu trong cấu hình tiền huấn luyện, nếu không thì một tổ chức Hub khác với timm, nếu không thì phần đầu của thẻ tiền huấn luyện (architecture.tag). Các nguồn chỉ có một trọng số được liệt kê dưới other.

ResNet phản công

Cấu hình được huấn luyện trước tham chiếu đến ResNet strikes back: An improved training procedure in timm.

huggingface/pytorch-image-models

Nguồn: github.com/huggingface/pytorch-image-models

cv.gluon.ai

Nguồn: cv.gluon.ai/model_zoo/classification.html

pytorch/vision

Nguồn: github.com/pytorch/vision

facebookresearch/semi-supervised-ImageNet1K-models

Nguồn: github.com/facebookresearch/semi-supervised-ImageNet1K-models

tf tags

miil tags

facebookresearch/WSL-Images

Nguồn: github.com/facebookresearch/WSL-Images

sw tags

Khác