Fine-Tuning Lightweight Models for Edge AI Deployment

Prerequisites:

• Zrozumienie podstaw uczenia maszynowego
• Doświadczenie z Python i ramami głębokiego uczenia
• Zapoznanie z systemami osadzonymi lub ograniczeniami urządzeń krawędziowych

Grupa docelowa

• Deweloperzy sztucznej inteligencji osadzonej
• Specjaliści od obliczeń krawędziowych
• Inżynierowie uczenia maszynowego skupieni na wdrażaniu krawędziowym

Overview:

Dostosowanie modeli jest procesem dostosowywania pre-trenowanych modeli do określonych zadań lub środowisk.To szkolenie prowadzone przez instruktora (online lub stacjonarne) jest skierowane do zaawansowanych developerów sztucznej inteligencji wbudowanej oraz specjalistów obliczeń na krawędzi, którzy chcą dostosowywać i optymalizować lekki AI modele do wdrożenia na urządzeniach o ograniczonych zasobach.Na zakończenie tego szkolenia uczestnicy będą mogli:

• Wybierać i dostosowywać pre-trenowane modele odpowiednie do wdrożenia na krawędzi.
• Zastosowywać kwantyzację, przycinanie oraz inne techniki kompresji, aby zmniejszyć rozmiar modeli i opóźnienia.
• Dostosowywać modele za pomocą transfer learning do uzyskania wydajności dostosowanej do zadania.
• Wdrażać optymalizowane modele na prawdziwych platformach sprzętowych krawędzi.

Format kursu

• Interaktywne wykłady i dyskusje.
• Dużo ćwiczeń i praktyki.
• Ręczne wdrożenie w środowisku live-lab.

Opcje dostosowywania kursu

• Aby poprosić o dostosowane szkolenie dla tego kursu, prosimy o kontakt w celu uzgodnienia.

Course Outline:

Wprowadzenie do Edge AI i optymalizacji modeli- Zrozumienie obliczeń na krawędzi i obciążeń AI- Kompromisy: wydajność vs. ograniczenia zasobów- Przegląd strategii optymalizacji modeliWybór modelu i pre-trainingu- Wybieranie lekkości modeli (np. MobileNet, TinyML, SqueezeNet)- Zrozumienie architektury modeli nadających się do urządzeń na krawędzi- Używanie pre-trainowanych modeli jako bazyFine-Tuning i transfer learning- Zasady transfer learning- Dostosowywanie modeli do niestandardowych zbiorów danych- Praktyczne przepływy dostrajaniaKwantyzacja modeli- Techniki kwantyzacji po-trainingowej- Kwantyzacja-aware training- Ocena i kompromisyPrzycinanie i kompresja modeli- Strategie przycinania (strukturowane vs. niesstrukturowane)- Kompresja i wspólne udostępnianie wag- Benchmarking skompresowanych modeliRamy i narzędzia wdrażania- TensorFlow Lite, PyTorch Mobile, ONNX- Kompatybilność z oprogramowaniem na krawędzi i środowiskami uruchomieniowymi- Łańcuchy narzędzi do wdrażania na wielu platformachPrzykładowe wdrażanie- Wdrażanie do Raspberry Pi, Jetson Nano i urządzeń mobilnych- Profilowanie i benchmarking- Diagnostykowanie problemów z wdrażaniemPodsumowanie i kolejne kroki