Low-Power AI: Optimizing Edge AI for Energy-Efficient Devices

• Zrozumienie modeli uczenia głębokiego
• Doświadczenie z systemami wbudowanymi lub wdrażaniem sztucznej inteligencji
• Podstawowa znajomość technik optymalizacji modeli

Odbiorcy

• Inżynierowie AI
• Deweloperzy systemów wbudowanych
• Inżynierowie sprzętu

Low-power AI koncentruje się na optymalizacji modeli AI w celu wydajnego działania na urządzeniach brzegowych o ograniczonych zasobach i zasilanych bateryjnie.

To prowadzone przez instruktora szkolenie na żywo (na miejscu lub zdalnie) jest przeznaczone dla zaawansowanych inżynierów AI, programistów wbudowanych i inżynierów sprzętu, którzy chcą wdrożyć modele AI na urządzeniach o niskim poborze mocy przy jednoczesnym zminimalizowaniu zużycia energii.

Pod koniec tego szkolenia uczestnicy będą w stanie

• Zrozumieć wyzwania związane z uruchamianiem sztucznej inteligencji na energooszczędnych urządzeniach.
• Zoptymalizować sieci neuronowe pod kątem wnioskowania o niskim poborze mocy.
• Wykorzystywać techniki kwantyzacji, przycinania i kompresji modeli.
• Wdrażać modele AI na urządzeniach brzegowych przy minimalnym zużyciu energii.

Format kursu

• Interaktywny wykład i dyskusja.
• Wiele ćwiczeń i praktyki.
• Praktyczne wdrożenie w środowisku laboratoryjnym na żywo.

Opcje dostosowywania kursu

• Aby poprosić o spersonalizowane szkolenie dla tego kursu, skontaktuj się z nami w celu ustalenia szczegółów.

Wprowadzenie do sztucznej inteligencji o niskim poborze mocy

• Przegląd sztucznej inteligencji w systemach wbudowanych
• Wyzwania związane z wdrażaniem sztucznej inteligencji na urządzeniach o niskim poborze mocy
• Energooszczędne aplikacje AI

Techniki optymalizacji modeli

• Kwantyzacja i jej wpływ na wydajność
• Przycinanie i dzielenie wag
• Destylacja wiedzy w celu uproszczenia modelu

Wdrażanie modeli AI na sprzęcie o niskim poborze mocy

• Korzystanie z TensorFlow Lite i ONNX Runtime dla brzegowej sztucznej inteligencji
• Optymalizacja modeli sztucznej inteligencji za pomocą NVIDIA TensorRT
• Akceleracja sprzętowa z Coral TPU i Jetson Nano

Zmniejszenie zużycia energii w aplikacjach AI

• Profilowanie mocy i wskaźniki wydajności
• Architektury obliczeniowe o niskim poborze mocy
• Dynamiczne skalowanie mocy i adaptacyjne techniki wnioskowania

Studia przypadków i zastosowania w świecie rzeczywistym

• Zasilane bateryjnie urządzenia IoT wykorzystujące sztuczną inteligencję
• AI o niskim poborze mocy dla opieki zdrowotnej i urządzeń ubieralnych
• Aplikacje inteligentnego miasta i monitorowania środowiska

Najlepsze praktyki i przyszłe trendy

• Optymalizacja brzegowej sztucznej inteligencji pod kątem zrównoważonego rozwoju
• Postępy w dziedzinie energooszczędnego sprzętu AI
• Przyszły rozwój badań nad sztuczną inteligencją o niskim poborze mocy

Podsumowanie i kolejne kroki