Fine-Tuning Large Language Models Using QLoRA

Prerequisites:

• Zrozumienie podstaw maszynowego uczenia się i sieci neuronowych
• Doświadczenie w dostrajaniu modeli i transfer learningu
• Znajomość dużych modeli językowych (LLMs) i ram deep learningu (np., PyTorch, TensorFlow)

Grupa docelowa

• Inżynierowie maszynowego uczenia się
• Rozwijacze AI
• Naukowcy danych

Overview:

QLoRA jest zaawansowaną techniką do dopracowywania dużych modeli językowych (LLMs) dzięki wykorzystaniu metody kwantyzacji, oferując bardziej wydajny sposób dopracowywania tych modeli bez ponoszenia ogromnych kosztów obliczeniowych. To szkolenie obejmie zarówno teoretyczne fundamenty, jak i praktyczną implementację dopracowywania LLMs za pomocą QLoRA.To prowadzone przez instruktora szkolenie na żywo (online lub na miejscu) jest skierowane do inżynierów maszynowego uczenia się, programistów AI oraz naukowców danych na poziomie średniozaawansowanym do zaawansowanym, którzy chcą nauczyć się, jak używać QLoRA do wydajnego dopracowywania dużych modeli dla konkretnych zadań i dostosowań.Po zakończeniu tego szkolenia uczestnicy będą mogli:- Zrozumieć teorię stojącą za QLoRA i technikami kwantyzacji dla LLMs.- Zaimplementować QLoRA w procesie dopracowywania dużych modeli językowych dla aplikacji specjalistycznych.- Optymalizować wydajność dopracowywania przy ograniczonych zasobach obliczeniowych za pomocą kwantyzacji.- Wdrażać i oceniać dopracowane modele w rzeczywistych aplikacjach w sposób wydajny.Format kursu- Interaktywne wykłady i dyskusje.- Wiele ćwiczeń i praktyki.- Praktyczne wdrożenie w środowisku laboratorium na żywo.Opcje dostosowywania kursu- Aby złożyć wniosek o dostosowane szkolenie dla tego kursu, prosimy o kontakt z nami w celu uzgodnień.

Course Outline:

Wprowadzenie do QLoRA i kwantyzacji- Przegląd kwantyzacji i jej roli w optymalizacji modeli- Wprowadzenie do ramki QLoRA i jej korzyści- Kluczowe różnice między QLoRA a tradycyjnymi metodami dofinansowaniaPodstawy Large Language Models (LLMs)- Wprowadzenie do LLM i ich architektury- Wyzwania dofinansowania dużych modeli w dużej skali- Jak kwantyzacja pomaga przezwyciężyć ograniczenia obliczeniowe w dofinansowaniu LLMWdrożenie QLoRA dla Fine-Tuning LLM- Konfiguracja ramki QLoRA i środowiska- Przygotowanie zestawów danych do dofinansowania QLoRA- Krok po kroku poradnik do wdrożenia QLoRA w LLM za pomocą Python i PyTorch/TensorFlowOptymalizacja wydajności Fine-Tuning z QLoRA- Jak zbilansować dokładność modelu i wydajność z kwantyzacją- Techniki zmniejszania kosztów obliczeniowych i zużycia pamięci podczas dofinansowania- Strategie dofinansowania z minimalnymi wymaganiami sprzętowymiOcena sfinalizowanych modeli- Jak ocenić skuteczność sfinalizowanych modeli- Powszechne metryki oceny dla modeli językowych- Optymalizacja wydajności modelu po sfinalizowaniu i rozwiązywanie problemówWdrażanie i skalowanie sfinalizowanych modeli- Najlepsze praktyki wdrażania zkwantyzowanych LLM w środowiskach produkcyjnych- Skalowanie wdrażania do obsługi żądań w czasie rzeczywistym- Narzędzia i ramki do wdrażania i monitorowania modeliPrzykłady z życia rzeczywistego i studia przypadku- Studium przypadku: sfinalizowanie LLM dla obsługi klienta i zadań NLP- Przykłady sfinalizowania LLM w różnych branżach, takich jak opieka zdrowotna, finanse i handel elektroniczny- Wnioski wyciągnięte z wdrożeń modeli opartych na QLoRA w życiu rzeczywistymPodsumowanie i kolejne kroki