Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems

Prerequisites:

• Zrozumienie pojęć przetwarzania języka naturalnego (NLP)
• Doświadczenie z modelami językowymi opartymi na transformatorach
• Znałość Python oraz podstawowych procesów uczenia maszynowego

Grupa docelowa

• Inżynierowie NLP
• Zespoły zarządzania wiedzą

Overview:

Fine-Tuning dla systemów generacji z uzupełnieniem pobierania (RAG) jest procesem optymalizacji sposobu, w jaki duże modele językowe pobierają i generują odpowiednie informacje z zewnętrznych źródeł dla aplikacji przedsiębiorstw.

To prowadzone przez instruktora szkolenie na żywo (online lub stacjonarne) jest przeznaczone dla inżynierów NLP na poziomie średnim oraz zespołów zarządzania wiedzą, którzy chcą dostroić wyzwalacze RAG, aby poprawić wydajność w przypadku odpowiedzi na pytania, wyszukiwania w przedsiębiorstwie i zastosowań dotyczących skracania.

Po zakończeniu tego szkolenia uczestnicy będą mogli:

• Zrozumieć architekturę i przepływ pracy systemów RAG.
• Dostosować komponenty pobierania i generowania do danych specyficznych dla danej dziedziny.
• Oceniać wydajność RAG i wprowadzać poprawki za pomocą technik PEFT.
• Wdrażać zoptymalizowane systemy RAG do użycia wewnętrznego lub produkcyjnego.

Format kursu

• Interaktywna wykład i dyskusja.
• Wiele ćwiczeń i praktyki.
• Ręczna implementacja w środowisku live-lab.

Opcje dostosowania kursu

• Aby poprosić o dostosowane szkolenie dla tego kursu, prosimy o kontakt, aby ułożyć.

Course Outline:

Wprowadzenie do Generowania z Uzupełnieniem Odbiorczym (RAG) Czym jest RAG i dlaczego jest istotne dla sztucznej inteligencji w przedsiębiorstwach Składniki systemu RAG: odzyskiwacz, generator, magazyn dokumentów Porównanie z niezależnymi modelami LLM i wyszukiwaniem wektorowymUstawienie potoku RAG Instalowanie i konfigurowanie Haystack lub podobnych ram Wprowadzanie i przetwarzanie dokumentów Łączenie odzyskiwaczy z bazami danych wektorowymi (np. FAISS, Pinecone)Fine-Tuning Odzyskiwacz Trenowanie gęstych odzyskiwaczy za pomocą danych specyficznych dla dziedziny Używanie transformatorów zdaniowych i uczenia kontrastowego Ocena jakości odzyskiwacza z dokładnością top-kFine-Tuning Generator Wybór modeli bazowych (np. BART, T5, FLAN-T5) Dostosowanie instrukcji vs. nadzorowane dostosowywanie Metody LoRA i PEFT dla efektywnych aktualizacjiOcena i optymalizacja Metryki do oceny wydajności RAG (np. BLEU, EM, F1) Opóźnienie, jakość odzyskiwania i redukcja halucynacji Śledzenie eksperymentów i stopniowe doskonalenieWdrożenie i integracja w rzeczywistym świecie Wdrażanie RAG w wewnętrznych silnikach wyszukiwania i chatbotach Zagadnienia bezpieczeństwa, dostępu do danych i zarządzania Integracja z API, panelami sterowania lub portalami wiedzyPrzykłady zastosowań i najlepsze praktyki Przypadki użycia w przedsiębiorstwach w finansach, opiece zdrowotnej i prawie Zarządzanie zmianą dziedziny i aktualizacjami bazy wiedzy Przyszłe kierunki w systemach LLM z uzupełnieniem odzyskiwaniaPodsumowanie i następne kroki