Introduction to Large Language Models (LLMs)

• Zrozumienie przetwarzania języka naturalnego i głębokiego uczenia się
• Doświadczenie z Python i PyTorch lub TensorFlow
• Podstawowe doświadczenie w programowaniu

Publiczność

• Programiści
• Entuzjaści NLP
• Naukowcy zajmujący się danymi

Large Language Models (LLMs) to modele głębokich sieci neuronowych, które mogą generować teksty w języku naturalnym na podstawie danych wejściowych lub kontekstu. Są one trenowane na dużych ilościach danych tekstowych z różnych dziedzin i źródeł i mogą uchwycić wzorce składniowe i semantyczne języka naturalnego. LLM osiągnęły imponujące wyniki w różnych zadaniach związanych z językiem naturalnym, takich jak podsumowywanie tekstu, odpowiadanie na pytania, generowanie tekstu i inne.

To prowadzone przez instruktora szkolenie na żywo (na miejscu lub zdalnie) jest przeznaczone dla początkujących i średnio zaawansowanych programistów, którzy chcą korzystać z dużych modeli językowych do różnych zadań związanych z językiem naturalnym.

Pod koniec tego szkolenia uczestnicy będą mogli

• Skonfigurować środowisko programistyczne zawierające popularny LLM.
• Stworzyć podstawowy LLM i dostroić go na niestandardowym zestawie danych.
• Używać LLM do różnych zadań związanych z językiem naturalnym, takich jak podsumowywanie tekstu, odpowiadanie na pytania, generowanie tekstu i inne.
• Debuguj i oceniaj LLM za pomocą narzędzi takich jak TensorBoard, PyTorch Lightning i Hugging Face Datasets.

Format kursu

• Interaktywny wykład i dyskusja.
• Wiele ćwiczeń i praktyki.
• Praktyczne wdrożenie w środowisku laboratoryjnym na żywo.

Opcje dostosowywania kursu

• Aby poprosić o spersonalizowane szkolenie dla tego kursu, skontaktuj się z nami w celu ustalenia szczegółów.

Wprowadzenie

• Czym są Large Language Models (LLMs)?
• LLM a tradycyjne modele NLP
• Przegląd funkcji i architektury LLM
• Wyzwania i ograniczenia modeli LLM

Zrozumienie modeli LLM

• Cykl życia modelu LLM
• Jak działa LLM
• Główne komponenty LLM: koder, dekoder, uwaga, osadzanie itp.

Pierwsze kroki

• Konfiguracja środowiska programistycznego
• Instalowanie LLM jako narzędzia programistycznego, np. Go ogle Colab, Hugging Face

Praca z LLM

• Eksplorowanie dostępnych opcji LLM
• Tworzenie i używanie LLM
• Dostrajanie LLM na niestandardowym zestawie danych

Podsumowanie tekstu

• Zrozumienie zadania podsumowywania tekstu i jego zastosowań
• Używanie LLM do ekstrakcyjnego i abstrakcyjnego podsumowywania tekstu
• Ocena jakości wygenerowanych podsumowań przy użyciu wskaźników takich jak ROUGE, BLEU itp.

Odpowiadanie na pytania

• Zrozumienie zadania odpowiadania na pytania i jego zastosowań
• Wykorzystanie LLM do odpowiadania na pytania w domenie otwartej i zamkniętej
• Ocena dokładności wygenerowanych odpowiedzi przy użyciu wskaźników takich jak F1, EM itp.

Generowanie tekstu

• Zrozumienie zadania generowania tekstu i jego zastosowań
• Wykorzystanie LLM do warunkowego i bezwarunkowego generowania tekstu
• Kontrolowanie stylu, tonu i treści generowanych tekstów przy użyciu parametrów takich jak temperatura, top-k, top-p itp.

Integracja LLM z innymi frameworkami i platformami

• Używanie LLM z PyTorch lub TensorFlow
• Używanie LLM z Flask lub Streamlit
• Używanie LLM z Google Cloud lub AWS

Rozwiązywanie problemów

• Zrozumienie typowych błędów i usterek w LLM
• Używanie TensorBoard do monitorowania i wizualizacji procesu uczenia
• Korzystanie z PyTorch Lightning w celu uproszczenia kodu szkoleniowego i poprawy wydajności
• Używanie Hugging Face Datasets do ładowania i wstępnego przetwarzania danych

Podsumowanie i kolejne kroki