- Zrozumienie dużych modeli językowych i interfejsów opartych na zapyciach
- Doświadczenie w budowaniu aplikacji LLM z użyciem Python
- Znajomość integracji API i wdrożeń opartych na chmurze
Grupa docelowa
- Programiści AI
- Architekci aplikacji i rozwiązań
- Menadżerowie technologiczni produktów pracujący z narzędziami LLM
Bezpieczeństwo aplikacji LLM jest dyscypliną projektowania, budowania i utrzymywania bezpiecznych, godnych zaufania i zgodnych z polityką systemów przy użyciu dużych modeli językowych.
To prowadzone przez instruktora szkolenie na żywo (online lub stacjonarne) jest skierowane do developerów AI, architektów i menedżerów produktów na poziomie średniozaawansowanym do zaawansowanym, którzy chcą identyfikować i łagodzić ryzyko związane z aplikacjami zasilanymi przez LLM, w tym wstrzykiwanie poleceń, wyciek danych i niezfiltrowane wyjście, jednocześnie wdrażając kontrolę bezpieczeństwa, taką jak walidacja wejścia, nadzór człowieka w pętli i ograniczenia wyjścia.
Na zakończenie tego szkolenia uczestnicy będą w stanie:
- Zrozumieć podstawowe wulnerabilności systemów opartych na LLM.
- Zastosować zasady bezpiecznego projektowania w architekturze aplikacji LLM.
- Używać narzędzi, takich jak Guardrails AI i LangChain do walidacji, filtrowania i bezpieczeństwa.
- Zintegrować techniki, takie jak izolowanie, red teaming i przegląd człowieka w pętli, do produkcji gotowych do rynku.
Format kursu
- Interaktywna wykład i dyskusja.
- Wiele ćwiczeń i praktyki.
- Ręczne wdrożenie w środowisku live-lab.
Opcje dostosowania kursu
- Aby poprosić o dostosowane szkolenie dla tego kursu, skontaktuj się z nami, aby umówić.
- Jak buduje się, wdraża i dostępuje do LLMs za pośrednictwem API
- Kluczowe komponenty w stosach aplikacji LLM (np. wpisy, agenci, pamięć, API)
- Gdzie i jak powstają problemy z bezpieczeństwem w realnym użyciu
- Co to jest iniekcja wpisów i dlaczego jest niebezpieczna
- Scenariusze bezpośredniej i pośredniej iniekcji wpisów
- Techniki przebicia ominięcia filtrów bezpieczeństwa
- Strategie wykrywania i przeciwdziałania
- Niechciane ujawnienie danych poprzez odpowiedzi
- Wycieki PII i nieprawidłowe użycie pamięci modelu
- Projektowanie wpisów z uwzględnieniem prywatności i generacja z wzmocnionym pobieraniem (RAG)
- Używanie Guardrails AI do filtrowania i weryfikacji treści
- Definiowanie schematów i ograniczeń wyjść
- Monitorowanie i logowanie niebezpiecznych wyjść
- Gdzie i kiedy wprowadzać nadzór człowieka
- Kolejki aprobaty, progi punktowania, obsługa rezerwowego
- Kalibrowanie zaufania i rola wyjaśnialności
- Najmniejsze uprawnienia i sandboxing dla wywołań API i agentów
- Ograniczenie szybkości, ograniczenie przepustowości i wykrywanie nadużyć
- Wytrwałe łączenie z LangChain i izolacja wpisów
- Zapewnienie możliwości audytu wyjść LLM
- Podtrzymywanie śledzenia i kontroli wersji/wpisów
- Dostosowanie się do wewnętrznych polityk bezpieczeństwa i wymagań regulacyjnych
United Arab Emirates - Building Secure and Responsible LLM Applications
Qatar - Building Secure and Responsible LLM Applications
Egypt - Building Secure and Responsible LLM Applications
Saudi Arabia - Building Secure and Responsible LLM Applications
South Africa - Building Secure and Responsible LLM Applications
Brasil - Building Secure and Responsible LLM Applications
Canada - Building Secure and Responsible LLM Applications
中国 - Building Secure and Responsible LLM Applications
香港 - Building Secure and Responsible LLM Applications
澳門 - Building Secure and Responsible LLM Applications
台灣 - Building Secure and Responsible LLM Applications
USA - Building Secure and Responsible LLM Applications
Österreich - Building Secure and Responsible LLM Applications
Schweiz - Building Secure and Responsible LLM Applications
Deutschland - Building Secure and Responsible LLM Applications
Czech Republic - Building Secure and Responsible LLM Applications
Denmark - Building Secure and Responsible LLM Applications
Estonia - Building Secure and Responsible LLM Applications
Finland - Building Secure and Responsible LLM Applications
Greece - Building Secure and Responsible LLM Applications
Magyarország - Building Secure and Responsible LLM Applications
Ireland - Building Secure and Responsible LLM Applications
Luxembourg - Building Secure and Responsible LLM Applications
Latvia - Building Secure and Responsible LLM Applications
España - Building Secure and Responsible LLM Applications
Italia - Building Secure and Responsible LLM Applications
Lithuania - Building Secure and Responsible LLM Applications
Nederland - Building Secure and Responsible LLM Applications
Norway - Building Secure and Responsible LLM Applications
Portugal - Building Secure and Responsible LLM Applications
România - Building Secure and Responsible LLM Applications
Sverige - Building Secure and Responsible LLM Applications
Türkiye - Building Secure and Responsible LLM Applications
Malta - Building Secure and Responsible LLM Applications
Belgique - Building Secure and Responsible LLM Applications
France - Building Secure and Responsible LLM Applications
日本 - Building Secure and Responsible LLM Applications
Australia - Building Secure and Responsible LLM Applications
Malaysia - Building Secure and Responsible LLM Applications
New Zealand - Building Secure and Responsible LLM Applications
Philippines - Building Secure and Responsible LLM Applications
Singapore - Building Secure and Responsible LLM Applications
Thailand - Building Secure and Responsible LLM Applications
Vietnam - Building Secure and Responsible LLM Applications
India - Building Secure and Responsible LLM Applications
Argentina - Building Secure and Responsible LLM Applications
Chile - Building Secure and Responsible LLM Applications
Costa Rica - Building Secure and Responsible LLM Applications
Ecuador - Building Secure and Responsible LLM Applications
Guatemala - Building Secure and Responsible LLM Applications
Colombia - Building Secure and Responsible LLM Applications
México - Building Secure and Responsible LLM Applications
Panama - Building Secure and Responsible LLM Applications
Peru - Building Secure and Responsible LLM Applications
Uruguay - Building Secure and Responsible LLM Applications
Venezuela - Building Secure and Responsible LLM Applications
Polska - Building Secure and Responsible LLM Applications
United Kingdom - Building Secure and Responsible LLM Applications
South Korea - Building Secure and Responsible LLM Applications
Pakistan - Building Secure and Responsible LLM Applications
Sri Lanka - Building Secure and Responsible LLM Applications
Bulgaria - Building Secure and Responsible LLM Applications
Bolivia - Building Secure and Responsible LLM Applications
Indonesia - Building Secure and Responsible LLM Applications
Kazakhstan - Building Secure and Responsible LLM Applications
Moldova - Building Secure and Responsible LLM Applications
Morocco - Building Secure and Responsible LLM Applications
Tunisia - Building Secure and Responsible LLM Applications
Kuwait - Building Secure and Responsible LLM Applications
Oman - Building Secure and Responsible LLM Applications
Slovakia - Building Secure and Responsible LLM Applications
Kenya - Building Secure and Responsible LLM Applications
Nigeria - Building Secure and Responsible LLM Applications
Botswana - Building Secure and Responsible LLM Applications
Slovenia - Building Secure and Responsible LLM Applications
Croatia - Building Secure and Responsible LLM Applications
Serbia - Building Secure and Responsible LLM Applications
Bhutan - Building Secure and Responsible LLM Applications
Nepal - Building Secure and Responsible LLM Applications
Uzbekistan - Building Secure and Responsible LLM Applications