Course Code: dfinetunedmp
Duration: 21 hours
Prerequisites:
  • Dobre zrozumienie procesów uczenia maszynowego
  • Doświadczenie w dostrajaniu modeli ML
  • Znajomość zasad DevOps lub MLOps

Publiczność

  • Inżynierowie DevOps
  • Praktycy MLOps
  • Specjaliści ds. wdrażania sztucznej inteligencji
Overview:

Deploying Fine-Tuned Models in Production koncentruje się na praktycznych strategiach i narzędziach wymaganych do integracji precyzyjnie dostrojonych modeli ze skalowalnymi, rzeczywistymi aplikacjami. Uczestnicy nauczą się optymalizować modele pod kątem wydajności, zapewnienia monitorowania i bezpieczeństwa oraz radzenia sobie z wyzwaniami w środowiskach produkcyjnych.

To prowadzone przez instruktora szkolenie na żywo (online lub na miejscu) jest przeznaczone dla zaawansowanych profesjonalistów, którzy chcą niezawodnie i wydajnie wdrażać precyzyjnie dostrojone modele.

Po zakończeniu tego szkolenia uczestnicy będą w stanie

  • Zrozumieć wyzwania związane z wdrażaniem precyzyjnie dostrojonych modeli do produkcji.
  • Konteneryzować i wdrażać modele przy użyciu narzędzi takich jak Docker i Kubernetes.
  • Wdrożyć monitorowanie i rejestrowanie wdrożonych modeli.
  • Optymalizacja modeli pod kątem opóźnień i skalowalności w rzeczywistych scenariuszach.

Format kursu

  • Interaktywny wykład i dyskusja.
  • Wiele ćwiczeń i praktyki.
  • Praktyczne wdrożenie w środowisku laboratoryjnym na żywo.

Opcje dostosowywania kursu

  • Aby poprosić o spersonalizowane szkolenie dla tego kursu, skontaktuj się z nami w celu ustalenia szczegółów.
Course Outline:

Wprowadzenie do wdrożenia produkcyjnego

  • Kluczowe wyzwania związane z wdrażaniem dopracowanych modeli
  • Różnice między środowiskami programistycznymi i produkcyjnymi
  • Narzędzia i platformy do wdrażania modeli

Przygotowanie modeli do wdrożenia

  • Eksportowanie modeli w standardowych formatach (ONNX, TensorFlow SavedModel itp.)
  • Optymalizacja modeli pod kątem opóźnień i przepustowości
  • Testowanie modeli na skrajnych przypadkach i rzeczywistych danych

Konteneryzacja dla wdrażania modeli

  • Wprowadzenie do Docker
  • Tworzenie obrazów Docker dla modeli ML
  • Najlepsze praktyki dotyczące bezpieczeństwa i wydajności kontenerów

Skalowanie wdrożeń za pomocą Kubernetes

  • Wprowadzenie do Kubernetes dla obciążeń AI
  • Konfigurowanie klastrów Kubernetes na potrzeby hostingu modeli
  • Równoważenie obciążenia i skalowanie poziome

Monitorowanie i konserwacja modeli

  • Wdrażanie monitorowania za pomocą Prometheus i Grafana
  • Zautomatyzowane rejestrowanie w celu śledzenia błędów i wydajności
  • Przekwalifikowanie potoków do dryfowania i aktualizacji modeli

Zapewnienie bezpieczeństwa w produkcji

  • Zabezpieczanie interfejsów API do wnioskowania o modelach
  • Mechanizmy uwierzytelniania i autoryzacji
  • Rozwiązywanie problemów związanych z prywatnością danych

Studia przypadków i praktyczne laboratoria

  • Wdrażanie modelu analizy nastrojów
  • Skalowanie usługi tłumaczenia maszynowego
  • Wdrażanie monitorowania modeli klasyfikacji obrazów

Podsumowanie i kolejne kroki

Sites Published:

United Arab Emirates - Deploying Fine-Tuned Models in Production

Qatar - Deploying Fine-Tuned Models in Production

Egypt - Deploying Fine-Tuned Models in Production

Saudi Arabia - Deploying Fine-Tuned Models in Production

South Africa - Deploying Fine-Tuned Models in Production

Brasil - Deploying Fine-Tuned Models in Production

Canada - Deploying Fine-Tuned Models in Production

中国 - Deploying Fine-Tuned Models in Production

香港 - Deploying Fine-Tuned Models in Production

澳門 - Deploying Fine-Tuned Models in Production

台灣 - Deploying Fine-Tuned Models in Production

USA - Deploying Fine-Tuned Models in Production

Österreich - Deploying Fine-Tuned Models in Production

Schweiz - Deploying Fine-Tuned Models in Production

Deutschland - Deploying Fine-Tuned Models in Production

Czech Republic - Deploying Fine-Tuned Models in Production

Denmark - Deploying Fine-Tuned Models in Production

Estonia - Deploying Fine-Tuned Models in Production

Finland - Deploying Fine-Tuned Models in Production

Greece - Deploying Fine-Tuned Models in Production

Magyarország - Deploying Fine-Tuned Models in Production

Ireland - Deploying Fine-Tuned Models in Production

Luxembourg - Deploying Fine-Tuned Models in Production

Latvia - Deploying Fine-Tuned Models in Production

España - Deploying Fine-Tuned Models in Production

Italia - Deploying Fine-Tuned Models in Production

Lithuania - Deploying Fine-Tuned Models in Production

Nederland - Deploying Fine-Tuned Models in Production

Norway - Deploying Fine-Tuned Models in Production

Portugal - Deploying Fine-Tuned Models in Production

România - Deploying Fine-Tuned Models in Production

Sverige - Deploying Fine-Tuned Models in Production

Türkiye - Deploying Fine-Tuned Models in Production

Malta - Deploying Fine-Tuned Models in Production

Belgique - Deploying Fine-Tuned Models in Production

France - Deploying Fine-Tuned Models in Production

日本 - Deploying Fine-Tuned Models in Production

Australia - Deploying Fine-Tuned Models in Production

Malaysia - Deploying Fine-Tuned Models in Production

New Zealand - Deploying Fine-Tuned Models in Production

Philippines - Deploying Fine-Tuned Models in Production

Singapore - Deploying Fine-Tuned Models in Production

Thailand - Deploying Fine-Tuned Models in Production

Vietnam - Deploying Fine-Tuned Models in Production

India - Deploying Fine-Tuned Models in Production

Argentina - Deploying Fine-Tuned Models in Production

Chile - Deploying Fine-Tuned Models in Production

Costa Rica - Deploying Fine-Tuned Models in Production

Ecuador - Deploying Fine-Tuned Models in Production

Guatemala - Deploying Fine-Tuned Models in Production

Colombia - Deploying Fine-Tuned Models in Production

México - Deploying Fine-Tuned Models in Production

Panama - Deploying Fine-Tuned Models in Production

Peru - Deploying Fine-Tuned Models in Production

Uruguay - Deploying Fine-Tuned Models in Production

Venezuela - Deploying Fine-Tuned Models in Production

Polska - Deploying Fine-Tuned Models in Production

United Kingdom - Deploying Fine-Tuned Models in Production

South Korea - Deploying Fine-Tuned Models in Production

Pakistan - Deploying Fine-Tuned Models in Production

Sri Lanka - Deploying Fine-Tuned Models in Production

Bulgaria - Deploying Fine-Tuned Models in Production

Bolivia - Deploying Fine-Tuned Models in Production

Indonesia - Deploying Fine-Tuned Models in Production

Kazakhstan - Deploying Fine-Tuned Models in Production

Moldova - Deploying Fine-Tuned Models in Production

Morocco - Deploying Fine-Tuned Models in Production

Tunisia - Deploying Fine-Tuned Models in Production

Kuwait - Deploying Fine-Tuned Models in Production

Oman - Deploying Fine-Tuned Models in Production

Slovakia - Deploying Fine-Tuned Models in Production

Kenya - Deploying Fine-Tuned Models in Production

Nigeria - Deploying Fine-Tuned Models in Production

Botswana - Deploying Fine-Tuned Models in Production

Slovenia - Deploying Fine-Tuned Models in Production

Croatia - Deploying Fine-Tuned Models in Production

Serbia - Deploying Fine-Tuned Models in Production

Bhutan - Deploying Fine-Tuned Models in Production

Nepal - Deploying Fine-Tuned Models in Production

Uzbekistan - Deploying Fine-Tuned Models in Production