Course Code: horovod
Duration: 7 hours
Prerequisites:
  • Zrozumienie Machine Learning, w szczególności głębokiego uczenia się
  • Znajomość bibliotek uczenia maszynowego (TensorFlow, Keras, PyTorch, Apache MXNet)
  • Doświadczenie w programowaniu Python

Publiczność

  • Programiści
  • Naukowcy zajmujący się danymi
Overview:

Horovod to platforma oprogramowania typu open source, zaprojektowana do przetwarzania szybkich i wydajnych rozproszonych modeli głębokiego uczenia się przy użyciu TensorFlow, Keras, PyTorch i Apache MXNet. Może skalować pojedynczy skrypt treningowy GPU, aby działał na wielu GPU lub hostach przy minimalnych zmianach kodu.

To prowadzone przez instruktora szkolenie na żywo (na miejscu lub zdalnie) jest przeznaczone dla programistów lub naukowców zajmujących się danymi, którzy chcą używać Horovod do uruchamiania rozproszonych szkoleń z głębokiego uczenia się i skalowania ich do równoległego działania na wielu GPU.

Pod koniec tego szkolenia uczestnicy będą mogli

  • Skonfigurować niezbędne środowisko programistyczne, aby rozpocząć prowadzenie szkoleń z zakresu głębokiego uczenia się.
  • Zainstalować i skonfigurować Horovod do trenowania modeli z TensorFlow, Keras, PyTorch i Apache MXNet.
  • Skalować szkolenie w zakresie głębokiego uczenia się za pomocą Horovod w celu uruchomienia na wielu GPU.

Format kursu

  • Interaktywny wykład i dyskusja.
  • Wiele ćwiczeń i praktyki.
  • Praktyczne wdrożenie w środowisku laboratoryjnym na żywo.

Opcje dostosowywania kursu

  • Ten kurs koncentruje się na Horovod, ale mogą być wymagane inne narzędzia programowe i frameworki, takie jak TensorFlow, Keras, PyTorch i Apache MXNet. Daj nam znać, jeśli masz określone wymagania lub preferencje.
  • Aby poprosić o niestandardowe szkolenie dla tego kursu, skontaktuj się z nami.
Course Outline:

Wprowadzenie

  • Przegląd funkcji i koncepcji Horovod
  • Zrozumienie obsługiwanych frameworków

Instalacja i konfiguracja Horovod

  • Przygotowanie środowiska hostingowego
  • Tworzenie Horovod dla TensorFlow, Keras, PyTorch i Apache MXNet
  • Uruchamianie Horovod

Uruchamianie szkolenia rozproszonego

  • Modyfikowanie i uruchamianie przykładów szkoleniowych z TensorFlow
  • Modyfikowanie i uruchamianie przykładów szkoleniowych z Keras
  • Modyfikowanie i uruchamianie przykładów szkoleniowych z PyTorch
  • Modyfikowanie i uruchamianie przykładów szkoleniowych za pomocą Apache MXNet

Optymalizacja rozproszonych procesów szkoleniowych

  • Uruchamianie współbieżnych operacji na wielu GPU
  • Dostrajanie hiperparametrów
  • Włączanie automatycznego dostrajania wydajności

Rozwiązywanie problemów

Podsumowanie i wnioski

Sites Published:

United Arab Emirates - Distributed Deep Learning with Horovod

Qatar - Distributed Deep Learning with Horovod

Egypt - Distributed Deep Learning with Horovod

Saudi Arabia - Distributed Deep Learning with Horovod

South Africa - Distributed Deep Learning with Horovod

Brasil - Distributed Deep Learning with Horovod

Canada - Distributed Deep Learning with Horovod

中国 - Distributed Deep Learning with Horovod

香港 - Distributed Deep Learning with Horovod

澳門 - Distributed Deep Learning with Horovod

台灣 - Distributed Deep Learning with Horovod

USA - Distributed Deep Learning with Horovod

Österreich - Distributed Deep Learning with Horovod

Schweiz - Distributed Deep Learning with Horovod

Deutschland - Distributed Deep Learning with Horovod

Czech Republic - Distributed Deep Learning with Horovod

Denmark - Distributed Deep Learning with Horovod

Estonia - Distributed Deep Learning with Horovod

Finland - Distributed Deep Learning with Horovod

Greece - Distributed Deep Learning with Horovod

Magyarország - Distributed Deep Learning with Horovod

Ireland - Distributed Deep Learning with Horovod

Luxembourg - Distributed Deep Learning with Horovod

Latvia - Distributed Deep Learning with Horovod

España - Distributed Deep Learning with Horovod

Italia - Distributed Deep Learning with Horovod

Lithuania - Distributed Deep Learning with Horovod

Nederland - Distributed Deep Learning with Horovod

Norway - Distributed Deep Learning with Horovod

Portugal - Distributed Deep Learning with Horovod

România - Distributed Deep Learning with Horovod

Sverige - Distributed Deep Learning with Horovod

Türkiye - Distributed Deep Learning with Horovod

Malta - Distributed Deep Learning with Horovod

Belgique - Distributed Deep Learning with Horovod

France - Distributed Deep Learning with Horovod

日本 - Distributed Deep Learning with Horovod

Australia - Distributed Deep Learning with Horovod

Malaysia - Distributed Deep Learning with Horovod

New Zealand - Distributed Deep Learning with Horovod

Philippines - Distributed Deep Learning with Horovod

Singapore - Distributed Deep Learning with Horovod

Thailand - Distributed Deep Learning with Horovod

Vietnam - Distributed Deep Learning with Horovod

India - Distributed Deep Learning with Horovod

Argentina - Distributed Deep Learning with Horovod

Chile - Distributed Deep Learning with Horovod

Costa Rica - Distributed Deep Learning with Horovod

Ecuador - Distributed Deep Learning with Horovod

Guatemala - Distributed Deep Learning with Horovod

Colombia - Distributed Deep Learning with Horovod

México - Distributed Deep Learning with Horovod

Panama - Distributed Deep Learning with Horovod

Peru - Distributed Deep Learning with Horovod

Uruguay - Distributed Deep Learning with Horovod

Venezuela - Distributed Deep Learning with Horovod

Polska - Distributed Deep Learning with Horovod

United Kingdom - Distributed Deep Learning with Horovod

South Korea - Distributed Deep Learning with Horovod

Pakistan - Distributed Deep Learning with Horovod

Sri Lanka - Distributed Deep Learning with Horovod

Bulgaria - Distributed Deep Learning with Horovod

Bolivia - Distributed Deep Learning with Horovod

Indonesia - Distributed Deep Learning with Horovod

Kazakhstan - Distributed Deep Learning with Horovod

Moldova - Distributed Deep Learning with Horovod

Morocco - Distributed Deep Learning with Horovod

Tunisia - Distributed Deep Learning with Horovod

Kuwait - Distributed Deep Learning with Horovod

Oman - Distributed Deep Learning with Horovod

Slovakia - Distributed Deep Learning with Horovod

Kenya - Distributed Deep Learning with Horovod

Nigeria - Distributed Deep Learning with Horovod

Botswana - Distributed Deep Learning with Horovod

Slovenia - Distributed Deep Learning with Horovod

Croatia - Distributed Deep Learning with Horovod

Serbia - Distributed Deep Learning with Horovod

Bhutan - Distributed Deep Learning with Horovod

Nepal - Distributed Deep Learning with Horovod

Uzbekistan - Distributed Deep Learning with Horovod