Course Code: cudatocngpu
Duration: 21 hours
Prerequisites:
  • Doświadczenie w programowaniu z CUDA lub aplikacjami opartymi na GPU
  • Zrozumienie modeli pamięci GPU i jądra obliczeniowych
  • Znałość wdrażania lub przyspieszania modeli AI

Grupa docelowa

  • Programiści GPU
  • Architekci systemów
  • Specjaliści ds. portowania
Overview:
Migrating CUDA Applications to Chinese GPU Architectures
Course Outline:

Przegląd chińskiego ekosystemu AI GPU

  • Porównanie Huawei Ascend, Biren, Cambricon MLU
  • CUDA vs CANN, Biren SDK i modele BANGPy
  • Trendy branżowe i ekosystemy dostawców

Przygotowanie do Migracji

  • Ocena bazy kodowej CUDA
  • Wybieranie platform docelowych i wersji SDK
  • Instalacja łańcucha narzędzi i konfiguracja środowiska

Techniki translacji kodu

  • Przenoszenie dostępu do pamięci i logiki jądra CUDA
  • Mapowanie modeli siatki obliczeń/wątków
  • Opcje automatycznej vs ręcznej translacji

Implementacje specyficzne dla platformy

  • Używanie operacji Huawei CANN i niestandardowych jądra
  • Przeprowadzanie konwersji za pomocą Biren SDK
  • Ponowne budowanie modeli z BANGPy (Cambricon)

Testowanie i optymalizacja międzyplatformowa

  • Profilowanie wykonania na każdej platformie docelowej
  • Regulacja pamięci i porównywanie równoległego wykonywania
  • Śledzenie wydajności i iteracja

Zarządzanie mieszanymi środowiskami GPU

  • Hybrydowe wdrożenia z wieloma architekturami
  • Strategie awaryjne i wykrywanie urządzeń
  • Warstwy abstrakcji dla łatwości utrzymania kodu

Studia przypadku i najlepsze praktyki

  • Przenoszenie modeli widzenia/NLP do Ascend lub Cambricon
  • Modernizacja ścieżek inferencji na klasterach Biren
  • Radzenie sobie z niezgodnościami wersji i lukami w API

Podsumowanie i następne kroki

Sites Published:

United Arab Emirates - Migrating CUDA Applications to Chinese GPU Architectures

Qatar - Migrating CUDA Applications to Chinese GPU Architectures

Egypt - Migrating CUDA Applications to Chinese GPU Architectures

Saudi Arabia - Migrating CUDA Applications to Chinese GPU Architectures

South Africa - Migrating CUDA Applications to Chinese GPU Architectures

Brasil - Migrating CUDA Applications to Chinese GPU Architectures

Canada - Migrating CUDA Applications to Chinese GPU Architectures

中国 - Migrating CUDA Applications to Chinese GPU Architectures

香港 - Migrating CUDA Applications to Chinese GPU Architectures

澳門 - Migrating CUDA Applications to Chinese GPU Architectures

台灣 - Migrating CUDA Applications to Chinese GPU Architectures

USA - Migrating CUDA Applications to Chinese GPU Architectures

Österreich - Migrating CUDA Applications to Chinese GPU Architectures

Schweiz - Migrating CUDA Applications to Chinese GPU Architectures

Deutschland - Migrating CUDA Applications to Chinese GPU Architectures

Czech Republic - Migrating CUDA Applications to Chinese GPU Architectures

Denmark - Migrating CUDA Applications to Chinese GPU Architectures

Estonia - Migrating CUDA Applications to Chinese GPU Architectures

Finland - Migrating CUDA Applications to Chinese GPU Architectures

Greece - Migrating CUDA Applications to Chinese GPU Architectures

Magyarország - Migrating CUDA Applications to Chinese GPU Architectures

Ireland - Migrating CUDA Applications to Chinese GPU Architectures

Luxembourg - Migrating CUDA Applications to Chinese GPU Architectures

Latvia - Migrating CUDA Applications to Chinese GPU Architectures

España - Migrating CUDA Applications to Chinese GPU Architectures

Italia - Migrating CUDA Applications to Chinese GPU Architectures

Lithuania - Migrating CUDA Applications to Chinese GPU Architectures

Nederland - Migrating CUDA Applications to Chinese GPU Architectures

Norway - Migrating CUDA Applications to Chinese GPU Architectures

Portugal - Migrating CUDA Applications to Chinese GPU Architectures

România - Migrating CUDA Applications to Chinese GPU Architectures

Sverige - Migrating CUDA Applications to Chinese GPU Architectures

Türkiye - Migrating CUDA Applications to Chinese GPU Architectures

Malta - Migrating CUDA Applications to Chinese GPU Architectures

Belgique - Migrating CUDA Applications to Chinese GPU Architectures

France - Migrating CUDA Applications to Chinese GPU Architectures

日本 - Migrating CUDA Applications to Chinese GPU Architectures

Australia - Migrating CUDA Applications to Chinese GPU Architectures

Malaysia - Migrating CUDA Applications to Chinese GPU Architectures

New Zealand - Migrating CUDA Applications to Chinese GPU Architectures

Philippines - Migrating CUDA Applications to Chinese GPU Architectures

Singapore - Migrating CUDA Applications to Chinese GPU Architectures

Thailand - Migrating CUDA Applications to Chinese GPU Architectures

Vietnam - Migrating CUDA Applications to Chinese GPU Architectures

India - Migrating CUDA Applications to Chinese GPU Architectures

Argentina - Migrating CUDA Applications to Chinese GPU Architectures

Chile - Migrating CUDA Applications to Chinese GPU Architectures

Costa Rica - Migrating CUDA Applications to Chinese GPU Architectures

Ecuador - Migrating CUDA Applications to Chinese GPU Architectures

Guatemala - Migrating CUDA Applications to Chinese GPU Architectures

Colombia - Migrating CUDA Applications to Chinese GPU Architectures

México - Migrating CUDA Applications to Chinese GPU Architectures

Panama - Migrating CUDA Applications to Chinese GPU Architectures

Peru - Migrating CUDA Applications to Chinese GPU Architectures

Uruguay - Migrating CUDA Applications to Chinese GPU Architectures

Venezuela - Migrating CUDA Applications to Chinese GPU Architectures

Polska - Migrating CUDA Applications to Chinese GPU Architectures

United Kingdom - Migrating CUDA Applications to Chinese GPU Architectures

South Korea - Migrating CUDA Applications to Chinese GPU Architectures

Pakistan - Migrating CUDA Applications to Chinese GPU Architectures

Sri Lanka - Migrating CUDA Applications to Chinese GPU Architectures

Bulgaria - Migrating CUDA Applications to Chinese GPU Architectures

Bolivia - Migrating CUDA Applications to Chinese GPU Architectures

Indonesia - Migrating CUDA Applications to Chinese GPU Architectures

Kazakhstan - Migrating CUDA Applications to Chinese GPU Architectures

Moldova - Migrating CUDA Applications to Chinese GPU Architectures

Morocco - Migrating CUDA Applications to Chinese GPU Architectures

Tunisia - Migrating CUDA Applications to Chinese GPU Architectures

Kuwait - Migrating CUDA Applications to Chinese GPU Architectures

Oman - Migrating CUDA Applications to Chinese GPU Architectures

Slovakia - Migrating CUDA Applications to Chinese GPU Architectures

Kenya - Migrating CUDA Applications to Chinese GPU Architectures

Nigeria - Migrating CUDA Applications to Chinese GPU Architectures

Botswana - Migrating CUDA Applications to Chinese GPU Architectures

Slovenia - Migrating CUDA Applications to Chinese GPU Architectures

Croatia - Migrating CUDA Applications to Chinese GPU Architectures

Serbia - Migrating CUDA Applications to Chinese GPU Architectures

Bhutan - Migrating CUDA Applications to Chinese GPU Architectures

Nepal - Migrating CUDA Applications to Chinese GPU Architectures

Uzbekistan - Migrating CUDA Applications to Chinese GPU Architectures